Stephen Hawking waarschuwt voor de opstand van computers

Computers zullen ‘in de niet al te verre toekomst een reëel gevaar vormen’, aldus de beroemde Engelse natuurkundige Stephen Hawking. Ze worden zo snel slimmer dat ze zichzelf op eigen kracht zullen gaan verbeteren. ‘De ontwikkeling van volledige kunstmatige intelligentie kan het einde van het menselijk ras inluiden’.

Volgens de Volkskrant heeft de ‘rolstoelkosmoloog’ een nieuwe software-update gehad en kan Hawking nu twee keer zo snel schrijven en spreken als voorheen – wat hij uit zichzelf niet kan vanwege zijn ziekte ALS. Een half jaar geleden liet hij ook al van zich horen. Toen kwam de sciencefictionfilm Transcendence uit. Johnny Depp veranderde in de film in bits en bytes. Volgens Hawking kan het ‘de grootste vergissing in de geschiedenis zijn’ als we die film niet serieus nemen.

‘We moeten een aantal bedreigingen voor onze overleving onder ogen zien. En het aantal bedreigingen neemt waarschijnlijk toe in de toekomst’.  Het beste is de aarde te ontvluchten en een andere planeet te koloniseren. Niet dat dat zonder risico is, gaf hij toe. Hawking acht de kans op een wereldramp bijna zeker.

Hij is niet de enige die waarschuwt. Ook Elon Musk, oprichter van PayPal en Tesla, zei tijdens een recent debat dat hij binnen 5 tot 10 jaar ‘iets serieus gevaarlijks’ rond kunstmatige intelligentie ziet gebeuren.

Bron(nen):   De Volkskrant      

18 Reacties Doe mee met de discussie →


  1. vandehoedenderand

    Vergeet Dijsselbloem niet. Die waarschuwde onlangs ook al voor robots.

    Hawkins heeft er in het verleden vaker naast gezeten. Wat zwarte gaten betreft. Briljant man natuurlijk. Daar niet van. Maar dit soort onzin is overbodig. Heeft ie niet nodig. Alhoewel, ik las laatst dat ie de schurk in James Bond wil spelen. Misschien hengelt ie daar naar met dit soort uitspraken.

    • Dead Silence

      De Susskind-Hawking battle heette dat en duurde 20 jaar. Hawking verloor inderdaad. Het betrof niet zwarte gaten zelf, maar over behoud van informatie.

      (in antwoord op vandehoedenderand)
    • Apekool

      Even los van wie de uitspraken doen: de trend in (micro)processor- en computerland is naar grootschalige parallelliteit, dus veel rekeneenheden die tegelijk aan iets werken of juist tegelijk aan verschillende zaken werken.
      Het menselijk brein kan dat niet goed bevatten, we zijn tamelijk serieel.

      Evengoed willen we al die rekenkracht goed benutten, een manier om dat efficiënt te gaan doen is meta-programma’s te maken – computerprogramma’s die computerprogramma’s maken of optimaliseren. Een andere manier is zelflerende computers, bijvoorbeeld via logisch programmeren (gedragsregels) of neurale netwerken.

      Wij mensen zullen niet in staat zijn om de synthetische programma’s te doorgronden, en zullen een ontsporing dus te laat ontdekken.

      Hoe erg gaat het fout? Day hang af van de sensors en actuatoren die je aan de computer plakt – een slimme rekendoos met alleen een toetsenbord kan mij aanvallen met de CD-la, een drone kan mij doodschieten.

      (in antwoord op vandehoedenderand)
      • John Erps

        Apekool, wat een apekool! Het menselijk brein is juist massief parallel. Computers zijn juist serieel (ja je kunt ze parallel schakelen maar een processor verwerkt simpelweg serieel).

        (in antwoord op Apekool)
        • Apekool

          Massief parallel voor routinezaken ja, meer niet voor zaken die je aandacht nodig hebben.

          Ademen, lopen en telefoneren gaan prima samen – maar combineer dat met autorijden (bijna routine, maar je moet op het verkeer letten) en het gaat mis.

          Misschien heb je het gemist, maar zelfs je telefoontje heeft meerdere processor-cores die daadwerkelijk parallel werken.

          (in antwoord op John Erps)
          • John Erps

            Niet “routine” zaken, gewoon alles. Wat je waarschijjnlijk bedoeld is dat je je maar op 1 taak kan focussen. De werking van het brein (waarvan je je maar een klein deel bewust bent), en daar hebben we het over, is massief parallel (bij gebrek aan betere omschrijving). En ik heb helemaal niks gemist. Als je kunt lezen had je kunnen zien dat ik geschreven had dat processoren parallel geschakeld kunnen worden. Gewoon te vergelijken met meerder PC’s naast elkaar zetten die dan “parallel” werk doen. Fundamenteel is het brein massief parallel. De computer (processor) juist niet die gekenmerkt wordt door het – wel heel snel – achter elkaar uitvoeren van simpele instructies.

            (in antwoord op Apekool)
          • Apekool

            Na je lange brij van niet ter zake doende vergelijkingen met het menselijk brein ben je nog altijd niet op de inhoud ingegaan – mag ik raden, je bent student psychologie?

            (in antwoord op John Erps)
          • John Erps

            Nee ik werk bij Artis. Raad eens . . .

            (in antwoord op Apekool)
          • John Erps

            Btw, er is geen vergelijking tussen brein en computer. Enige overeenkomst is dat ze beide informatie verwerken. Vroeger (19e eeuw) werd het brein vergeleken met wat toen de meest geavanceerde tech was, namelijk een uurwerk. Sloeg ook nergens op.

            (in antwoord op Apekool)
  2. IwanovKapotjeplov

    SF schrijver Frank Herbert had het er al over in zijn Dune serie: http://en.wikipedia.org/wiki/Butlerian_Jihad

  3. AT

    Zelf ben ik leunstoelwetenschapper maar zie wel in wat Hawking bedoeld. Alleen denk ik niet zozeer dat robots of computers het ‘overnemen’. Ik denk eerder dat wij ons verder overleveren aan technologie en daarmee een kentering in de menselijke evolutie in gang zetten. In tegenstelling tot de veelgebruikte parallel met de industriële revolutie gaat het hier niet alleen om arbeid en transport (lichamelijke activiteiten), maar zelfs om geestelijke activiteiten zoals bewustzijn, denken en communicatie.

    Ons hele realiteitsbeeld wordt door moderne technologie veranderd. Klein maar goed voorbeeld is de robothulp in een bouwmarkt in de VS die ik ergens op TV (jaja) zag. Deze helpt je producten zoeken en loopt voor je uit. Superhandig natuurlijk, maar dit soort dingen zorgen er ook voor dat we zelf helemaal niet meer hoeven na te denken, te zoeken en nieuwsgierig te zijn. Deze dagelijkse stimulansen van de geest zijn wel essentieel om te overleven en vindingrijk te blijven.

  4. Dead Silence

    Ondertussen in Terminator 75: “Rise of the human beings”…..

  5. Desperanto

    Voor de liefhebbers kan ik de Amerikaanse serie Person of Interest en de Canadese serie Continuum aanbevelen.

  6. Burgermans

    Als mijn computer opstandig wordt zet ik hem gewoon uit.

  7. Tegendraads

    De realisatie in dezen bij de gemiddelde burger is als een kikker in langzaam opwarmend water dat op het vuur staat…

    AI is going to happen. Maar of we er niet aan ten onder gaan is aan ons.

  8. harrr

    Die Hawkins moet zich bezig houden met *natuurkunde*. Daar heeft hij WEL verstand van.
    Hij heeft ook al eens domme dingen gezegd over UFO’s .
    En deze blaat valt wat mij betref in dezelfde categorie.

Reacties niet toegestaan