Het waren maar 22 woorden, maar wel hele grote woorden. Niets minder dan het voortbestaan van de mensheid zou op het spel staan, schrijft NRC.
Drie van de grote ontwikkelaars van kunstmatige intelligentie (AI) waarschuwden dinsdag in een verklaring voor het gevaar van hun eigen product. Met iets meer woorden in het Nederlands: „Beperking van het risico op uitsterving door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico’s die de hele samenleving raken zoals pandemieën en kernoorlogen.”
Inmiddels hebben meer dan 350 mensen, van wie er velen zelf aan AI werken, de verklaring ondertekend. Uit dezelfde hoek verscheen in maart al een bezorgde open brief, waarin werd opgeroepen tot een pauze van zeker zes maanden in de ontwikkeling van AI. De bedrijven die AI ontwikkelen zouden „verstrikt zijn in een uit de hand gelopen race om steeds krachtiger digitale breinen te ontwikkelen en in te zetten, die niemand kan begrijpen, voorspellen of betrouwbaar onder controle kan houden”. (…)
Controle verliezen
(In de open brief in maart werd gewaarschuwd) … dat AI ervoor kan zorgen dat de media overstroomd worden met propaganda en onjuiste informatie. Dat „niet-menselijke breinen” ons mensen op den duur overbodig kunnen maken. Dat alle banen, „ook de bevredigende”, geautomatiseerd kunnen worden, en dat we zo „de controle over onze beschaving verliezen”. Nader onderzoek naar de gevaren werd bepleit, en ook regulering, om te komen tot kunstmatige intelligentie die veilig, betrouwbaar, transparant en zelfs, alsof het om een menselijke wezen gaat, „loyaal” is.
Afgelopen maanden hebben AI-critici ook andere sombere scenario’s geschetst. AI zou leiden tot een tsunami van hacks van zo’n beetje alle vormen van digitale beveiliging die we nu kennen. Autonome wapensystemen zouden met AI tot een revolutie in de oorlogsvoering kunnen leiden. Het maken van chemische en biologische wapens zou opeens binnen ieders bereik komen. En op de achtergrond duikt steeds het vage schrikbeeld op van computersystemen met menselijke eigenschappen die de echte mens overvleugelen.
