Kan Kunstmatige Intelligentie De Mensheid Redden Of Verwoesten?

De discussie over de toekomst van kunstmatige intelligentie (AI) is doordrenkt van tegenstrijdige meningen en intense emoties. Recentelijk stond het onderwerp van kunstmatige algemene intelligentie (AGI), een geavanceerde vorm van AI die in staat is om te redeneren en te leren over een breed scala van taken, centraal in een paneldiscussie georganiseerd door Humanity+. Onder de deelnemers bevonden zich prominente stemmen uit de technologische en transhumanistische hoek, waaronder de bekende AI-criticus Eliezer Yudkowsky, futurist Max More, en anderen. Hun uitwisseling onthulde een fundamenteel conflict: kan AGI de mensheid redden of is het een recept voor de ondergang?

Yudkowsky uitte stevige twijfels over de veiligheid van moderne AI-systemen. Hij wees erop dat de interne besluitvorming in deze systemen vaak ondoorzichtig en moeilijk te beheersen is. Met de opmerking dat “alles dat een black box is, waarschijnlijk vergelijkbare problemen zal vertonen als de huidige technologie,” riep hij op tot een radicale heroverweging van de manier waarop we AI ontwikkelen. Het idee van een “paperclip maximizer”, een hypothetische AI die gefixeerd is op het maken van paperclips ten koste van de mensheid, maakte zijn punt extra duidelijk. Yudkowsky’s boodschap was helder: zonder een significante verandering in onze benadering zou een dergelijke AI een existentiële bedreiging kunnen vormen.

AGI wordt vaak geassocieerd met de technologische singulariteit, een moment waarop machines zichzelf sneller kunnen verbeteren dan de mens kan begrijpen. Dit inzicht legt ernstige ethische en praktische vraagstukken bloot. Yudkowsky, die een boek schreef met de provocerende titel “If Anyone Builds It, Everyone Dies”, drukt zijn overtuiging uit dat de ontwikkeling van ongecontroleerde AI ons allemaal in gevaar kan brengen.

De Voordelen van Vooruitgang

Tegen deze sombere voorspellingen in, pleitte Max More voor de mogelijke voordelen van AGI. Volgens hem ligt er een enorme kans om de dood en ziekte, vooral veroudering, te tackelen. “We zijn allemaal op weg naar een catastrofe, één voor één,” zei hij. Dit onderstreept de urgentie van het ontwikkelen van technologie die ons in staat stelt om dergelijke existentiële bedreigingen het hoofd te bieden. More’s standpunt stelt de vraag wat er zou gebeuren als overmatige terughoudendheid regeringen dwingt tot autoritaire maatregelen om de ontwikkeling van AI te beteugelen.

Anders Sandberg, een persoonlijke getuige van de gevaren van krachtige AI, vond een middenweg. Hij herinnert zich een probleem waarbij hij overwoog een grote taalmodel te gebruiken bij het ontwerpen van een bioweapon, een ervaring die hij als “afschuwelijk” beschrijft. Sandberg ziet ruimte voor “bijna veiligheid,” in tegenstelling tot de eis voor perfecte veiligheid, wat suggereert dat zelfs een gedeeltelijk veilige benadering acceptabel kan zijn.

Een ander belangrijk aspect van de discussie was de bredere toepasbaarheid van de ‘alignment’-debate; de overtuiging dat AI-ontwikkelingen kunnen worden afgestemd op menselijke waarden. Natasha Vita-More zag deze discussie als ‘overoptimistisch’ en stelde dat het idee van een perfect afgestemde AI niet alleen onrealistisch is, maar ook gevaarlijk omdat het geen alternatieven voor mogelijke uitkomsten overweegt. Haar kritiek richtte zich op de absolutistische opvatting dat AGI onherroepelijk tot uitroeiing zal leiden, wat volgens haar geen ruimte laat voor andere scenario’s.

Tijdens de discussie kwam ook het idee naar voren dat hechtere integratie tussen mens en machine de risico’s van AGI zou kunnen verlichten. Terwijl Yudkowsky deze suggestie afwees als een vreemd idee (“mergen met je broodrooster”), pleitten Sandberg en Vita-More voor de noodzaak van deze integratie in een post-AGI-samenleving. Dit alles onderstreept de noodzaak tot zelfreflectie over onze rol als menselijke wezens in de toekomst die voor ons ligt.

Vraag & Antwoord

Wat zijn de belangrijkste risico’s van AGI, volgens Yudkowsky?
Yudkowsky waarschuwt dat de interne besluitvorming van moderne AI-systemen ondoorzichtig is, wat kan leiden tot onveilige situaties. Hij benadrukt dat zonder een fundamentele heroverweging van onze aanpak, AGI een existentiële bedreiging kan vormen.

Waarom gelooft More dat AGI ons kan helpen?
More pleit dat AGI een onmisbare kans biedt om dood en ziekte, vooral veroudering, te bestrijden. Hij maakt zich zorgen dat te veel terughoudendheid kan leiden tot autoritaire maatregelen tegen AI-ontwikkeling.

Welke bemiddelende rol nam Sandberg op zich in de discussie?
Sandberg identificeert zich als een voorzichtige optimist die gelooft dat er ruimte is voor ‘bijna veiligheid’, in plaats van vereist te zijn van perfecte veiligheid, om te voorkomen dat AI een bedreiging vormt.