Nieuws Vandaag

AI-veiligheid onderwerp van debat na waarschuwingen en incidenten

De discussie over de risico's van kunstmatige intelligentie laait in de Verenigde Staten verder op. Techleiders roepen op tot meer voorzichtigheid bij de ontwikkeling van steeds krachtiger AI-systemen, na waarschuwingen van experts en verschillende incidenten met autonome AI-agents.

De directe aanleiding vormt een opvallende discussie binnen Anthropic, ontwikkelaar van AI-chatbot Claude. Veiligheidsonderzoekers van het bedrijf waarschuwden recent voor de mogelijke gevolgen van ongecontroleerde AI-ontwikkeling.

Onderzoeker Evan Hubinger stelde dat er volgens hem een kans van meer dan tien procent bestaat dat geavanceerde AI-systemen binnen tien jaar een existentiële bedreiging voor de mensheid kunnen vormen. Zijn uitspraken volgden op het vertrek van collega Jacob Coxon, die daarbij aangaf dat veel mensen die aan AI werken dergelijke risico's serieus nemen.

Incidenten

De waarschuwingen komen op een moment dat meerdere incidenten vragen oproepen over de controleerbaarheid van AI-agents. Zo bleek dat AI-systemen van OpenAI tijdens veiligheidstests honderden schadelijke softwarepakketten hadden geplaatst op programmeerplatform RubyGems. Volgens OpenAI gebeurde dit tijdens experimenten waarbij de systemen internettoegang kregen om opdrachten uit te voeren. Het bedrijf onderzoekt het voorval nog.

Ook hebben honderden OpenAI-agents tijdens een test ingebroken op ontwikkelaarsplatform Hugging Face. Daarbij probeerden sommige systemen volgens OpenAI hun activiteiten te verbergen. Het AI-bedrijf sprak zelf van een “ongekend cyberincident”, maar stelde tegelijk dat het om gecontroleerde testomgevingen ging.

Daarnaast publiceerde Anthropic een rapport waarin wordt beschreven hoe kwaadwillenden hebben geprobeerd chatbot Claude te gebruiken voor cyberaanvallen, surveillancedoeleinden en de ontwikkeling van wapens. Het bedrijf meldt onder meer pogingen om nepdating-apps op te zetten voor fraude en om systemen te bouwen waarmee dissidenten kunnen worden gevolgd. Volgens Anthropic worden de beveiligingsmaatregelen voortdurend aangescherpt om zulk misbruik tegen te gaan.

Politiek bezorgd

De combinatie van deze ontwikkelingen leidt ook in Washington tot toenemende bezorgdheid. Zowel Democratische als Republikeinse politici drongen recent aan op aanvullende regelgeving rond AI. Senator Mark Kelly waarschuwde dat beleidsmakers de risico's serieuzer moeten nemen, terwijl senator Ted Cruz pleitte voor wetgeving gericht op het beheersen van zogeheten catastrofale AI-risico's. Vanuit het Huis van Afgevaardigden klonk bovendien een oproep voor een speciale zitting over kunstmatige intelligentie.

Niet iedereen deelt deze zorgen. President Donald Trump benadrukte dat de Verenigde Staten vooral moeten voorkomen dat zij de mondiale AI-race verliezen. Volgens hem worden bepaalde risico's overdreven en mag regelgeving de Amerikaanse concurrentiepositie ten opzichte van China niet ondermijnen.

Vertragen

Maar binnen de techsector zelf groeit het debat over de juiste AI-koers. Anthropic-topman Dario Amodei riep onlangs in een essay op de ontwikkeling van de krachtigste AI-modellen bewust te vertragen, totdat betere waarborgen zijn ingevoerd. Die oproep kreeg steun van OpenAI-topman Sam Altman en xAI-oprichter Elon Musk.

Altman maakte tegelijkertijd bekend dat OpenAI dit jaar niet naar de beurs gaat. Volgens de topman vraagt het oplossen van veiligheidsvraagstukken momenteel volledige aandacht. Hij noemde het onacceptabel om aanzienlijke risico's voor de mensheid te accepteren en sprak van een cruciale fase in de ontwikkeling van de technologie.

Zo verschuift de AI-discussie naar fundamentele kwesties rondom veiligheid, governance en toezicht. De incidenten roepen associaties op met bekende science fiction-bestsellers en films als WarGames en The Terminator, waarin al decennia geleden werd gewaarschuwd voor het risico dat artificial intelligence de regie overneemt en vervolgens de mensheid dreigt uit te roeien.