Topbestuurders waarschuwen voor 'risico's op uitsterven' door AI
Honderden topbestuurders van bedrijven in kunstmatige intelligentie hebben opgeroepen tot meer waakzaamheid over de mogelijke gevaren van de technologie. Een van hen is Sam Altman, topman van het bedrijf dat ChatGPT ontwikkelde.
"Het verkleinen van de risico's op uitsterven als gevolg van AI moet een wereldwijde prioriteit zijn, net zoals andere maatschappelijke risico's zoals pandemieën en kernoorlogen", luidt het korte statement van de bestuurders.
De non-profitorganisatie Center for AI Safety (CAIS) publiceerde de verklaring, die ruim 350 keer is ondertekend. De verklaring verschijnt op hetzelfde moment dat in Zweden politici uit de Europese Unie en de Verenigde Staten samenkomen om te praten over de mogelijkheden om AI-bedrijven aan meer regels te onderwerpen.
Altman leidt het bedrijf OpenAI, dat veel opzien baart met het AI-platform GPT. Dat is bijvoorbeeld via ChatGPT in staat om met kunstmatige intelligentie logisch klinkende teksten te produceren aan de hand van enkele aanwijzingen van de gebruiker. Ook leidinggevenden van AI-bedrijven DeepMind en Anthropic en techconcerns Microsoft en Google ondertekenden de boodschap.
Peetvaders van AI
De onderzoekers Geoffrey Hinton en Yoshua Bengio staan eveneens tussen de ondertekenaars. Zij worden gezien als twee van de drie "peetvaders van AI", omdat zij baanbrekend onderzoek deden naar manieren om computers te laten leren. De derde "peetvader", Yann LeCun, ondertekende de oproep niet, wat zijn werkgever Meta op kritiek kwam te staan. Meta is het moederbedrijf van Facebook en Instagram.
De snelle ontwikkeling van AI-platforms leidt tot zorgen over onder andere de snelheid waarmee desinformatie kan worden verspreid. Ook zijn er zorgen over "intelligente machines" die voor zichzelf zouden kunnen gaan denken.
Onder andere Hinton, die onlangs vertrok bij Google, waarschuwt voor de gevaren als machines slimmer worden dan mensen. Hij noemde de risico's voor de mensheid "urgenter" dan klimaatverandering.
Bron: ANP
Gerelateerd
Advocaten mogen met AI bespaarde uren niet declareren
Advocaten die dankzij de inzet van AI sneller werken, mogen de bespaarde tijd niet bij hun cliënten declareren. Dat stelt de Nederlandse Orde van Advocaten (NOvA)...
Hoe AI eruitziet op een gewone dinsdagochtend op kantoor
In mijn vorige opinie op Accountant.nl schreef ik dat je het personeelstekort niet oplost met een black box. De reacties kwamen bijna allemaal neer op dezelfde vraag:...
Nederlandse positie in AI moet sterker worden
Het kabinet wil meer regie nemen over de ontwikkeling en toepassing van kunstmatige intelligentie. Nederlandse AI-bedrijven moeten gemakkelijker kunnen groeien,...
Financiële verslaggeving AI-sector moet alarmbellen bij accountants laten rinkelen
De enorme risico's die zichtbaar zijn in de financiële verslaggeving van techgiganten, maakt dat er werk aan de winkel is voor accountants, aldus Marcel Pheijffer.
Synergie tussen mens en AI is bepalend voor het succes van accountantskantoren
Klanten vragen naar AI bij hun accountant, jaarrekeningcontroles kunnen met behulp van AI efficiënter en doeltreffender worden verricht. Toch blijft een controle...