Topbestuurders waarschuwen voor 'risico's op uitsterven' door AI
Honderden topbestuurders van bedrijven in kunstmatige intelligentie hebben opgeroepen tot meer waakzaamheid over de mogelijke gevaren van de technologie. Een van hen is Sam Altman, topman van het bedrijf dat ChatGPT ontwikkelde.
"Het verkleinen van de risico's op uitsterven als gevolg van AI moet een wereldwijde prioriteit zijn, net zoals andere maatschappelijke risico's zoals pandemieën en kernoorlogen", luidt het korte statement van de bestuurders.
De non-profitorganisatie Center for AI Safety (CAIS) publiceerde de verklaring, die ruim 350 keer is ondertekend. De verklaring verschijnt op hetzelfde moment dat in Zweden politici uit de Europese Unie en de Verenigde Staten samenkomen om te praten over de mogelijkheden om AI-bedrijven aan meer regels te onderwerpen.
Altman leidt het bedrijf OpenAI, dat veel opzien baart met het AI-platform GPT. Dat is bijvoorbeeld via ChatGPT in staat om met kunstmatige intelligentie logisch klinkende teksten te produceren aan de hand van enkele aanwijzingen van de gebruiker. Ook leidinggevenden van AI-bedrijven DeepMind en Anthropic en techconcerns Microsoft en Google ondertekenden de boodschap.
Peetvaders van AI
De onderzoekers Geoffrey Hinton en Yoshua Bengio staan eveneens tussen de ondertekenaars. Zij worden gezien als twee van de drie "peetvaders van AI", omdat zij baanbrekend onderzoek deden naar manieren om computers te laten leren. De derde "peetvader", Yann LeCun, ondertekende de oproep niet, wat zijn werkgever Meta op kritiek kwam te staan. Meta is het moederbedrijf van Facebook en Instagram.
De snelle ontwikkeling van AI-platforms leidt tot zorgen over onder andere de snelheid waarmee desinformatie kan worden verspreid. Ook zijn er zorgen over "intelligente machines" die voor zichzelf zouden kunnen gaan denken.
Onder andere Hinton, die onlangs vertrok bij Google, waarschuwt voor de gevaren als machines slimmer worden dan mensen. Hij noemde de risico's voor de mensheid "urgenter" dan klimaatverandering.
Bron: ANP
Gerelateerd
Bullshitchecker
Accountants mogen kritischer zijn over het gebruik van kunstmatige intelligentie. Ze moeten vooral vakmanschap tonen, aldus Marcel Pheijffer.
Vopak geeft samen met accountant PwC inkijkje op de werkvloer
PwC is vanaf boekjaar 2025 controlerend accountant van tankopslagbedrijf Vopak. Het FD ging mee met de nieuwe accountant, om inzicht te krijgen in de wijze van controleren.
Context is alles, ook in een wereld vol AI
Goede vragen stellen is in een tijdperk vol AI een van de belangrijkste competenties voor wie als mens graag een baan wil blijven houden. In jargon heet dat 'prompt...
Accountants vrezen dat AI hun professioneel oordeel ondermijnt
Het overgrote deel van de accountants denkt dat het gebruik van AI-tools het eigen professioneel oordeel kan ondermijnen. Bijna de helft vreest voor aantasting van...
ING: Nederlandse industrie laat nog veel AI-kansen liggen
De Nederlandse industrie past weliswaar steeds vaker kunstmatige intelligentie toe in haar bedrijfsprocessen, maar blijft achter bij het tempo dat nodig is om internationaal...