Topbestuurders waarschuwen voor 'risico's op uitsterven' door AI
Honderden topbestuurders van bedrijven in kunstmatige intelligentie hebben opgeroepen tot meer waakzaamheid over de mogelijke gevaren van de technologie. Een van hen is Sam Altman, topman van het bedrijf dat ChatGPT ontwikkelde.
"Het verkleinen van de risico's op uitsterven als gevolg van AI moet een wereldwijde prioriteit zijn, net zoals andere maatschappelijke risico's zoals pandemieën en kernoorlogen", luidt het korte statement van de bestuurders.
De non-profitorganisatie Center for AI Safety (CAIS) publiceerde de verklaring, die ruim 350 keer is ondertekend. De verklaring verschijnt op hetzelfde moment dat in Zweden politici uit de Europese Unie en de Verenigde Staten samenkomen om te praten over de mogelijkheden om AI-bedrijven aan meer regels te onderwerpen.
Altman leidt het bedrijf OpenAI, dat veel opzien baart met het AI-platform GPT. Dat is bijvoorbeeld via ChatGPT in staat om met kunstmatige intelligentie logisch klinkende teksten te produceren aan de hand van enkele aanwijzingen van de gebruiker. Ook leidinggevenden van AI-bedrijven DeepMind en Anthropic en techconcerns Microsoft en Google ondertekenden de boodschap.
Peetvaders van AI
De onderzoekers Geoffrey Hinton en Yoshua Bengio staan eveneens tussen de ondertekenaars. Zij worden gezien als twee van de drie "peetvaders van AI", omdat zij baanbrekend onderzoek deden naar manieren om computers te laten leren. De derde "peetvader", Yann LeCun, ondertekende de oproep niet, wat zijn werkgever Meta op kritiek kwam te staan. Meta is het moederbedrijf van Facebook en Instagram.
De snelle ontwikkeling van AI-platforms leidt tot zorgen over onder andere de snelheid waarmee desinformatie kan worden verspreid. Ook zijn er zorgen over "intelligente machines" die voor zichzelf zouden kunnen gaan denken.
Onder andere Hinton, die onlangs vertrok bij Google, waarschuwt voor de gevaren als machines slimmer worden dan mensen. Hij noemde de risico's voor de mensheid "urgenter" dan klimaatverandering.
Bron: ANP
Gerelateerd
Kabinet komt met nationaal toezicht op Europese AI-regels
Om AI-technologie veilig en betrouwbaar te gebruiken, werkt het kabinet aan het nationale toezicht op de Europese AI-verordening. Staatssecretaris Aerdts (Digitale...
(Agentic) AI in de audit: tussen efficiëntie en illusie
Generatieve AI maakt de audit efficiënter, maar verandert de aard van de audit niet wezenlijk, stelt Pieter de Kok.
PwC gaat wereldwijde consultancypraktijk hervormen
PwC gaat de wereldwijde consultancypraktijk hervormen, om de grensoverschrijdende dienstverlening te verbeteren. Dat heeft ook te maken met de opkomst van AI.
AFM wil regels voor inzet AI-tools op kapitaalmarkten
Er moeten duidelijke regels over verantwoordelijkheden komen, voordat AI-hulpmiddelen op grotere schaal worden ingezet bij de handel op kapitaalmarkten. Dat zegt...
Sander Klous: 'Voorbij de AI-hype moeten wetenschap en bedrijfsleven werken aan beheersbaarheid'
Voorbij de AI-hype is het essentieel om te bouwen aan een infrastructuur waarin AI betrouwbaar kan functioneren. Daar ligt een uitdaging waar wetenschap en praktijk...