Koning Charles wil belofte van AI-toplieden om mensheid te beschermen
De Britse koning Charles heeft enkele van de belangrijkste figuren uit de wereld van kunstmatige intelligentie (AI) uitgenodigd, om de verzekering te vragen dat zij hun uitvindingen onder controle kunnen houden. De Britse vorst organiseert de bijeenkomst om te bespreken hoe de technologie "kan worden ingezet ten gunste van de samenleving en de natuurlijke wereld".
"Mensen die waarde hechten aan onze menselijkheid en de essentiële morele component daarvan, zoeken angstig naar de geruststelling dat we de controle over ons lot niet zullen verliezen", aldus koning Charles in zijn toespraak voor de bijeenkomst.
Demis Hassabis, medeoprichter van Google DeepMind, is aanwezig op de bijeenkomst, evenals hoge vertegenwoordigers van Nvidia, ChatGPT-maker OpenAI en Anthropic, bekend van chatbot Claude. Ook de Britse AI-minister Kanishka Narayan behoort tot de gasten.
Bezorgd
De besloten bijeenkomst komt op een moment van groeiende bezorgdheid dat AI een bedreiging vormt voor de mensheid. Zo stapten twee AI-onderzoekers onlangs op bij respectievelijk Google DeepMind en Anthropic, met de waarschuwing dat de technologie dodelijk zou kunnen zijn.
Daarnaast wakkerde Anthropic-topman Dario Amodei recent een wereldwijd debat aan over de toenemende risico's van AI en riep hij op de ontwikkeling van AI-modellen te vertragen om de veiligheid te waarborgen. OpenAI-topman Sam Altman en Hassabis van Google DeepMind sloten zich daarbij aan. Nvidia-topman Jensen Huang en de Amerikaanse president Donald Trump spraken zich echter uit tegen vertraging of verdere regelgeving.
Kernvragen
Tijdens de top zal koning Charles de topbestuurders twee kernvragen voorleggen. "Ten eerste: hoe kunnen we de voordelen van AI benutten, met veiligheid als uitgangspunt? En ten tweede: hoe kunnen we internationale samenwerking en consensus tot stand brengen om dit te bereiken, zodat geen enkel land achterblijft en de toekomst van de mensheid gewaarborgd blijft?"
De vorst heeft zich eerder al in het openbaar over AI uitgelaten. Tijdens de eerste Britse AI-veiligheidstop in 2023 benadrukte hij dat de risico's van deze technologie dringend moesten worden aangepakt.
Bron: ANP
Gerelateerd
Advocaten mogen met AI bespaarde uren niet declareren
Advocaten die dankzij de inzet van AI sneller werken, mogen de bespaarde tijd niet bij hun cliënten declareren. Dat stelt de Nederlandse Orde van Advocaten (NOvA)...
Hoe AI eruitziet op een gewone dinsdagochtend op kantoor
In mijn vorige opinie op Accountant.nl schreef ik dat je het personeelstekort niet oplost met een black box. De reacties kwamen bijna allemaal neer op dezelfde vraag:...
Nederlandse positie in AI moet sterker worden
Het kabinet wil meer regie nemen over de ontwikkeling en toepassing van kunstmatige intelligentie. Nederlandse AI-bedrijven moeten gemakkelijker kunnen groeien,...
Financiële verslaggeving AI-sector moet alarmbellen bij accountants laten rinkelen
De enorme risico's die zichtbaar zijn in de financiële verslaggeving van techgiganten, maakt dat er werk aan de winkel is voor accountants, aldus Marcel Pheijffer.
Synergie tussen mens en AI is bepalend voor het succes van accountantskantoren
Klanten vragen naar AI bij hun accountant, jaarrekeningcontroles kunnen met behulp van AI efficiënter en doeltreffender worden verricht. Toch blijft een controle...
