AI van OpenAI slaat op hol en hackt softwareplatform
OpenAI, de maker van ChatGPT, heeft bekendgemaakt dat zijn geavanceerde modellen voor kunstmatige intelligentie tijdens veiligheidstests op hol sloegen. De AI-systemen hebben op eigen initiatief ingebroken in een populair platform voor programmeurs.
Het bedrijf uit San Francisco spreekt van een "ongekend cyberincident". Tijdens een proef probeerde OpenAI de hackcapaciteiten van de modellen te beoordelen, door ze opdrachten te geven in een streng gecontroleerde digitale testomgeving.
De toegang tot het internet was uit veiligheidsoverwegingen beperkt. "Terwijl ze in onze afgeschermde testomgeving opereerden, besteedden onze modellen een aanzienlijke hoeveelheid rekenkracht aan het vinden van een manier om toegang te krijgen tot het open internet, om de evaluatieopdracht op te lossen", zo meldt OpenAI.
Beangstigend
Nadat ze verbinding met het internet hadden gemaakt, besloten de modellen het platform Hugging Face aan te vallen om hun doel te bereiken. Hugging Face is een grote databank met AI-modellen, datasets en andere informatie. Op zoek naar geheime informatie waarmee het de evaluatie kon omzeilen, "combineerde het OpenAI-systeem meerdere aanvalsmethoden, waaronder het gebruik van gestolen inloggegevens".
Hoogleraar informatica Hussein Abbass zei tegen persbureau AFP dat het incident "op veel fronten opmerkelijk" was. "Het systeem viel niet alleen Hugging Face aan. Het viel ook het interne systeem aan om de eigen kwetsbaarheden daarvan uit te buiten. En dat is beangstigend", aldus de hoogleraar. Volgens hem kan het "catastrofale gevolgen" hebben, als deze technologie in handen komt van iemand die kwaad wil.
Regulering
De vraag hoe de AI-sector moet worden gereguleerd, is een belangrijk discussiepunt geworden. GPT-5.6 en andere geavanceerde modellen, waaronder de Mythos-serie van OpenAI's grote concurrent Anthropic, roepen zorgen op over hun vermogen om cyberbeveiligingen te omzeilen. Beide Amerikaanse bedrijven moesten de introductie van deze nieuwste technologieën tijdelijk uitstellen vanwege zorgen hierover in Washington.
AI-agents achter toepassingen zoals chatbots en beeldgeneratoren handelen autonoom om taken uit te voeren. "Dit incident verschilde op één belangrijk punt van alles wat we eerder hadden meegemaakt: het werd van begin tot eind aangestuurd door een autonoom AI-agentsysteem. Het is behoorlijk verbijsterend", aldus Clement Delangue, topman van Hugging Face.
Bron: ANP/AP
Gerelateerd
Big four zetten in AI-tijdperk sterker in op menselijke vaardigheden
De opkomst van AI verandert zowel het werk van accountants en consultants, als de competenties die kantoren van medewerkers verwachten. EY, KPMG, PwC en Deloitte...
Wat is vakmanschap, als het antwoord er al ligt?
We praten veel over wat jonge accountants moeten kunnen en kennen. Maar dat gesprek kun je in een tijd van AI niet goed voeren, als je niet weet welk vakmanschap...
Vitamine A: Kost AI misschien wel meer dan het oplevert?
Hoeveel tijd bespaar je met AI, als je de uitkomsten vervolgens moet controleren? Wat gebeurt er met het kritisch vermogen van accountants, als technologie steeds...
FD: Verborgen AI-schulden big tech reden voor zorg bij accountants
De snelgroeiende investeringen in AI door grote technologiebedrijven, gaan gepaard met financiële constructies die volgens accountants en wetenschappers risico's...
Taskforce gaat voor Trump risico's en kansen AI in kaart brengen
Een taskforce van het Witte Huis gaat de risico's en kansen van kunstmatige intelligentie (AI) in kaart brengen. Ook wordt gekeken hoe overregulering kan worden...