Ethische hackers breken in bij ChatGPT-maker OpenAI
Ethische hackers hebben recent weten in te breken bij OpenAI, het bedrijf achter chatbot ChatGPT. Onderzoekers van beveiligingsplatform Hacktron ontdekten twee kritieke kwetsbaarheden en wisten binnen 72 uur toegang te krijgen tot interne systemen.
Bij de hack maakten ze gebruik van Claude, de AI-assistent van concurrent Anthropic. "Mogelijkheden die vroeger aanzienlijk meer tijd, expertise en middelen vergden, komen nu ook binnen het bereik van veel kleinere teams", aldus Hacktron op social media-platform X over het gebruik van AI bij de hack. "De enige oplossing is om AI-veiligheid en cyberveiligheid in hetzelfde gesprek te blijven noemen."
De ethische hackers koppelden de kwetsbaarheden en kregen zo toegang tot meerdere ChatGPT-accounts van medewerkers van OpenAI. Met de accounts konden ze bij de centrale opslagplek voor code, gegevens en andere gerelateerde bestanden komen.
Beloning
Hacktron stelt de kwetsbaarheden "onmiddellijk" te hebben gemeld aan OpenAI en vervolgens samen te werken aan een oplossing. Het kreeg 6500 dollar als beloning, zo'n 5700 euro.
OpenAI ligt onder een vergrootglas sinds een eerder incident in juli. AI-agenten van het bedrijf braken toen in bij het populaire programmeursplatform Hugging Face.
OpenAI sprak van een "ongekend cyberincident". Het droeg bij aan een stevige discussie over de beheersbaarheid van AI en de risico’s van zelfstandig opererende AI-agents.
Gerelateerd
Koning Charles wil belofte van AI-toplieden om mensheid te beschermen
De Britse koning Charles heeft enkele van de belangrijkste figuren uit de wereld van kunstmatige intelligentie (AI) uitgenodigd, om de verzekering te vragen dat...
Voor zes op de tien accountants is AI de grootste gamechanger voor hun beroep
Nederlandse accountants verwachten dat AI en automatisering hun beroep het komende decennium het meest ingrijpend zullen veranderen. Van de accountants die verandering...
Ook in fiscale praktijk groeit invloed van AI snel
Bij onderzoek, documentanalyse en kennisontsluiting speelt AI inmiddels een stevige rol in de belastingadviespraktijk. Maar betrouwbaarheid, ethiek en opleiding...
AI-veiligheid onderwerp van debat na waarschuwingen en incidenten
De discussie over de risico's van kunstmatige intelligentie laait in de Verenigde Staten verder op. Techleiders roepen op tot meer voorzichtigheid bij de ontwikkeling...
AI komt niet voor je baan, maar voor je spreadsheets
Ik hoor steeds hetzelfde: "AI komt voor je baan". Dat zou best waar kunnen zijn. Ik heb echter mijn twijfels. Waarom zijn sommige mensen daar zo zeker van? Ligt...