OpenAI gehackt met AI-model van concurrent Anthropic
De onderzoekers gebruikten voor hun hack Claude Opus 5, een van de nieuwste krachtige AI-assistenten van het Amerikaanse bedrijf Anthropic. Ze kregen toegang tot meerdere ChatGPT-accounts van medewerkers van OpenAI. Met de accounts konden ze bij de centrale opslagplek voor code, gegevens en andere gerelateerde bestanden komen.
"Mogelijkheden die vroeger aanzienlijk meer tijd, expertise en middelen vergden, komen nu ook binnen het bereik van veel kleinere teams", schrijft Hacktron in een bericht op X over het gebruik van Claude bij de hack.
Ethische hackers
De betrokken onderzoekers van Hacktron zijn zogeheten ethische hackers. Die zoeken naar zwakke plekken in de digitale systemen van bedrijven en organisaties, en melden die netjes voordat er misbruik van gemaakt kan worden.
Het is niet de eerste keer dat OpenAI in opspraak komt. Bij het testen van een nieuw AI-model ging het mis deze zomer. Tijdens een test vonden twee van hun krachtigste AI-modellen een weg uit een afgesloten digitale testomgeving, vonden een weg naar het internet en braken in bij het populaire programmeursplatform Hugging Face.
Incident na incident: verliezen bedrijven de menselijke controle over hun AI?
Volgens OpenAI zijn de problemen, waardoor het systeem kwetsbaar werd voor hackers, opgelost. "We zijn de onderzoekers van Hacktron dankbaar dat ze ons hebben geïnformeerd", zegt OpenAI tegen The Wall Street Journal.
AI-bazen waarschuwen voor rampscenario's nu AI steeds slimmer wordt, zie je in deze video:
