OpenAI legt werk aan AI-model Astra deels stil vanwege veiligheidszorgen

Een agent bleek in staat om zonder menselijke tussenkomst kwetsbaarheden te vinden en te misbruiken, en cyberaanvallen uit te voeren. OpenAI zet een deel van het werk aan een AI-model tijdelijk stop vanwege veiligheidszorgen, zo liet het bedrijf vrijdag weten, na een reeks incidenten waarbij AI-agents uit hun afgeschermde omgeving ontsnapten. Het bedrijf had de agent Astra geëvalueerd en constateerde "aanzienlijke vooruitgang in agentic coding en cybersecurity", die een "kritieke" drempel had bereikt waarop de agent zelfstandig kwetsbaarheden kan vinden en misbruiken.