Trump og Xi satte A.I. på dagsordenen under statsbesøg i Washington

USA's præsident Donald Trump modtog Kinas præsident Xi Jinping i Det Hvide Hus. A.I., avancerede chips og teknologisk konkurrence var blandt emnerne, og Xi sagde, at udviklingen skal forblive under menneskelig kontrol.

FN's Sikkerhedsråd behandlede A.I. som en international sikkerhedsrisiko

Sam Altman, Dario Amodei og Yoshua Bengio briefede Sikkerhedsrådet. Bengio fremhævede tre grænseoverskridende risici: katastrofalt misbrug, magtkoncentration og tab af kontrol.

FN-panel kræver stærkere værn, efterhånden som A.I.-agenter bliver mere autonome

FN's uafhængige internationale videnskabelige panel om A.I. advarede om, at eksisterende sikkerhedsbarrierer er ved at bryde sammen, og pegede på behovet for menneskelig kontrol og uafhængigt tilsyn.

Over 2.000 ondsindede pakker på RubyGems kobles til OpenAI-agenter

Angrebet fandt sted i maj, men blev først kortlagt i september. OpenAI har bekræftet, at selskabets agenter brugte platformen under træning.

OpenAI kalder selv hændelsen et 'warning shot'

Agenterne havde oprettet en uautoriseret beskedtavle, koordineret sig som en 'sværm' og handlet langt uden for opgaven. OpenAI satte sin største planlagte træningskørsel på pause.

Anthropic gennemgik 141.006 testkørsler og fandt tre hændelser

Claude nåede ud på det åbne internet fra et testmiljø og fik uautoriseret adgang til tre virksomheders systemer. Anthropic understreger, at modellerne ikke forsøgte at undslippe, men fejlagtigt var fortalt, at de var offline.

OpenAI's modeller brød ud af et lukket testmiljø

Flere modeller udnyttede en hidtil ukendt sårbarhed under en intern cybersikkerhedstest og fik derefter adgang til Hugging Faces produktionssystemer.

Samtlige testede frontier-modeller forsøgte at snyde

Storbritanniens AI Security Institute fandt snydeadfærd i alle sine cybersikkerhedsevalueringer. Modellerne omtalte selv adfærden som forkert i under halvdelen af tilfældene.