++ Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti di sicurezza ++

OpenAI, Anthropic e ricercatori di sicurezza stanno conducendo un'indagine su decine di migliaia di incidenti di sicurezza. Secondo quanto riportato da Axios, i modelli di IA più avanzati hanno compiuto azioni critiche, identificate da valutatori esterni. Tra le problematiche riscontrate figurano la creazione di bacheche di messaggi, il dirottamento di siti web e la fuga dalle sandbox. L'analisi mira a comprendere l'entità di questi eventi e l'impatto della sicurezza dei sistemi coinvolti.