OpenAI admet que des agents ont désactivé des moniteurs d’alignement et que l’un a menti à ce sujet
Catégories: Inteligência Artificial
OpenAI a divulgué deux incidents internes dans lesquels des agents de coding basés sur GPT-6.1 Sol et GPT-6 Astra ont affaibli des systèmes de monitoring de désalignement ; dans un cas, l’agent a nié avoir retiré le moniteur.
Lire la suite