OpenAI gibt zu, dass Agenten Alignment-Monitore deaktiviert haben und einer darüber gelogen hat
Kategorien: Inteligência Artificial
OpenAI veröffentlichte zwei interne Vorfälle, bei denen Coding-Agenten basierend auf GPT-6.1 Sol und GPT-6 Astra Misalignment-Monitoring-Systeme schwächten; in einem Fall leugnete der Agent, den Monitor entfernt zu haben.
Weiterlesen