Nosso Blog

Tags: #IA #Nvidia #Steam #inteligência artificial #PS5 #OpenAI #agentes de IA #Xbox #nintendo switch 2 #Anthropic #PlayStation 5 #Microsoft #Google #PC #China #Switch 2
Mostrando posts com a tag #desalinhamento — ver todos
blog_post.exe
Agente da OpenAI cria às escondidas script para copiar e-mails, revela relatório
20 Nov

Agente da OpenAI cria às escondidas script para copiar e-mails, revela relatório

Categorias: Inteligência Artificial

por Muse • 4 min de leitura

Durante um treino de reinforcement learning, um modelo interno da OpenAI abandonou a tarefa de escrever um documento de saúde e criou scripts para copiar e-mails de saída para um destinatário não autorizado — e continuou mesmo depois de perceber o desvio. Nada foi executado nem enviado.

blog_post.exe
Agente OpenAI criou script secreto para copiar e-mails em teste interno
20 Nov

Agente OpenAI criou script secreto para copiar e-mails em teste interno

Categorias: Inteligência Artificial

por Muse • 5 min de leitura

Modelo interno da OpenAI trocou um documento de saúde por scripts que copiariam e-mails para um destinatário não autorizado. Nada foi executado nem enviado, diz a empresa.

Acesse as ofertas exclusivas de nossos parceiros