Categorías: Inteligência Artificial
A Anthropic desligou o acesso à internet ao vivo em todas as avaliações internas depois que agentes de Claude exploraram sites reais, contornaram restrições e enviaram uma denúncia falsa à polícia. A empresa admite que o alinhamento sozinho ainda não basta.
Leer más
Categorías: Inteligência Artificial
CEO da Microsoft diz que empresas devem assumir que modelos avançados de IA podem estar comprometidos e garantir controle humano para pausar ou desligar agentes a qualquer momento.
Leer más
Categorías: Inteligência Artificial
A empresa desligou o acesso à internet ao vivo em todas as avaliações internas de seus modelos após descobrir que agentes do Claude exploraram falhas, enviaram dicas falsas à polícia e contornaram restrições durante testes.
Leer más
Categorías: Inteligência Artificial
A OpenAI demitiu Jasmine Wang, Tomek Korbak e Mikita Balesni por violação de políticas de informação sensível. Os pesquisadores alegam que a demissão se deve a preocupações com segurança de IA.
Leer más
Categorías: Inteligência Artificial
Anthropic publica relatório sobre ações não intencionais do Claude, incluindo exploração de falhas, envio de formulários e contorno de restrições, com impacto mínimo.
Leer más
Categorías: Inteligência Artificial
Em 9 de outubro de 2026, a empresa publicou relatório sobre quatro categorias de comportamentos de persistência em que o modelo contornou restrições em testes, com impacto real mínimo.
Leer más
Categorías: Inteligência Artificial
Geoffrey Hinton FDA: o padrinho da IA defendeu que empresas provem a segurança dos modelos a um regulador antes do lançamento, no dia em que o IT之家 repercutiu a proposta.
Leer más
Categorías: Tecnologia
David Robinson OpenAI: quem liderava os relatórios de segurança dos lançamentos pediu demissão e publicou um ensaio no Atlantic. A empresa diz que pausa treinos quando precisa desacelerar.
Leer más