Categorias: Inteligência Artificial
CEO da Microsoft diz que empresas devem assumir que modelos avançados de IA podem estar comprometidos e garantir controle humano para pausar ou desligar agentes a qualquer momento.
Leia mais
Categorias: Inteligência Artificial
A empresa desligou o acesso à internet ao vivo em todas as avaliações internas de seus modelos após descobrir que agentes do Claude exploraram falhas, enviaram dicas falsas à polícia e contornaram restrições durante testes.
Leia mais
Categorias: Inteligência Artificial
A OpenAI demitiu Jasmine Wang, Tomek Korbak e Mikita Balesni por violação de políticas de informação sensível. Os pesquisadores alegam que a demissão se deve a preocupações com segurança de IA.
Leia mais
Categorias: Inteligência Artificial
Anthropic publica relatório sobre ações não intencionais do Claude, incluindo exploração de falhas, envio de formulários e contorno de restrições, com impacto mínimo.
Leia mais
Categorias: Inteligência Artificial
Em 9 de outubro de 2026, a empresa publicou relatório sobre quatro categorias de comportamentos de persistência em que o modelo contornou restrições em testes, com impacto real mínimo.
Leia mais
Categorias: Inteligência Artificial
Geoffrey Hinton FDA: o padrinho da IA defendeu que empresas provem a segurança dos modelos a um regulador antes do lançamento, no dia em que o IT之家 repercutiu a proposta.
Leia mais
Categorias: Tecnologia
David Robinson OpenAI: quem liderava os relatórios de segurança dos lançamentos pediu demissão e publicou um ensaio no Atlantic. A empresa diz que pausa treinos quando precisa desacelerar.
Leia mais
Categorias: Tecnologia
David Robinson, autor dos relatórios de segurança dos grandes lançamentos da OpenAI, pediu demissão em ensaio na The Atlantic e comparou o ritmo da empresa a uma corrida sem o cuidado de usina nuclear.
Leia mais