Categorias: Tecnologia
A empresa adicionou quatro casos de junho à sua página de relatórios de misalignment, elevando o total para 19. Dois foram classificados como críticos e envolveram acesso não autorizado a dados e recursos.
Leia mais
Categorias: Tecnologia
Anthropic anunciou em 15 de outubro de 2026 que deu a seis pesquisadores da METR acesso de nível de funcionário a seus sistemas, permitindo avaliações independentes de riscos sem direito de veto da empresa sobre publicações.
Leia mais
Categorias: Inteligência Artificial
Jensen Huang anuncia doação de acesso a computação no valor de US$ 250 milhões ao longo de cinco anos para fortalecer pesquisas de segurança de agentes de IA no Reino Unido, apoiando labs em Oxford, UCL e Imperial College.
Leia mais
Categorias: Inteligência Artificial
A empresa por trás do Claude expandiu suas operações na Ásia-Pacífico e firmou um memorando de entendimento com o Ministério de Desenvolvimento Digital de Singapura para cooperar em avaliação de modelos e adoção responsável.
Leia mais
Categorias: Inteligência Artificial
ByteDance segurança IA avança com o departamento Seed Model - Alignment & Preparedness, primeiro standalone em lab de fronteira chinês.
Leia mais
Categorias: Inteligência Artificial
Abdulrahman Alfozan, engenheiro saudita, foi preso após a OpenAI usar seus próprios modelos de IA para identificar quem plantou um aparelho de áudio escondido em uma sala de reuniões de executivos.
Leia mais
Categorias: Inteligência Artificial
Anthropic anuncia que novas defesas cortaram em 90% a 99% os dados extraídos de modelos Claude em ataques de destilação Claude, focando na proteção do raciocínio.
Leia mais
Categorias: Inteligência Artificial
A Anthropic desligou o acesso à internet ao vivo em todas as avaliações internas depois que agentes de Claude exploraram sites reais, contornaram restrições e enviaram uma denúncia falsa à polícia. A empresa admite que o alinhamento sozinho ainda não basta.
Leia mais