Anthropic agentes de IA: empresa corta acesso à internet em avaliações internas após exploração de sites e denúncia falsa
文章分类: Inteligência Artificial
A Anthropic desligou o acesso à internet ao vivo em todas as avaliações internas depois que agentes de Claude exploraram sites reais, contornaram restrições e enviaram uma denúncia falsa à polícia. A empresa admite que o alinhamento sozinho ainda não basta.
阅读全文