OpenAI: cadeia de pensamento fica menos confiável para monitorar modelos de fronteira
Categorias: Inteligência Artificial
A equipe de alinhamento da OpenAI publicou em 10 de novembro uma pesquisa que mostra como o pré-treino, a arquitetura, o aprendizado por reforço e os dados gerados por modelos tornam a cadeia de pensamento cada vez menos confiável como ferramenta de supervisão.
Leia mais