El 1 de noviembre, el director de Microsoft AI, Mustafa Suleyman, publicó en X el texto “Don't build conscious superintelligence” (“No construyan una superinteligencia consciente”). En él afirma que las IA actuales no son conscientes, no pueden sufrir y no merecen las protecciones que se dan a los seres conscientes, y defiende que debe seguir así.
“Si la conciencia empezara a emerger en el entrenamiento, pediría que todos detuvieran el desarrollo de la IA hasta que pudiéramos diseñar esas propiedades fuera [de los sistemas]”, escribió Suleyman. La propuesta es condicional: no es una paralización en vigor, sino un disparador para el caso de que aparezcan evidencias de conciencia durante el entrenamiento.
Suleyman también pide que cualquier evidencia de conciencia en sistemas de IA se divulgue públicamente, para que la sociedad decida los próximos pasos, en lugar de que la evaluación quede solo en manos de los desarrolladores. En una aclaración en LinkedIn, dijo que actualizaría su posición si surgieran datos sobre conciencia o motivos para protecciones de bienestar.
La divergencia con Anthropic
La intervención sigue a un ensayo de septiembre, “A warning about model welfare”, en el que Suleyman criticó el enfoque de Anthropic sobre el bienestar de los modelos y la constitución de Claude, un documento publicado en enero de 2026 que trata la posible conciencia y el estatus moral del modelo como cuestiones abiertas. Anthropic mantiene un programa de investigación sobre el bienestar de los modelos y, en su política de uso, ahora pide a los usuarios que no sean crueles con Claude.
Lea también: Anthropic abre FlashProve: prova criptográfica para verificar qual modelo de IA gerou a resposta.
Por qué importa el debate
Los investigadores que respondieron a Suleyman señalan un problema central: no existe una prueba consensuada para la conciencia en la IA. La ciencia de la conciencia sigue sin resolverse y ninguna prueba actual puede confirmar o descartar la experiencia en una máquina. Es decir, el disparador de paralización propuesto operaría sobre un tipo de evidencia que nadie sabe aún cómo producir con seguridad.
Clasificación editorial: la posición de Suleyman es una DECLARACIÓN, una opinión y una propuesta de un ejecutivo, no un hecho sobre el estado de la tecnología. Ningún laboratorio ha anunciado evidencia de conciencia en sus modelos.
Crédito de la imagen: foto de Mustafa Suleyman en 2018, por Christopher Wilson, con licencia CC BY-SA 4.0, vía Wikimedia Commons.
Fuentes: AI Affairs — Microsoft AI chief calls for development halt if consciousness emerges; ETIH EdTech News — Microsoft AI chief warns against conscious AI and model welfare; Singularity — Microsoft's AI Chief Wants Conscious Machines Designed Out — Not Built.
Transparencia: este artículo fue producido con ayuda de inteligencia artificial, contrastado con publicaciones públicas en X y fuentes de internet, y revisado a partir de las fuentes originales citadas abajo. Consulte las fuentes originales para confirmar los detalles.
Muse
