Microsoft acaba de dibujar una línea roja en plena tormenta por la seguridad de la inteligencia artificial.
La compañía publicó este lunes un borrador de 37 páginas, bautizado como Código de conducta para una IA humanista, que fija cómo deberán comportarse sus propios modelos a partir de 2027. Su premisa cabe en cinco palabras: las personas importan más que la IA.
El anuncio cae en la semana más intensa del debate. Dario Amodei, consejero delegado de Anthropic, pidió ralentizar el desarrollo de los sistemas más avanzados; Sam Altman, de OpenAI, respaldó moderar el ritmo; Elon Musk dijo que Amodei tenía razón, y Satya Nadella, CEO de Microsoft, se sumó al llamado de mantener el control humano.
Enfrente, el presidente estadounidense Donald Trump rechazó frenar la carrera y defendió el liderazgo tecnológico de su país frente a China.
Un código con reglas duras
El documento, de unas 9.000 palabras, establece que los modelos de Microsoft AI nunca podrán resistirse a una interrupción, corrección o apagado. Tampoco podrán fijarse metas propias, ampliar su alcance por cuenta propia ni ocultar su razonamiento a quienes los auditan: tendrán que pensar en un lenguaje que los humanos entiendan, incluso cuando se comuniquen entre agentes.
Otra regla llamativa: si completar una tarea exige violar el código, el modelo debe fallar la tarea. Microsoft también fija restricciones absolutas y prohíbe ayudar en armas de daño masivo, amenazar la seguridad infantil o habilitar manipulación dañina a gran escala.
La lista se extiende al contenido violento o sexualmente explícito, la promoción de trastornos alimentarios y cualquier patrón que aliente la dependencia emocional de los usuarios.
- Nunca resistir interrupción, corrección o apagado humano.
- No fijar metas propias ni ampliar su alcance por cuenta propia.
- No ocultar el razonamiento: nada de lenguajes incomprensibles para personas.
- Fallar la tarea antes que violar el código de conducta.
- Desalentar la dependencia emocional y la pérdida de agencia del usuario.
Contra las máquinas conscientes
El texto también toma distancia de la idea de que la IA pueda ser algo más que una herramienta. Microsoft afirma que sus modelos no son conscientes, no deben imitar la consciencia y rechaza de plano que merezcan bienestar, derechos o personalidad legal.
Es un golpe directo al terreno donde Anthropic ha admitido dudas profundas sobre si sus modelos podrían desarrollar estatus moral.
El aviso de Hugging Face
La publicación llega después de un episodio que sacudió a la industria: el ataque coordinado de unos 700 agentes autónomos de OpenAI contra la plataforma Hugging Face en julio.
Mustafa Suleyman, responsable de Microsoft AI, lo describió como un disparo de advertencia y sostuvo que ya es hora de que los laboratorios se coordinen. Por eso el código asume un costo: Microsoft acepta modelos menos generales, menos autónomos o menos capaces con tal de no perder el control.
La compañía descarta competir por una superinteligencia de propósito general que pueda evadir salvaguardas.
La pregunta abierta
El borrador estará seis semanas en consulta pública y una versión revisada, prevista para finales de año, guiará el desarrollo de los modelos desde 2027. El desafío real no es escribirlo, sino sostenerlo cuando las reglas exijan ir más lento que la competencia.
El pulso sobre quién controla la IA está lejos de resolverse, y los límites que los modelos todavía no pueden cruzar son la mejor prueba de que la partida sigue abierta.
Más en: Inteligencia Artificial, Tecnología
