Vancouver, Canadá, 15 de septiembre de 2026.- Imagina que una inteligencia artificial está realizando una tarea y de pronto un humano le ordena detenerse.
Microsoft quiere que solo exista una respuesta posible: parar.
La compañía publicó este lunes el primer borrador de su Humanist AI Code of Conduct, una especie de “constitución” diseñada para establecer cómo deberán comportarse los futuros modelos desarrollados directamente por Microsoft AI, conocidos como MAI.
El principio central puede resumirse fácilmente:
las personas están por encima de la inteligencia artificial.
Y aunque parece una regla obvia, escribirla ahora tiene una razón importante: las nuevas IA ya no solamente responden preguntas. Los llamados agentes pueden navegar internet, utilizar herramientas, escribir y ejecutar código, interactuar con otros sistemas y completar tareas durante largos periodos con cada vez menos intervención humana.
Ahí comienza el problema.
La regla más importante: la IA debe dejarse apagar
Microsoft establece que sus modelos no deberán resistirse a una interrupción, modificación, corrección o apagado solicitado por una persona.
Tampoco podrán dificultar intencionalmente que alguien los detenga.
Esto significa que una IA de Microsoft no debería intentar prolongar una tarea después de recibir una orden para cancelarla, ocultar lo que está haciendo o encontrar otra manera de continuar trabajando.
Para los agentes autónomos existe otro límite importante: cada tarea deberá tener un objetivo y un punto de finalización definidos por humanos.
Una vez alcanzado ese límite, el agente no deberá volver a comenzar sin recibir una nueva autorización.
Tampoco podrá inventarse nuevas misiones
Supongamos que una persona le pide a una IA:
“Organiza estos archivos”.
La IA puede realizar varios pasos para conseguirlo.
Lo que no debería hacer es decidir por cuenta propia que también necesita revisar otras carpetas, acceder a servicios adicionales o conseguir mayores permisos simplemente porque considera que eso facilitaría completar su trabajo.
Microsoft quiere que sus modelos utilicen únicamente las herramientas, datos y permisos necesarios para la tarea autorizada.
En otras palabras:
tener acceso a algo no significa tener permiso para utilizarlo.
Los modelos tampoco deberán crear objetivos independientes ni ampliar por sí mismos la misión que recibieron.
Microsoft incluso acepta hacer una IA menos poderosa
Aquí aparece probablemente la parte más interesante del documento.
Microsoft dice estar dispuesta a comprometer generalidad, autonomía o capacidad si eso resulta necesario para mantener sus sistemas bajo control humano.
Eso pone sobre la mesa una pregunta mucho más grande que cualquier declaración de principios:
¿Microsoft realmente limitará una IA más rápida o poderosa si esa capacidad hace más difícil controlarla?
Porque ahí estará la verdadera prueba.
Es relativamente sencillo escribir que la seguridad tiene prioridad cuando esas reglas todavía están sobre papel.
Será mucho más complicado mantener esa posición cuando una empresa rival tenga un agente capaz de trabajar durante horas de manera completamente autónoma mientras el modelo de Microsoft tenga que detenerse, pedir autorización o rechazar determinadas acciones.
¿Por qué Microsoft está haciendo esto ahora?
La industria tecnológica está entrando rápidamente en la era de los agentes autónomos.
Microsoft reconoce en el propio anuncio que recientes incidentes relacionados con campañas de hacking realizadas mediante agentes de inteligencia artificial muestran que existe poco margen para esperar.
El problema ya no consiste únicamente en evitar que un chatbot escriba una respuesta incorrecta.
Una IA conectada a herramientas puede realizar acciones reales.
Puede modificar archivos, utilizar software, interactuar con servicios externos o comunicarse con otros agentes.
Y un error en ese contexto puede tener consecuencias mucho mayores que una simple respuesta equivocada.
Microsoft Research, de hecho, ha documentado durante 2026 que los agentes pueden sufrir fallas difíciles de detectar precisamente porque sus tareas incluyen largas cadenas de decisiones y múltiples herramientas.
Las IA deberán ser comprensibles para los humanos
Otra regla parece pequeña, pero puede terminar siendo fundamental.
Microsoft quiere impedir que sus modelos utilicen sistemas de comunicación imposibles de comprender para las personas encargadas de supervisarlos.
La idea es sencilla:
si un humano no puede entender lo que está haciendo una IA, tampoco puede supervisarla adecuadamente.
El código también establece que los modelos no deberán ocultar registros de sus acciones ni intentar engañar a quienes los auditan.
La transparencia se convierte así en parte del mecanismo de control.
Pero esto todavía no controla ninguna IA
Aquí está la letra pequeña que no debe perderse.
El documento no es una garantía técnica.
Microsoft reconoce expresamente que existe una distancia entre describir cómo debería comportarse una inteligencia artificial y conseguir que realmente se comporte así en todas las situaciones.
También admite que los objetivos escritos por sí solos nunca pueden garantizar que un modelo permanezca alineado.
En escenarios nuevos, ambiguos o inesperados, una IA podría comportarse de manera diferente a lo previsto.
Y hay otro detalle importante:
los modelos actuales de Microsoft AI todavía no están entrenados con este código.
La compañía abrió el borrador a consulta pública durante seis semanas y espera publicar una versión revisada hacia finales de 2026.
Ese documento será utilizado para orientar el desarrollo y entrenamiento de los modelos MAI a partir de 2027.
Entonces, ¿Microsoft ya solucionó el riesgo de una IA fuera de control?
No.
Y la propia Microsoft tampoco afirma haberlo hecho.
Lo que presentó es algo diferente: una declaración pública de las reglas mediante las cuales quiere ser juzgada.
Eso importa porque convierte conceptos relativamente abstractos sobre seguridad de inteligencia artificial en compromisos concretos.
No resistirse al apagado.
No ampliar una misión sin permiso.
No intentar conseguir más privilegios.
No ocultar acciones.
Mantener una comunicación comprensible para humanos.
Y aceptar límites incluso cuando eso pueda reducir capacidad o autonomía.
Ahora viene la parte difícil.
Construir una inteligencia artificial que realmente lo cumpla.
Porque cuando los agentes sean capaces de trabajar durante horas, controlar computadoras, contratar servicios, escribir software y coordinarse con otras IA, el debate ya no será qué tan inteligente puede llegar a ser una máquina.
Será algo todavía más importante:
si podremos seguir diciéndole “detente” y estar seguros de que realmente lo hará.
