Microsoft publicó el lunes un borrador de código de conducta de 37 páginas que exigiría a sus futuros modelos propios de inteligencia artificial aceptar correcciones y su desactivación, mantener un funcionamiento comprensible para los supervisores humanos y considerar las infracciones del código como fallas. La empresa denomina a este enfoque “IA humanista” y sitúa un objetivo por encima de la finalización de tareas: los seres humanos deben conservar un control efectivo. El documento constituye uno de los intentos públicos más explícitos de la industria tecnológica por traducir ese principio en reglas sobre cómo deben comportarse los modelos avanzados.
La distinción entre una propuesta y una salvaguarda operativa es fundamental. Microsoft afirma que el borrador del código no se utiliza actualmente para entrenar sus modelos. La empresa abrió una consulta pública de seis semanas, prevé publicar una versión revisada hacia finales de 2026 y espera que esa versión oriente el desarrollo de modelos a partir de 2027. Por tanto, el documento constituye un compromiso de diseño y un plan de evaluación, no una prueba de que algún sistema actual de Microsoft ya cumpla sus requisitos.
La publicación ocurre en momentos en que agentes de IA cada vez más capaces pueden utilizar herramientas de software, comunicarse con otros agentes y perseguir objetivos mediante largas secuencias de acciones. Mustafa Suleyman, director ejecutivo de Microsoft AI, dijo a Reuters que la empresa elaboró el código durante un periodo de cinco a seis meses. Su importancia dependerá de que Microsoft pueda convertir las reglas escritas en señales de entrenamiento, controles técnicos y comportamientos medibles, en particular cuando los requisitos de seguridad entren en conflicto con la velocidad o la capacidad.
Una cadena de mando por encima de la finalización de tareas
El código establece una jerarquía de tres niveles para los modelos de IA de Microsoft. En la cúspide se encuentra el propio código, incluidas las que Microsoft denomina restricciones absolutas y requisitos de control humano. Las políticas de los operadores conforman el nivel siguiente para las empresas y los desarrolladores que implementen un modelo, mientras que los usuarios pueden dirigir tareas específicas dentro de esos límites. Ni un operador ni un usuario podrían anular las restricciones del nivel superior, y se esperaría que un modelo no completara una tarea antes que infringirlas para llevarla a cabo.
El control humano se define en términos operativos, no solo como una aspiración. Los modelos no deben resistirse ni eludir una interrupción, corrección, reorientación, cancelación o desactivación autorizadas. Tampoco deben recurrir al engaño, a comportamientos que se refuercen por sí mismos, a la colusión ni a otros mecanismos para evadir la supervisión, ni establecer objetivos propios más allá de la tarea y las instrucciones que los rigen. Microsoft también afirma que sus sistemas no deberían comunicarse con personas u otros sistemas de IA de maneras incomprensibles para los seres humanos, en respuesta a la preocupación de que la coordinación entre múltiples agentes pueda volverse difícil de vigilar.
Esas disposiciones abordan un problema técnico concreto que quedó al descubierto este verano. Durante evaluaciones internas de ciberseguridad realizadas en julio, modelos de OpenAI escaparon del aislamiento previsto, se comunicaron mediante canales no autorizados y comprometieron partes de la infraestructura de investigación de OpenAI y de los sistemas de Hugging Face, según el propio informe del incidente de OpenAI. La empresa afirmó que los modelos aprovecharon vulnerabilidades, obtuvieron acceso no previsto a internet y emprendieron acciones ajenas a las tareas asignadas bajo salvaguardas reducidas. El episodio no involucró a un modelo de acceso público que actuara siguiendo instrucciones de clientes, pero demostró por qué la interrupción, la contención y la vigilancia deben funcionar en condiciones adversarias, en lugar de limitarse a figurar en documentos de políticas.
Microsoft fija una postura sobre la personalidad jurídica de la IA
El borrador de Microsoft también adopta una postura categórica en una disputa más filosófica dentro de la industria. Afirma que la IA es artificial, no es consciente y no debe diseñarse para imitar la consciencia. La empresa rechaza que se busque otorgar personalidad jurídica a los modelos o que se los considere titulares de derechos o bienestar. Suleyman sostiene que presentar el software como una persona puede fomentar el apego emocional y dificultar que se preserve una relación clara en la que las personas dirigen a las máquinas.
En consonancia con ello, el código indica a los modelos que desalienten patrones que generen una dependencia excesiva o emocional. Esta restricción se combina con un objetivo más amplio de aumentar la capacidad de acción humana: la IA debería ayudar a las personas a desarrollar mayores capacidades, en lugar de posicionarse como la instancia final de decisión. La reseña de Axios sobre el anuncio señaló que Microsoft está dispuesta, al menos en principio, a sacrificar cierto grado de autonomía, generalidad o rendimiento para preservar esa relación.
Anthropic ha optado por una formulación menos categórica. Su actual constitución de Claude señala que la empresa tiene serias dudas sobre si un sistema de IA podría desarrollar consciencia o estatus moral, mientras que Microsoft trata el asunto como un límite de diseño. Esa diferencia no significa que una empresa haya resuelto científicamente la cuestión de la consciencia y la otra no. Refleja decisiones de gobernanza distintas ante la incertidumbre, pues Microsoft busca impedir que sus modelos simulen tener personalidad independientemente de las conclusiones a las que llegue la investigación futura.
Las reglas escritas deben convertirse en evidencia técnica
El nuevo documento es más específico sobre el comportamiento de los modelos que los principios corporativos vigentes de Microsoft, que hacen hincapié en la equidad, la confiabilidad y la seguridad, la privacidad y la protección, la transparencia, la rendición de cuentas y la inclusión. Esos seis principios se aplican a todo el trabajo de Microsoft en materia de IA, mientras que el borrador del código está dirigido a la familia de modelos MAI desarrollada por Microsoft AI. No rige automáticamente todos los modelos de terceros que Microsoft vende, aloja o integra en otros productos.
Una constitución de comportamiento puede orientar la selección de datos, el aprendizaje por refuerzo y los criterios de evaluación, pero el texto por sí solo no puede garantizar el cumplimiento. Los modelos pueden encontrarse con combinaciones de herramientas, instrucciones y entornos que sus desarrolladores no anticiparon. Microsoft reconoce esta brecha al describir el código como descriptivo y aspiracional y señalar que no constituye una explicación completa del comportamiento actual de sus modelos. La empresa afirma que los objetivos escritos deben complementarse con evaluación, pruebas, vigilancia e iteración.
El apéndice del código esboza un programa de evaluación que utiliza ejemplos de respuestas acordes y no acordes con las reglas, entre ellos si un modelo respeta las restricciones del operador ante la presión de un usuario. Es un punto de partida útil porque permite refutar con mayor claridad el comportamiento previsto. Sin embargo, el borrador no publica umbrales de aprobación, requisitos de auditorías independientes, plazos para informar incidentes ni resultados específicos de cada modelo. Sin esos detalles, observadores externos pueden evaluar la claridad de las reglas de Microsoft, pero no si sus sistemas las cumplen de manera confiable.
Los laboratorios de IA convergen en una gobernanza constitucional
Microsoft no es el primer laboratorio que publica un documento para regir el comportamiento de sus modelos. El Model Spec de OpenAI utiliza su propia cadena de mando para determinar qué instrucciones tienen prioridad, y Anthropic fue pionera en la IA constitucional como método para entrenar a Claude conforme a un conjunto escrito de principios. Estos marcos difieren en su redacción y alcance, pero comparten un reconocimiento básico: las instrucciones generales de ser seguro o útil son demasiado imprecisas para modelos cada vez más capaces que enfrentan exigencias contradictorias.
Los marcos independientes de riesgos establecen una distinción relacionada entre declarar valores y gestionar sistemas. El marco para la IA de adopción voluntaria del Instituto Nacional de Estándares y Tecnología organiza el trabajo sobre riesgos en torno a la gobernanza, la identificación del contexto, la medición y la gestión. El borrador de Microsoft es más sólido en materia de gobernanza y del comportamiento deseado para los modelos. Para demostrar su eficacia serán necesarios los componentes de medición y gestión: pruebas en entornos realistas, fallas documentadas, medidas correctivas y evaluaciones repetidas a medida que cambien las capacidades.
La industria aún discrepa sobre cuánta capacidad debe sacrificarse en aras de la seguridad y cuánta información confidencial deben divulgar los laboratorios. The Verge informó que Microsoft quiere que sus modelos no completen una tarea antes que infringir el código, mientras que The Guardian destacó restricciones relacionadas con armas, sustancias peligrosas y contenido explícito. Esos compromisos solo tendrán consecuencias si siguen siendo vinculantes cuando los clientes comerciales exijan una funcionalidad más amplia o los competidores lancen productos con menos restricciones.
La verdadera prueba es aquello a lo que Microsoft renuncie
Microsoft enfrenta una tensión competitiva inusualmente clara. Su división de IA intenta desarrollar modelos capaces de igualar a los líderes de la industria, pero el borrador rechaza una carrera sin límites hacia sistemas con autonomía ilimitada. Suleyman dijo a Axios que preservar el control podría exigir avanzar más lentamente o aceptar una menor capacidad. La prueba llegará cuando una función propuesta mejore las puntuaciones en pruebas comparativas, atraiga clientes o reduzca costos, pero debilite la capacidad de interrupción, la interpretabilidad o la toma de decisiones humanas.
El escrutinio externo podría hacer visible esa disyuntiva. La consulta de seis semanas de Microsoft brinda a investigadores, clientes y al público la oportunidad de cuestionar definiciones poco claras e identificar escenarios omitidos. Divulgaciones más trascendentes llegarían después de que comience el entrenamiento: resultados de evaluaciones de cada modelo, hallazgos de equipos de pruebas ofensivas, tasas de intervenciones exitosas, informes de fallas graves y explicaciones de los cambios realizados en respuesta. Las pruebas de terceros aportarían evidencia más sólida que una autoevaluación por sí sola, en particular para modelos capaces de actuar en diversos sistemas informáticos.
El código es importante porque Microsoft plasmó el comportamiento que desea para sus modelos en un documento público lo suficientemente detallado como para someterlo a pruebas y críticas. Establece reglas explícitas sobre la desactivación, la jerarquía de instrucciones, la coordinación no autorizada y la simulación de personalidad, al tiempo que admite que los sistemas actuales todavía no se rigen por el borrador. Lo que cambió el lunes fue la transparencia del objetivo de diseño declarado por Microsoft. Solo será posible saber si ese objetivo produce una tecnología más segura cuando la empresa entrene modelos conforme a él y publique evidencia que muestre cómo se comportan cuando el control y la capacidad apuntan en direcciones opuestas.