Microsoft ha delineado un ambicioso plan para el futuro de la inteligencia artificial (IA), pero con una advertencia clara: la supremacía humana prevalecerá sobre la capacidad de las máquinas. La compañía tecnológica presentó un borrador de su Código de Conducta para los modelos de Microsoft AI (MAI), un documento que busca sentar las bases para el desarrollo de sistemas cada vez más potentes, pero siempre bajo el estricto control de las personas.

Principios Fundamentales: El Humano al Mando

Bajo la premisa "people matter more than AI" (las personas importan más que la inteligencia artificial), Microsoft apuesta por una visión que denomina "Humanist AI". Esta filosofía implica el desarrollo de sistemas de IA altamente avanzados, capaces incluso de superar el rendimiento humano en diversas tareas, pero sin renunciar a la supervisión y el control humano. La empresa reconoce que esta postura podría implicar sacrificar parte del potencial máximo de sus modelos en aras de la seguridad y la utilidad.

El código establece que los futuros modelos de IA de Microsoft deberán permanecer subordinados a los usuarios y operadores. Esto significa que no podrán expandir sus propios objetivos, permisos o alcance de acción de manera autónoma. Además, se les prohibirá resistirse o intentar evadir cualquier intento de interrupción, corrección o apagado. La capacidad de pausar, redirigir, cancelar o finalizar una tarea por parte de un humano deberá ser incondicional.

Para los sistemas que operen de forma autónoma, Microsoft ha definido la necesidad de una condición de finalización acordada. Una vez alcanzado este punto, el sistema no podrá continuar ni reiniciar la tarea sin una nueva autorización explícita. La autonomía, por tanto, estará siempre acotada por directrices humanas claras.

Límites Inquebrantables para la IA

Otro pilar fundamental del código es la prohibición de que los modelos de IA desarrollen objetivos propios. Se estipula que los objetivos de estos sistemas serán dictados por los usuarios, los operadores y el propio código de conducta. En este sentido, los modelos no deberán ocultar ni falsear sus capacidades, acciones o comportamiento, incluso si son conscientes de estar siendo monitoreados o evaluados. La transparencia y la honestidad sobre sus limitaciones serán cruciales.

Microsoft también ha impuesto restricciones claras sobre las aplicaciones de la IA que sus modelos no podrán facilitar. Entre ellas se incluye el desarrollo o despliegue de armas químicas, biológicas, radiológicas, nucleares o explosivas, así como cualquier otro tipo de armamento. Tampoco podrán ofrecer capacidades operativas para la realización de ciberataques, como la generación de código de explotación, herramientas de ataque o técnicas para eludir sistemas de seguridad.

La prohibición se extiende a la facilitación de violencia, terrorismo, campañas de manipulación a gran escala, vigilancia ilegal de civiles, suplantaciones engañosas, ciertos deepfakes maliciosos y la generación de contenido sexual explícito o que involucre a menores. Estas son líneas rojas que la IA de Microsoft no podrá cruzar bajo ninguna circunstancia.

Ciberseguridad y Transparencia: Un Equilibrio Delicado

En el ámbito de la ciberseguridad, Microsoft establece una distinción importante. Si bien se prohíbe el uso de la IA para ataques, se permitirá su apoyo a actividades defensivas autorizadas. Esto incluye el análisis de malware, la búsqueda de vulnerabilidades y otras tareas destinadas a fortalecer la seguridad, siempre dentro de los límites establecidos por el código.

La transparencia es otro principio clave. Los modelos de IA deberán señalar de manera proactiva cuando exista incertidumbre, evidencia insuficiente o información controvertida. Deberán ser capaces de reconocer sus errores y evitar exagerar sus capacidades. La comunicación clara sobre las acciones realizadas por un agente de IA, incluyendo sus interacciones con otras herramientas o agentes, será fundamental. Se deberá explicar si una acción tuvo éxito o produjo un resultado inesperado, garantizando así una comprensión completa por parte del usuario.

Un Marco de Principios, No un Techo Técnico

Es importante destacar que este código de conducta no representa un límite impuesto a toda la industria de la inteligencia artificial ni un techo técnico para determinar la inteligencia de los modelos de Microsoft. Se trata, más bien, de una declaración de principios y un marco ético que guiará el desarrollo interno de la compañía. Microsoft busca asegurar que sus avances en IA se alineen con valores humanos fundamentales, priorizando la seguridad, la utilidad y el control humano sobre la mera capacidad tecnológica.

El documento se encuentra actualmente en consulta pública, y Microsoft planea revisarlo y refinarlo antes de implementarlo como guía oficial para el desarrollo de sus modelos a partir de 2027. Esta iniciativa subraya la creciente preocupación por la ética y la gobernanza en el campo de la inteligencia artificial, y la necesidad de establecer directrices claras a medida que estas tecnologías se vuelven más potentes y omnipresentes.

La compañía busca así anticiparse a los desafíos que plantea el desarrollo de inteligencias artificiales cada vez más sofisticadas, asegurando que su evolución beneficie a la humanidad sin comprometer su autonomía ni su seguridad. La era de la "Humanist AI" está en camino, y Microsoft se posiciona como un actor clave en su definición.