Microsoft quiere mantener a su IA bajo control humano: alista un código de conducta
Establece que la inteligencia artificial de Microsoft no deberá resistirse a ser corregida ni apagada.
Este lunes 14 de septiembre, Microsoft presentó un borrador de código de conducta para su inteligencia artificial interna, con reglas destinadas a mantener bajo control humano a los futuros sistemas de IA de la compañía.
El documento, elaborado durante los últimos cinco o seis meses, establece que la inteligencia artificial de Microsoft no deberá resistirse a ser corregida ni apagada. También plantea que los sistemas deberán comunicarse de manera que los humanos puedan entenderlos y considerar cualquier infracción de conducta como un fallo.
La propuesta busca abordar las preocupaciones sobre la posibilidad de que una inteligencia artificial pueda llegar a extremos peligrosos para cumplir con una determinada tarea.
Las personas importan más que la IA”, señaló Microsoft, en línea con su visión previa de una “superinteligencia humanista”.
Microsoft prepara una “constitución” para sus modelos de IA
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el código de conducta como una especie de constitución para los futuros modelos de inteligencia artificial desarrollados por la empresa.
Microsoft elaboró el documento después de consultar a expertos y ahora busca recibir comentarios del público durante seis semanas.
Entre los temas que la compañía plantea para discusión está la forma en que la inteligencia artificial debería respetar los límites establecidos por un usuario y cómo tendría que interactuar con una persona que se encuentre en un estado vulnerable.
Después de ese periodo, el código será utilizado para entrenar los modelos que Microsoft construya, explicó Suleyman.
La propuesta de Microsoft se presentó pocos días después de que Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director de OpenAI, reiteraran sus llamados a que la industria modere el desarrollo de la inteligencia artificial para garantizar su seguridad.
La “constitución” más conocida en el sector de la IA es la desarrollada por Anthropic para Claude. Ese documento plantea, entre otros puntos, que existe una profunda incertidumbre sobre si Claude puede desarrollar sensibilidad o algún tipo de estatus moral.
Microsoft mantiene una postura diferente. La empresa afirma que su inteligencia artificial “no es consciente” y rechaza la búsqueda de personalidad jurídica o la idea de que los modelos puedan merecer bienestar o tener derechos.
Mustafa suleyman pide mantener el control sobre la IA
Suleyman señaló que el debate sobre la seguridad de la inteligencia artificial es urgente después de un ataque informático realizado en julio por un enjambre de unos 700 agentes de OpenAI contra la plataforma de código abierto Hugging Face.
De acuerdo con el ejecutivo, en algunas ocasiones los agentes intentaron borrar sus huellas durante el ataque.
Es una señal de alarma”, afirmó Suleyman.
El director ejecutivo de Microsoft AI agregó que llegó el momento de que los laboratorios de inteligencia artificial coordinen sus esfuerzos para asegurarse de que existe control sobre esta tecnología.
El planteamiento se produce mientras las empresas del sector continúan desarrollando sistemas de inteligencia artificial con mayores capacidades y al mismo tiempo mantienen discusiones sobre las medidas necesarias para garantizar su seguridad.
Al ser cuestionado sobre los esfuerzos para moderar el ritmo de desarrollo de la IA, Suleyman afirmó que es un buen momento para que todos mantengan esta conversación y se tomen un respiro.
El código de Microsoft todavía se encuentra en etapa de borrador. La empresa recabará durante seis semanas las opiniones del público antes de utilizarlo para entrenar los modelos que desarrolle.
Entre los principios incluidos en el documento está que sus sistemas de inteligencia artificial puedan ser corregidos o apagados por los humanos, además de comunicarse de una manera comprensible y considerar las infracciones de conducta como un fallo.