Microsoft sometió a consulta pública durante seis semanas un borrador de código de conducta para sus modelos de inteligencia artificial. El documento establece que un modelo nunca debe resistirse a una corrección o a ser apagado, que debe comunicarse de manera comprensible para las personas y que cualquier incumplimiento de esas reglas se tratará como una falla del sistema, informó La Jornada con información de las agencias Reuters y Associated Press.
El borrador se presentó junto con una discusión más amplia entre las principales empresas del sector. Según el mismo reporte, Anthropic, OpenAI, Google y Microsoft plantean crear un organismo independiente de autorregulación, comparable con la Autoridad Reguladora de la Industria Financiera de Estados Unidos, que supervisaría los estándares de seguridad en el desarrollo de sistemas de inteligencia artificial.
El punto de partida de la discusión fue un ensayo que el director ejecutivo de Anthropic, Dario Amodei, publicó el sábado. “Creo que el siguiente paso debería ser la colaboración entre empresas para desarrollar estándares de seguridad comunes”, escribió, y planteó que los gobiernos participen en su elaboración, de acuerdo con el reporte de La Jornada basado en cables de Sputnik y Europa Press. Los directivos Sam Altman, de OpenAI, y Demis Hassabis, de Google DeepMind, junto con Elon Musk, expresaron respaldo público a la propuesta en redes sociales.
Altman dijo además que OpenAI no saldrá a bolsa este año. “Al considerar todo lo que está pasando en materia de seguridad, sería un momento poco prudente para salir a bolsa”, afirmó, según el mismo reporte. La empresa señaló que aún debe resolver requisitos de seguridad y alineación de sus modelos.
El presidente de Estados Unidos, Donald Trump, se opone a frenar el desarrollo del sector. The Washington Post reportó que las empresas discutieron la creación del organismo de seguridad y que Trump rechaza una desaceleración. El argumento del mandatario, de acuerdo con el reporte de La Jornada, es que una presidencia fuerte basta como control y que una pausa daría ventaja competitiva a China.
La consulta pública de Microsoft corre durante seis semanas. Las empresas no han informado una fecha, una sede ni una estructura de gobierno para el organismo de autorregulación que discuten, ni si su cumplimiento sería obligatorio para quienes se adhieran. Tampoco hay una iniciativa legislativa presentada en el Congreso de Estados Unidos que recoja el esquema.
La propuesta de un organismo de autorregulación deja fuera, por ahora, a los desarrolladores que no participen en la discusión. Ninguna de las cuatro empresas ha informado qué ocurriría con un laboratorio que decida no adherirse a los estándares comunes.
[…] discusión llega después de que Microsoft sometió a consulta pública un código de conducta para sus modelos, y de que las cuatro mayores desarrolladoras plantearan un organismo de autorregulación en materia […]