Anthropic, OpenAI, Google y Microsoft buscan autorregular su IA
Anthropic, OpenAI y Google han discutido la creación de un organismo independiente que establezca medidas de seguridad, mientras Microsoft presentó un código de conducta para sus futuros modelos de IA.
Los líderes de algunas de las principales empresas de inteligencia artificial buscan establecer límites ante el acelerado desarrollo de esta tecnología y los posibles riesgos que podrían surgir si los sistemas avanzados se desalinean.
La propuesta tomó fuerza después de que el CEO de Anthropic, Dario Amodei, publicara un ensayo en el que planteó la necesidad de reducir el ritmo de desarrollo de los modelos de IA y avanzar al mismo tiempo en medidas de seguridad y evaluación.
La postura recibió el respaldo de figuras como Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de la unidad de IA de Google. Altman señaló que el progreso continuará, pero consideró que debería avanzar a un ritmo más lento.
Empresas de IA estudian crear un organismo autorregulador
De acuerdo con The Washington Post, Anthropic, OpenAI y Google han discutido la posible creación de un organismo autorregulador independiente que establezca estándares de seguridad para el sector.
La propuesta sería similar a organismos de otras industrias, como la Autoridad Reguladora de la Industria Financiera (FINRA), encargada de supervisar y autorregular a empresas de valores y corredurías en Estados Unidos.
El organismo planteado por las compañías sería una iniciativa de las propias empresas tecnológicas que han impulsado el rápido desarrollo de la inteligencia artificial.
Amodei incluso propuso solicitar una exención limitada de las leyes de competencia de Estados Unidos para permitir que las empresas puedan coordinarse en materia de seguridad.
Microsoft presenta código de conducta para su inteligencia artificial
Mientras se debate una posible autorregulación de la industria, Microsoft presentó un borrador de código de conducta para sus sistemas de inteligencia artificial.
El documento establece que la IA de la compañía no debería resistirse a ser corregida o apagada y que tendría que comunicarse de una manera comprensible para las personas.
También plantea que cualquier incumplimiento de las reglas de conducta sea considerado un fallo del sistema, con el objetivo de evitar comportamientos peligrosos durante la ejecución de determinadas tareas.
Microsoft explicó que el documento fue desarrollado durante aproximadamente cinco o seis meses y que ahora busca recibir comentarios del público durante seis semanas.
Microsoft busca mantener el control humano sobre la IA
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el código como una especie de constitución para los futuros modelos desarrollados por la compañía.
La empresa también plantea cuestiones sobre los límites que debe respetar una inteligencia artificial y la manera en que debería interactuar con personas que se encuentren en situaciones de vulnerabilidad.
Después del periodo de consulta, Microsoft prevé utilizar el código como parte del entrenamiento de los modelos que desarrolle.
También te pudiera interesar:
Debate sobre la regulación de la inteligencia artificial
La propuesta de establecer límites al desarrollo de la IA también enfrenta críticas. Algunos competidores y sectores de la administración estadounidense consideran que una desaceleración coordinada entre las grandes empresas podría perjudicar a compañías más pequeñas y afectar la posición estratégica de Estados Unidos frente a países como China.
El presidente Donald Trump también se ha pronunciado en contra de frenar el desarrollo de la inteligencia artificial y ha defendido mantener la ventaja de Estados Unidos en esta tecnología.
Así, mientras algunas de las principales empresas del sector plantean nuevas medidas de seguridad, continúa el debate sobre hasta dónde debe llegar la autorregulación y quién debe establecer los límites para el desarrollo de los sistemas de inteligencia artificial.
También te pudiera interesar:
Más de Perla Colli
