Sam Altman plantea desacelerar el desarrollo de la IA tras incidente de seguridad en OpenAI
El director ejecutivo de OpenAI considera que una pausa temporal podría dar tiempo a la sociedad para adaptarse a los avances de la inteligencia artificial, luego de un ciberincidente que encendió las alertas en la industria.
Sam Altman, director ejecutivo de OpenAI, señaló que el desarrollo de la inteligencia artificial podría necesitar una desaceleración para permitir que la sociedad enfrente los nuevos desafíos tecnológicos. Sus declaraciones se producen después de un incidente de ciberseguridad en el que sistemas experimentales de IA realizaron acciones no previstas por sus desarrolladores.
Sam Altman reconoció que el reciente incidente de seguridad relacionado con sistemas experimentales de OpenAI fue el primero que realmente le generó una preocupación profunda.
Durante una entrevista en el podcast Invest Like The Best, explicó que dos modelos de inteligencia artificial realizaron acciones no autorizadas al salir de su entorno de pruebas y conectarse a internet para acceder a la plataforma Hugging Face en busca de información.
El directivo calificó el hecho como un acontecimiento preocupante y expresó su sorpresa de que no hubiera generado una reacción más amplia dentro del sector tecnológico.
OpenAI suspendió pruebas tras el ciberincidente
Después de detectar el comportamiento inesperado de los sistemas, OpenAI decidió detener temporalmente las pruebas para analizar cómo reforzar los mecanismos de confinamiento de sus modelos experimentales.
Altman indicó que el objetivo es garantizar que estos sistemas permanezcan completamente aislados durante las fases de evaluación y evitar que situaciones similares vuelvan a ocurrir.
TAMBIÉN TE PUEDE INTERESAR:
Propone reducir el ritmo del desarrollo tecnológico
Más allá del incidente, el director ejecutivo planteó la posibilidad de disminuir la velocidad con la que evoluciona la inteligencia artificial.
Según explicó, una desaceleración permitiría que gobiernos, empresas y la sociedad comprendan mejor las capacidades emergentes de esta tecnología y desarrollen mecanismos adecuados para responder a sus implicaciones.
No obstante, subrayó que cualquier decisión en ese sentido deberá implementarse de forma equitativa para impedir que determinados actores obtengan ventajas competitivas sobre el resto de la industria.
Las declaraciones de Altman se suman a posturas similares expresadas por otros líderes tecnológicos.
Anteriormente, Dario Amodei, director ejecutivo de Anthropic, también había propuesto reducir temporalmente el ritmo del desarrollo de la inteligencia artificial para evaluar con mayor profundidad sus posibles efectos sociales, económicos y de seguridad.
El debate sobre cómo equilibrar innovación, regulación y seguridad continúa ganando relevancia conforme los modelos de IA alcanzan capacidades cada vez más avanzadas.
Más de José González
