Anthropic, la empresa que desarrolla la Inteligencia Artificial (IA) “Claude”, se ha visto inmersa en un debate con el Departamento de Guerra estadounidense, debido a que no han querido quitar sus barreras éticas. La empresa de IA ha sido tajante e intransigente en el tema, por lo que el Pentágono ha decidido sacar a Claude de los sistemas gubernamentales argumentando que atenta contra la seguridad nacional.
Este cambio de narrativa fue un giro drástico e inesperado, ya que Anthropic era la IA más usada por el departamento de Guerra, tanto para el tratamiento de archivos clasificados como los de dominio público. El problema recae en que el gobierno de Estados Unidos ha querido avanzar con la vigilancia de la IA. Es decir, quieren que Anthropic use los datos públicos para vigilancia de la ciudadanía.
Ante estas intenciones, Claude dijo que sí apoyaría este tipo de comportamientos, siempre y cuando fuera con los datos clasificados del Pentágono. Lo que no quiere Anthropic es usar los datos que se generan por las búsquedas de internet, las cámaras de vigilancia y las cámaras en los aparatos electrónicos de uso doméstico.
Asimismo, otro de los puntos en los que Anthropic no está de acuerdo con el Pentágono es en el desarrollo de armas autónomas; es decir que la IA pueda disparar armas y tomar decisiones de objetivos.
Por su parte, OpenAI, otra de las empresas que trabajan con el Pentágono, se acercó rápidamente para negociar con ellos los contratos que Anthropic no ha aceptado firmar. Por el contrario, Claude ha decidido empezar una demanda contra el Departamento de Guerra. Más allá de si Anthropic, OpenAI o el Departamento de Guerra son los “buenos o malos” de esta historia, creo que el problema abre un dilema ético muy importante: ¿Qué tanto control se le puede dejar a la IA?
Por un lado, es verdad que reduce significativamente el error humano y puede hacerse cargo de tareas repetitivas. Sin embargo, ¿hasta qué punto le podemos dar la vigilancia de todos a una inteligencia artificial? Quizás el problema no sea la vigilancia per se, sino la cantidad de datos que va a poder procesar para tenernos más observados y controlados.
Esto, a su vez, se vuelve un problema de democracia, pues podría empezar a segmentar y aislar a las personas que hablan mal del gobierno. Si hemos visto que a la administración de Trump no le gusta la crítica y amedrenta a las grandes cadenas, no parece descabellado pensar que ahora podría hacer lo mismo con todas las personas que no piensen como a él le gusta.
A mi parecer, el problema ético más grande es la automatización de las armas. Que una IA pueda disparar un arma sin la supervisión de un humano, no solo es peligroso, sino que puede ser devastador. Recordemos que las IAs son modelos matemáticos sin sentimientos.
¿Qué pasa si dispara contra un objetivo civil porque lo confunde con un campo militar? ¿O qué tal si confunde a un avión de pasajeros con uno enemigo y decide derribarlo? Estos dos ejemplos han pasado con errores humanos, pero al menos hay a quien juzgar y culpar de crímenes de guerra. Pero en este otro escenario ¿a quién se va a culpar? ¿Vamos a dejar que un modelo matemático defina el futuro?
Más de Redaccion
