Anthropic rechaza las demandas del Pentágono de eliminar las salvaguardas de IA

(MENAFN- AzerNews) Akbar Novruz Leer más

La startup de inteligencia artificial Anthropic el jueves rechazó la demanda del Pentágono de acceso sin restricciones a su modelo Claude AI, sugiriendo que está dispuesta a arriesgar las graves sanciones amenazadas por el Secretario de Defensa Pete Hegseth, ** AzerNEWS** informa a través de Politico.

“[L]as amenazas no cambian nuestra posición,” escribió el CEO de Anthropic, Dario Amodei, en una publicación en su blog publicada el jueves. Dijo que la compañía “no puede en conciencia acceder a [la solicitud del Pentágono].”

La resistencia de Anthropic sigue a una presión sin precedentes del Pentágono para abandonar sus restricciones sobre el uso militar de Claude. En una reunión el martes con Hegseth, Amodei reiteró sus líneas rojas, una prohibición del uso de la tecnología para espiar a los ciudadanos estadounidenses o para potenciar armas autónomas.

Hegseth había amenazado con designar a Anthropic como un riesgo para la cadena de suministro del Pentágono si no cumplía antes de las 5:01 p.m. del viernes. La etiqueta casi siempre se reserva para empresas extranjeras con vínculos con adversarios de EE. UU., y podría ser utilizada por el gobierno para bloquear a Anthropic y evitar que trabaje con otras empresas.

El Pentágono también planeaba usar la Ley de Producción de Defensa de la Guerra Fría para obligar a Anthropic a levantar las restricciones sobre el uso de su modelo. La ley permite al gobierno tomar control de activos críticos del sector privado en tiempos de guerra o emergencia nacional.

En un comunicado, un portavoz de Anthropic, que solicitó permanecer en el anonimato por insistencia de la compañía, dijo que recibieron durante la noche del Pentágono un lenguaje contractual que “prácticamente no avanzó en la prevención del uso de Claude para la vigilancia masiva de estadounidenses o en armas completamente autónomas.” El portavoz afirmó que, aunque se presentó como un compromiso, el nuevo lenguaje “estaba acompañado de un lenguaje legal que permitiría ignorar esas salvaguardas a voluntad.”

El jueves, CBS News informó que el lenguaje contractual enviado durante la noche a Anthropic representaba la “oferta final” del Pentágono. Pero en su publicación en el blog, Amodei sugirió una disposición a continuar las negociaciones con el DOD. “Nuestra fuerte preferencia es seguir sirviendo al Departamento y a nuestros combatientes - con nuestras dos salvaguardas solicitadas en su lugar,” escribió el CEO de Anthropic.

El portavoz de la compañía dijo que Anthropic “sigue listo para continuar las conversaciones.” Todavía es posible que se concrete un acuerdo antes de la fecha límite del viernes.

No está claro de inmediato si o cómo el Pentágono cumplirá con sus amenazas. Un portavoz del DOD no respondió de inmediato a una solicitud de comentarios.

La medida de Hegseth de invocar la DPA sugiere que el Pentágono ve los modelos de IA de Anthropic como críticos para la defensa nacional de EE. UU. - una postura que algunos abogados y responsables de políticas de IA dijeron que era contradictoria, dado que el Pentágono también afirma que la compañía puede ser un riesgo para la seguridad nacional. La discrepancia fue destacada por Amodei en su publicación en el blog.

“Estas dos amenazas son inherentemente contradictorias,” escribió Amodei. “[O] uno nos etiqueta como un riesgo de seguridad; el otro etiqueta a Claude como esencial para la seguridad nacional.”