Sam Altman de OpenAI opina sobre la disputa entre el Pentágono y el Antrópico: NPR
El director ejecutivo de OpenAI, Sam Altman, dice que comparte las «líneas rojas» establecidas por su rival Anthropic que restringen cómo el ejército usa los modelos de IA, en medio de la creciente disputa de Anthropic con el Pentágono.
El Departamento de Defensa le ha dado a Anthropic una fecha límite de hoy a las 5:01 pm ET para eliminar las restricciones a su modelo de IA, Claude, para que no pueda usarse para vigilancia masiva doméstica o armas completamente autónomas. El Pentágono ha dicho que no tiene intención de utilizar la IA de esa manera, pero exige que las empresas de IA permitan que sus modelos se utilicen «para todos los fines legales».
Los funcionarios de defensa dicen que si Anthropic no cumple, podría perder su contrato por valor de hasta 200 millones de dólares con el ejército estadounidense.
El gobierno también amenazó con invocar la Ley de Producción de Defensa (DPA) de la era de la Guerra de Corea para obligar a Anthropic a permitir el uso de sus herramientas y, al mismo tiempo, advirtió que etiquetaría a Anthropic como un «riesgo de la cadena de suministro», potencialmente incluyéndolo en la lista negra de lucrativos contratos gubernamentales.
Al meterse en el enfrentamiento entre Anthropic y el Pentágono, Altman podría complicar los esfuerzos del Pentágono para reemplazar a Anthropic si cumple su amenaza de cancelar el contrato. OpenAI también tiene un contrato con el Departamento de Defensa, junto con Google, xAI y Anthropic, pero Anthropic fue el primero en recibir autorización para su uso en sistemas clasificados.
«Personalmente, no creo que el Pentágono deba amenazar a la DPA contra estas empresas», dijo Altman. CNBC en una entrevista el viernes por la mañana. Dijo que cree que es importante que las empresas trabajen con el ejército «siempre que cumplan con las protecciones legales» y «las pocas líneas rojas» que «compartimos con Anthropic y con las que otras empresas también están de acuerdo de forma independiente».
«A pesar de todas las diferencias que tengo con Anthropic, confío principalmente en ellos como empresa, y creo que realmente se preocupan por la seguridad, y estoy feliz de que hayan apoyado a nuestros combatientes», añadió Altman. «No estoy seguro de hacia dónde irá esto».
En una nota interna enviada al personal el jueves por la noche, Altman dijo que OpenAI estaba buscando negociar un acuerdo con el Pentágono para desplegar sus modelos en sistemas clasificados con exclusiones que impidan su uso para vigilancia en EE.UU. o para alimentar armas autónomas sin aprobación humana, según una persona familiarizada con el mensaje que no estaba autorizada a hablar públicamente. El Diario de Wall Street informó por primera vez la nota de Altman al personal.
El Departamento de Defensa no respondió a una solicitud de comentarios sobre las declaraciones de Altman.
Si las empresas de IA pueden establecer restricciones sobre cómo el gobierno usa su tecnología se ha convertido en un importante punto de fricción en los últimos meses entre Anthropic y la administración Trump.
El jueves, el director ejecutivo de Anthropic, Dario Amodei, dijo que las amenazas del Pentágono sobre su contrato no harían ceder a la empresa. «No podemos, en conciencia, acceder a su petición», escribió en un extenso declaración.
«Anthropic entiende que el Departamento de Guerra, no las empresas privadas, toma las decisiones militares. Nunca hemos planteado objeciones a operaciones militares particulares ni hemos intentado limitar el uso de nuestra tecnología en un a propósito manera», dijo, utilizando el apodo del Pentágono de «Departamento de Guerra». Pero, añadió, la vigilancia masiva doméstica y las armas totalmente autónomas son usos que están «simplemente fuera de los límites de lo que la tecnología actual puede hacer de manera segura y confiable».
Emil Michael, subsecretario de investigación e ingeniería del Pentágono, respondió en un tono publicar en Xacusando a Amodei de mentir y de tener un «complejo de Dios».
«Lo único que quiere es tratar de controlar personalmente al ejército estadounidense y no le importa poner en riesgo la seguridad de nuestra nación», escribió Michael. «El @DeptofWar SIEMPRE cumplirá con la ley, pero no se doblegará ante los caprichos de ninguna empresa tecnológica con fines de lucro», escribió.
En una entrevista con Noticias CBSMichael dijo que la ley federal y las políticas del Pentágono ya prohíben el uso de IA para vigilancia masiva nacional y armas autónomas».
«En cierto nivel, hay que confiar en que el ejército hará lo correcto», afirmó.
Expertos independientes dicen que el enfrentamiento es muy inusual en el mundo de las contrataciones del Pentágono.
«Sin duda, esto es diferente», dijo Jerry McGinn, director del Centro para la Base Industrial del Centro de Estudios Estratégicos e Internacionales, un grupo de expertos de Washington DC. Los contratistas del Pentágono normalmente no pueden decirle al Departamento de Defensa cómo se pueden utilizar sus productos y servicios, señala, «porque de lo contrario estaríamos negociando casos de uso para cada contrato, y no es razonable esperar eso».
Al mismo tiempo, señala McGinn, la inteligencia artificial es una tecnología nueva y en gran medida no probada. «Esta es una pelea muy inusual y muy pública», dijo. «Creo que refleja la naturaleza de la IA».