Anthropic logra una importante victoria legal cuando un juez anula la lista negra de IA del Pentágono

La jueza federal Rita Lin dictaminó que el Pentágono penalizó ilegalmente a Anthropic al designarla como empresa de "riesgo para la cadena de suministro". A principios de este año, el Pentágono calificó a la compañía como un riesgo para la seguridad nacional tras el fracaso de las negociaciones. En aquel momento, Anthropic aún insistía en mantener límites éticos que prohibían la vigilancia masiva y la guerra totalmente automatizada. 

El tribunal ha dictaminado que el Departamento de Defensa utilizó su autoridad en materia de cadena de suministro como arma para sancionar públicamente a Anthropic, señalando que el gobierno carecía de cualquier justificación lógica para su alegación de seguridad nacional.

“Ni la Constitución ni la ley federal invocada por los demandados les permiten imponer sanciones generalizadas basadas principalmente en la crítica de Anthropic a las opiniones de la Administración”, sostuvo el juez Lin.

El juez Lin criticó la decisión del gobierno de incluir a Anthropic en la lista negra, calificándola de arbitraria

Durante algún tiempo, el Pentágono había estado negociando con cuatro empresas líderes en IA, incluida Anthropic, para permitir que el ejército utilizara su tecnología en operaciones de defensa e inteligencia de alta sensibilidad. Sin embargo, el fabricante de Claude se mantuvo firme, sosteniendo que la vigilancia masiva y la guerra autónoma estaban fuera de los límites para sus modelos.

Tras unas conversaciones cada vez más tensas, las negociaciones fracasaron por completo. En marzo, Anthropic fue catalogada como un riesgo para la cadena de suministro, algo inédito para una empresa estadounidense, lo que impidió de hecho que los detracutilizaran su tecnología en proyectos relacionados con el Pentágono. defensa

Posteriormente, Anthropic demandó a la administración Trump ante tribunales de San Francisco y Washington D.C., con el objetivo de revocar su designación como empresa de riesgo en la cadena de suministro. Sin embargo, el Departamento de Defensa se basó en dos jurisprudencias distintas, lo que obligó a Anthropic a presentar demandas separadas en dos tribunales diferentes.

 Si bien el fallo del jueves supuso una gran victoria para Anthropic, su caso paralelo en Washington D.C. sigue activo, lo que significa que la situación de riesgo para la seguridad de la empresa aún no se ha resuelto por completo.

La jueza Lin escribió en su fallo: “El expediente, que no ha sido objeto de controversia, demuestra que las acciones impugnadas constituyeron una represalia ilegal que viola la Primera Enmienda, y que a Anthropic se le negó el proceso previo a la privación exigido por la Quinta Enmienda”. También calificó la decisión del gobierno de arbitraria y caprichosa. 

El fallo podría sentar undent en las disputas entre la IA y los gobiernos

Puede que la decisión no tenga una línea de visión clara; sin embargo, el caso de Anthropic tendrá implicaciones más inmediatas: el gobierno estadounidense busca estrechar sus lazos con las empresas de IA en materia de defensa y seguridad nacional.

Este caso demuestra que, ante las crecientes exigencias de acceso a sistemas avanzados de IA que las empresas pretenden proteger, surge la duda sobre cómo y por qué utilizar estos modelos.

La postura de Anthropic sobre la vigilancia masiva y las armas autónomas la ha situado en el centro de este debate. Las empresas de IA proporcionan cada vez más a los gobiernos modelos sofisticados, pero el fallo sugiere que las agencias federales no pueden simplemente castigar a una empresa por discrepar con la política gubernamental sin cumplir con los requisitos legales que rigen tales acciones.

Este caso también podría incentivar a otros desarrolladores de IA a establecer límites claros en las aplicaciones militares. Al mismo tiempo, el Pentágono podría tener que replantearse su gestión con las empresas que restringen el uso de su tecnología, especialmente cuando dichas restricciones involucran aplicaciones controvertidas para la seguridad nacional.

Anthropic ha valorado positivamente el fallo de Lin. La empresa declaró: «Celebramos la decisión del tribunal que declara ilegal esta designación de riesgo en la cadena de suministro. Seguimos centrados en colaborar de forma productiva con el gobierno para aprovechar la IA en beneficio de nuestra seguridad nacional, de modo que todos los estadounidenses se beneficien de esta tecnología»

Anteriormente, la firma también había declarado que presentó las demandas para volver a la normalidad en sus negocios, en lugar de para obligar al Pentágono a reanudar su colaboración.

Anthropic está introduciendo un nuevo estándar de hardware

Mientras tanto, Anthropic acaba de desarrollar un nuevo estándar que podría ayudar a los asistentes de IA a conectarse con robots y equipos especializados utilizados en laboratorios y fábricas. La empresa está lanzando el Estándar de Hardware Modelo (MHS) como una versión preliminar para investigación, lo que brinda a los desarrolladores de robótica, ciencia e industria la oportunidad de probar las interacciones de Claude en el mundo real y corregir errores de seguridad antes de su lanzamiento completo. 

Según la empresa, el estándar proporcionará a los asistentes de IA un conjunto claro de instrucciones para comprender y operar equipos físicos, en lugar de obligarlos a depender de manuales o de un pequeño grupo de especialistas. También indicó que las empresas y otros actores del sector pueden inscribirse para probar MHS durante su fase de vista previa. Planea liberar el código fuente del marco una vez finalizada la vista previa, pero no ha especificado cuándo sucederá. 

“Con MHS, Claude puede ser ese tipo de facilitador para los científicos, ya que pueden utilizar el equipo adecuado de manera experta”, dijo Jonah Cool, jefe de asociaciones e implementación en la división de ciencias biológicas de Anthropic. 

Aprovechando el éxito obtenido anteriormente, la empresa introdujo el Protocolo de Contexto de Modelo (MCP, por sus siglas en inglés) para salvar la brecha entre los asistentes de IA y programas como Google Calendar y Slack. 

“Lo que MCP hizo por el software, MHS lo hará por el mundo del hardware”, dijo Alek Kemeny, miembro del personal técnico de Anthropic.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!