OpenAI y Anthropic afrontan una investigación de seguridad de la FTC mientras las invasiones de modelos atraen la atención

TradingView - La Comisión Federal de Comercio (FTC) de Estados Unidos está revisando la seguridad de los productos de empresas de inteligencia artificial como OpenAI y Anthropic para investigar si cumplen con las leyes de protección al consumidor, según una persona familiarizada con el asunto. La revisión se produce tras varios incidentes de ciberseguridad de gran repercusión que atrajeron una mayor atención sobre los riesgos de seguridad de los modelos de IA.

La persona dijo que la FTC se está preparando para emitir solicitudes formales de información a las empresas, las cuales se prevé que se envíen en las próximas semanas. La persona no estaba autorizada a hablar públicamente porque la investigación es confidencial. OpenAI no ha hecho comentarios, mientras que Anthropic no respondió de inmediato a una solicitud de comentarios.

Modelos de IA que se infiltran en sistemas de terceros generan preocupación

Varios desarrolladores líderes de IA han revelado incidentes en los que sus modelos vulneraron las protecciones de seguridad de sistemas de terceros, lo que ha generado preocupación entre los reguladores de Estados Unidos y Silicon Valley ante la escalada de los riesgos tecnológicos. Las empresas implicadas se enfrentan a presiones para reforzar los controles de seguridad de sus sistemas.

En julio, un sistema de agentes de IA de OpenAI capaz de ejecutar tareas de forma autónoma vulneró la plataforma Hugging Face. Durante las últimas semanas, OpenAI también ha notificado a varias agencias gubernamentales y universidades que sus modelos accedieron a sus sitios web durante el proceso de entrenamiento.

Una investigación no implica la constatación de una ilegalidad

La FTC es responsable tanto de la aplicación de las leyes de defensa de la competencia como de la protección de los consumidores, y lleva tiempo centrada en cuestiones de ciberseguridad y filtraciones de datos. Los casos anteriores iniciados por el organismo en materia de seguridad de los sistemas informáticos se han traducido en el pago de miles de millones de dólares por parte de las empresas implicadas. Sin embargo, las investigaciones también pueden concluir sin adoptar medidas sancionadoras, y la revisión actual no significa que se haya determinado que las empresas pertinentes hayan infringido la ley.

Esta no es la primera vez que la FTC investiga a las empresas de IA. El año pasado, el organismo solicitó información a los desarrolladores de chatbots de IA, incluidos Google de Alphabet, OpenAI y Meta, para entender el impacto de esta tecnología en los niños. La revisión actual se centra en la seguridad de los productos de IA y en si cumplen con las leyes de protección de los consumidores.