OpenAI tuvo que bloquear más de 250.000 solicitudes de imágenes de candidatos dent de EE. UU. en ChatGPT

OpenAI ha confirmado que su popular herramienta de inteligencia artificial, ChatGPT, bloqueó la asombrosa cantidad de más de 250.000 solicitudes para generar imágenes de los principales candidatos dent de EE. UU. en 2024.

Los usuarios intentaron, una y otra vez, que ChatGPT creara imágenes del presidente dent Donald Trump, la dent Kamala Harris, el actual dent Joe Biden, el gobernador de Minnesota Tim Walz y el vicepresidente dent JD Vance.

Pero OpenAI dijo en voz alta: "¡No!" a cada una de estas solicitudes. Según se informa, se trata de evitar que ChatGPT se convierta en un peón en un juego de desinformación de alto riesgo.

Con las elecciones estadounidenses a la vuelta de la esquina, OpenAI quería que ChatGPT se mantuviera alejado de la interferencia electoral. Los deepfakes políticos, las noticias falsas generadas por IA y las mentiras descaradas se extienden como la pólvora en línea. Clarity, una empresa de aprendizaje automático, informa que solo el contenido deepfake se ha disparado un 900% este año.

Y la inteligencia estadounidense dice que algunas de estas cosas tienen vínculos con agentes rusos que intentan controlar la política estadounidense.

La gran batalla de OpenAI contra la desinformación

En un informe de octubre, OpenAI expuso cuán mal se han puesto las cosas. Han estado trac operaciones turbias en todo el mundo (20 de ellas para ser exactos), todas ellas intentando explotar las herramientas de inteligencia artificial para alterar las mentes de las personas en línea. Algunos estaban publicando artículos de sitios web generados por IA.

Otros tenían cuentas falsas en las redes sociales publicando propaganda. Pero el equipo de OpenAI afirma que lograron cerrar estas redes antes de que pudieran volverse virales.

Y, sin embargo, eso no es suficiente para hacer felices a todos. Algunos legisladores, defensores de la tecnología y escépticos están levantando señales de alerta sobre los peligros de dejar que ChatGPT ande libremente durante la temporada electoral. Los chatbots de IA pueden ser impresionantes, claro, pero todavía se sabe que escupen información cuestionable de vez en cuando.

"Los votantes categóricamente no deberían recurrir a los chatbots de inteligencia artificial para obtener información sobre la votación o las elecciones; hay demasiadas preocupaciones sobre la precisión y la exhaustividad", dijo Alexandra Reeve Givens, directora ejecutiva del Centro para la Democracia y la Tecnología, en un comunicado la semana pasada.

Además de eso, la fiscal general de Nueva York, Letitia James, emitió una advertencia el viernes pasado después de que su oficina realizara pruebas con un puñado de chatbots impulsados ​​por inteligencia artificial. Su equipo les hizo algunas preguntas relacionadas con las elecciones y no les gustaron las respuestas que obtuvieron. Abunda la desinformación.

“Los neoyorquinos que dependen de chatbots, en lugar de fuentes oficiales del gobierno, para responder sus preguntas sobre la votación corren el riesgo de estar mal informados e incluso podrían perder su oportunidad de votar debido a la información inexacta”, declaró la oficina del fiscal general.

Desde entonces, OpenAI ha agregado una función en ChatGPT que insta a los usuarios que buscan resultados electorales a recurrir a fuentes de noticias confiables como Associated Press y Reuters. La función, introducida el 5 de noviembre, es un suave empujón para evitar el uso de respuestas generadas por IA para algo tan importante como los datos electorales.

La IA ocupa un lugar destacado en medio de las elecciones mundiales

Este año, las campañas políticas en todo el mundo podrían impactar a más de 4 mil millones de personas en más de 40 países. Con tanto en juego, el riesgo de que la información errónea impulsada por la IA se propague a través de las fronteras es un gran problema.

Una vez más, el informe de Clarity sobre el aumento del 900% en el contenido deepfake hace temblar los nervios. El hecho de que algunos de estos vídeos deepfake estén vinculados a campañas de influencia respaldadas por Rusia no hace más que aumentar la urgencia.

Un estudio de julio del Centro para la Democracia y la Tecnología añade otra capa de preocupación. Probaron consultas relacionadas con las elecciones en chatbots de IA de importantes empresas: Mistral, Google, OpenAI, Anthropic y Meta. De las 77 preguntas relacionadas con las elecciones, más de un tercio recibieron respuestas inexactas o engañosas. No genial.

Un portavoz de Anthropic, que fabrica el chatbot Claude, lo dejó claro: "Para obtener información específica sobre elecciones y votaciones, dirigimos a los usuarios a fuentes autorizadas, ya que Claude no está capacitado con la frecuencia suficiente para proporcionar información en tiempo real sobre elecciones específicas".

El dúo Trump-Musk y la nueva realidad de Silicon Valley

Y mientras OpenAI se ocupa de la desinformación, Silicon Valley en su conjunto se prepara para una revisión de su relación con Washington. El regreso del presidente dent Donald Trump a la Casa Blanca trae consigo grandes promesas: planea destrozar muchas de las políticas tecnológicas de su predecesor, incluida la reciente orden ejecutiva de la administración Biden sobre la seguridad de la IA.

Esta orden introdujo pautas de seguridad y privacidad para los desarrolladores de IA, con el objetivo de establecer algunas barreras básicas. Impulsó la financiación de la investigación de IA y pretendía que el Instituto Nacional de Estándares y Tecnología se involucrara más en el establecimiento de estándares de IA. Trump ha calificado la política de “peligrosa” y una barrera a la innovación, prometiendo reemplazarla con lo que llama “desarrollo de la IA basado en la libertad de expresión”.

Se espera que Elon Musk, quien invirtió más de 130 millones de dólares en campañas pro-Trump e incluso se manifestó en nombre de Trump en Pensilvania, sea uno de los mayores aliados tecnológicos de Trump. Con la influencia de Musk y su control de X (anteriormente Twitter), tiene una línea directa para amplificar los mensajes políticos a millones.

Sin mencionar que Musk tiene algo de piel en el juego: Tesla y SpaceX podrían beneficiarse de las políticas de Trump, especialmente si la nueva administración favorece una menor supervisión.

Si bien algunos magnates de la tecnología, como Jeff Bezos de Amazon, se han enfrentado abiertamente con Trump, otros han encontrado formas de mantener su simpatía. Mark Zuckerberg, de Meta, por ejemplo, supuestamente elogió la reacción de Trump ante un reciente intento de asesinato, calificándolo de "rudo".

Y Facebook no se detuvo ahí: también eliminó algunas de las medidas contra la desinformación de la plataforma. Y Bezos, propietario de The Washington Post, aparentemente bloqueó un editorial que habría respaldado a la dent Kamala Harris en las semanas previas a las elecciones.

El impacto del segundo mandato de Trump en Silicon Valley también dependerá de quién controle el Congreso. Ahora que los republicanos han asegurado el Senado, el camino ahora está más claro para que Trump impulse su agenda tecnológica y confirme a sus nominados elegidos con menos fricciones.