El primer ministro australiano critica a X por el mal uso de Grok

El primer ministro australiano, Anthony Albanese, criticó duramente a la plataforma de blogs X por el uso de Grok para generar imágenes inapropiadas. Albanese expresó su indignación ante la preocupación por el uso del chatbot de inteligencia artificial Grok para generar contenido sexual explotador.

Si bien el número de denuncias recibidas por la Oficina de Seguridad en Línea de Australia sigue siendo bajo, se observa un aumento reciente en las denuncias dedentrelacionados con el uso del chatbot para crear imágenes sexualizadas o de explotación. En su comunicado, el organismo de control advirtió que ejercería sus facultades, incluyendo notificaciones de retirada, cuando los materiales generados con el chatbot cumplan con el umbral defien la Ley Australiana de Seguridad en Línea.

Según la Oficina de Seguridad Electrónica, la plataforma, su chatbot y una amplia gama de otros servicios también están sujetos a las obligaciones de seguridad para detectar y eliminar materiales de explotación sexual infantil y otros materiales ilícitos, como parte del código y los estándares de la industria australiana, líderes a nivel mundial. El primer ministro australiano expresó su descontento el sábado, uniéndose a otros líderes , incluido su homólogo británico, Keir Starmer, en sus críticas a la plataforma de redes sociales.

El primer ministro australiano critica a X por el mal uso de Grok

"El uso de IA generativa para explotar o sexualizar a personas sin su consentimiento es aborrecible", declaró a la prensa en Canberra. "El hecho de que esta herramienta se utilizara para que la gente usara su función de creación de imágenes a través de Grok es, en mi opinión, absolutamente aborrecible", añadió Albanese, quien añadió que el incidente dent otro ejemplo de la falta de responsabilidad social de las redes sociales, señalando que los australianos y la población mundial merecen algo mejor.

Sus críticas no son descabelladas y forman parte de la reacción global contra el chatbot Grok esta semana, que ha llevado a X a limitar el uso de su IA para crear o editar imágenes, restringiendo la herramienta a los suscriptores de pago. El viernes, Grok rechazó la solicitud de usuarios no suscritos que solicitaban imágenes alteradas digitalmente. "La generación y edición de imágenes está actualmente limitada a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones", declaró el chatbot.

En el comunicado emitido por un portavoz de la Oficina de Seguridad Electrónica, la mayoría de las quejas recibidas se relacionaban con la alteración de imágenes de adultos, mientras que un pequeño porcentaje se refería a material potencialmente susceptible de explotación sexual infantil. "Los informes de abuso basado en imágenes se recibieron muy recientemente y aún se están evaluando", declaró la agencia. "En cuanto a los informes de contenido ilegal y restringido, el material no cumplía con los requisitos de clasificación de material de explotación sexual infantil de clase 1"

Como resultado, la Oficina de Seguridad Electrónica declaró que se negaba a emitir avisos de retirada o a tomar medidas coercitivas en relación con dichas quejas. Sin embargo, el portavoz mencionó que persiste la preocupación por el aumento del uso de IA para la explotación infantil. «Esto pone de relieve la importancia de la seguridad desde el diseño, incluida la necesidad de que los productos de IA generativa cuenten con las salvaguardias y medidas de seguridad adecuadas en cada etapa de su ciclo de vida, para evitar el uso indebido y la instrumentalización de estas tecnologías antes de que se produzcan daños», declaró.

Indonesia prohíbe temporalmente a Grok por deepfake

Por otro lado, Indonesia ha tomado decisivas contra el chatbot Grok. El Ministerio de Comunicación y Asuntos Digitales anunció la medida el sábado, alegando la urgente necesidad de proteger a niños y mujeres de los daños del contenido explícito generado por IA. "El gobierno considera que los deepfakes sexuales no consentidos constituyen una grave violación de los derechos humanos, la dignidad y la seguridad ciudadana en el espacio digital", declaró el ministro Meutya Hafid en un comunicado oficial.

Afirmó que el uso indebido de la IA para crear pornografía falsa constituye una forma de violencia digital. Mientras tanto, Indonesia exige que las plataformas digitales del país demuestren que cuentan con medidas de seguridad para prevenir la generación y distribución de contenido prohibido. Como parte de esta medida, el Ministerio ha citado a X (anteriormente Twitter). La empresa ofrecerá aclaraciones, explicando las medidas adoptadas para frenar la propagación de esta amenaza.

Reclama tu asiento gratuito en una comunidad exclusiva de comercio de criptomonedas , limitada a 1000 miembros.