OpenAI añade marcas de agua de texto invisible a ChatGPT y Codex en Europa

Fuente Cryptopolitan

OpenAI ha comenzado a etiquetar el texto generado por sus sistemas de IA, ChatGPT y Codex, para los usuarios de la región de la UE, según anunció la empresa el lunes, debido al requisito de transparencia establecido en la Ley de Inteligencia Artificial de la UE, que entró en vigor el 2 de agosto.

Esas reglas exigen que las empresas de IA etiqueten el contenido generado por máquinas en un formato legible por otros sistemas, con sanciones por incumplimiento del artículo 50 de hasta 15 millones de euros o el 3 % de la facturación anual global. La implementación se extenderá a las cuentas elegibles de todos los planes durante las próximas semanas, pero solo dentro de la Unión Europea.

Según TechCrunch, es posible que los desarrolladores que accedan a la API desde cualquier ubicación activen la función para ciertos modelos a partir de hoy, aunque la función permanecerá inactiva hasta que un cliente la active.

textGrain oculta la marca de agua en las elecciones léxicas del modelo

El sistema textGrain de OpenAI funciona dirigiendo ligeramente las palabras que ChatGPT elige cuando varias alternativas son igualmente adecuadas. En un texto lo suficientemente extenso, estas pequeñas decisiones acumulan un patrón estadístico invisible al ojo humano, pero detectable mediante software especializado.

Dado que la marca de agua está integrada en el propio texto y no almacenada en los metadatos del archivo, puede seguir siendo detectable incluso después de copiar y pegar el texto en otro lugar.

OpenAI desarrolló el sistema junto con investigadores de la Universidad de Pensilvania y Yale. Su artículo técnico explica que textGrain utiliza una clave secreta para clasificar las posibles palabras siguientes y favorecer sutilmente ciertas opciones. Cuando suficientes de esas opciones aparecen en un pasaje, el software con acceso a la misma clave puede identificar el patrón y determinar que el texto fue probablemente generado o procesado por un modelo de OpenAI.

OpenAI afirma que la marca de agua no contiene ninguna información que identifique al usuario que generó el texto. La compañía también indica que sus pruebas no mostraron una caída significativa en el rendimiento de GPT-6 Astra cuando se activaba textGrain.

La edición ligera puede debilitar drásticamente la detección de la marca de agua

OpenAI también publicó las limitaciones del sistema. En sus pruebas, reemplazar solo el 10% de las palabras por sinónimos redujo la detección de aproximadamente el 92% al 66%. Además, la marca de agua es más difícil de detectar en fragmentos cortos, respuestas matemáticas y textos traducidos.

Debido a estas limitaciones, OpenAI restringirá temporalmente el uso de sus herramientas de detección a investigadores autorizados y organizaciones expertas. También señala que la incapacidad para detectar marcas de agua no puede confirmar que el texto haya sido escrito por un humano. El texto podría ser simplemente demasiado corto, estar extensamente editado o incluso haber sido generado por el modelo de otra empresa.

Una marca de agua puede indicar que un sistema de OpenAI generó o procesó parte de un texto, pero no cuánto juicio humano, edición o creatividad se utilizó.

– OpenAI

Anthropic opta por la marca de agua global mientras OpenAI comienza en Europa

En agosto, Anthropic comenzó a marcar con una marca de agua las salidas de Claude a nivel mundial. Al principio, parecía una política más amplia en comparación con OpenAI, que solo lo hacía en Europa, pero la razón era técnica; Anthropic aún no tenía un sistema para restringir el marcado regional.

Ambas empresas ya habían firmado el Código de Prácticas de la UE sobre Transparencia del Contenido Generado por IA en julio, junto con aproximadamente otras 190 organizaciones, incluidas Google, Meta, Microsoft y Mistral. En consecuencia, sus esfuerzos de marcado con marcas de agua responden a los mismos requisitos de transparencia de la UE que entraron en vigor el 2 de agosto.

El despliegue de Anthropic también recibió críticas de algunos usuarios, quienes argumentaban que ellos proporcionaban las ideas, instrucciones y juicio, mientras que Claude principalmente ayudaba con la redacción.

Según el Wall Street Journal, OpenAI había creado un sistema de marca de agua para textos años antes, pero decidió no hacerlo público por temor a que los usuarios se cambiaran a otros sistemas de IA que no marcan sus salidas.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.

Descargo de responsabilidad: Sólo con fines informativos. Rentabilidades pasadas no son indicativas de resultados futuros.
placeholder
Precio petróleo hoy: El Brent acumula cinco sesiones consecutivas de caídasEl precio del petróleo cae por cinco sesión consecutiva. El Brent cerró el 22 de septiembre en 99,25 dólares y el WTI en 94,99. El aumento de la oferta saudí y la menor tensión geopolítica presionan los precios a la baja. Los inventarios de crudo en Estados Unidos subieron 1,786 millones de barriles.
Autor  Mitrade Team
9 Mes 23 Día Mier
El precio del petróleo cae por cinco sesión consecutiva. El Brent cerró el 22 de septiembre en 99,25 dólares y el WTI en 94,99. El aumento de la oferta saudí y la menor tensión geopolítica presionan los precios a la baja. Los inventarios de crudo en Estados Unidos subieron 1,786 millones de barriles.
placeholder
EUR/USD cae a 1,1377, el euro registra su peor mes desde junio frente al dólarEl EUR/USD cotiza en 1,1377 el 28 de septiembre y acumula una caída del 1,7% en septiembre, su peor mes desde junio. La presión vendedora responde al diferencial de tasas entre la Fed y el BCE, la escalada geopolítica en Oriente Medio y unos datos económicos insuficientes para revertir la tendencia. Los analistas vigilan el soporte de 1,1350 y 1,1324.
Autor  Mitrade Team
9 Mes 28 Día Lun
El EUR/USD cotiza en 1,1377 el 28 de septiembre y acumula una caída del 1,7% en septiembre, su peor mes desde junio. La presión vendedora responde al diferencial de tasas entre la Fed y el BCE, la escalada geopolítica en Oriente Medio y unos datos económicos insuficientes para revertir la tendencia. Los analistas vigilan el soporte de 1,1350 y 1,1324.
placeholder
Previsión del precio del WTI: Mantiene las ganancias de la recuperación por debajo de 89.00$; carece de convicción alcistaEl West Texas Intermediate (WTI) —el precio de referencia del Petróleo Crudo estadounidense— avanza ligeramente el miércoles, revirtiendo parte de las fuertes pérdidas de la jornada anterior hasta alcanzar mínimos de más de tres semanas, aunque carece de continuidad
Autor  FXStreet
9 Mes 30 Día Mier
El West Texas Intermediate (WTI) —el precio de referencia del Petróleo Crudo estadounidense— avanza ligeramente el miércoles, revirtiendo parte de las fuertes pérdidas de la jornada anterior hasta alcanzar mínimos de más de tres semanas, aunque carece de continuidad
placeholder
Previsión del precio del WTI: Se mantiene cerca del mínimo de cuatro semanas, alrededor de 89.00$, mientras los bajistas parecen indecisosEl West Texas Intermediate (WTI) –el precio de referencia del petróleo crudo de EE.UU.– atrae vendedores por segundo día consecutivo el lunes y mantiene sus pérdidas intradía en torno a la marca de 89.00$ durante la sesión europea temprana.
Autor  FXStreet
10 Mes 05 Día Lun
El West Texas Intermediate (WTI) –el precio de referencia del petróleo crudo de EE.UU.– atrae vendedores por segundo día consecutivo el lunes y mantiene sus pérdidas intradía en torno a la marca de 89.00$ durante la sesión europea temprana.
placeholder
El Oro se mantiene estable por debajo de 4.150$ en medio de elevados rendimientos de EE.UU.El precio del Oro (XAU/USD) cotiza estable cerca de 4.140$ durante las primeras horas de la sesión asiática del martes. La presión de un Dólar estadounidense (USD) más fuerte y de los elevados rendimientos de los bonos del Tesoro de EE.UU. se vio compensada por la reducción de las expectativas de una subida de tasas de la Reserva Federal (Fed) este mes.
Autor  FXStreet
El dia de ayer 02: 23
El precio del Oro (XAU/USD) cotiza estable cerca de 4.140$ durante las primeras horas de la sesión asiática del martes. La presión de un Dólar estadounidense (USD) más fuerte y de los elevados rendimientos de los bonos del Tesoro de EE.UU. se vio compensada por la reducción de las expectativas de una subida de tasas de la Reserva Federal (Fed) este mes.
goTop
quote