Los investigadores afirman que la "basura" de la IA está distorsionando la ciencia y presionan para que se divulgue de forma obligatoria

Los científicos que trabajan en el mundo de la investigación en IA se enfrentan a un problema de credibilidad que ya no pueden ignorar.

Las principales conferencias centradas en la investigación sobre IA reaccionaron después de que los sistemas de revisión se saturaran con presentaciones débiles.

Los organizadores observaron un fuerte aumento en los artículos y las revisiones por pares producidos con poco esfuerzo humano. La preocupación no es el estilo, sino la precisión. Los errores se están filtrando donde antes la precisión importaba.

Las conferencias toman medidas drásticas porque los artículos de baja calidad abruman a los revisores

Los investigadores advirtieron con antelación que el uso incontrolado de herramientas de escritura automatizada podría perjudicar el campo. Inioluwa Deborah Raji, investigadora de IA de la Universidad de California, Berkeley, afirmó que la situación se volvió caótica rápidamente.

“Hay un poco de ironía en el hecho de que haya tanto entusiasmo por que la IA esté dando forma a otros campos cuando, en realidad, nuestro campo ha pasado por esta experiencia caótica debido al uso generalizado de la IA”, dijo.

Datos concretos muestran la magnitud del problema. Un estudio de la Universidad de Stanford, publicado en agosto, reveló que hasta un 22 % de los artículos de informática mostraban indicios de un uso intensivo de modelos de lenguaje.

Pangram, una startup de análisis de texto, revisó los trabajos presentados y las revisiones por pares en la Conferencia Internacional sobre Representaciones del Aprendizaje de 2025. Estimó que el 21 % de las revisiones se generaron íntegramente mediante IA, mientras que más de la mitad la utilizó para tareas como la edición. Pangram también descubrió que más de la mitad del contenido del 9 % de los trabajos presentados se produjo de esta manera.

El problema llegó a un punto crítico en noviembre. Los revisores del ICLR detectaron un artículo sospechoso de ser generado por IA, que aún se encontraba entre el 17 % superior según las puntuaciones de los revisores. En enero, la empresa de detección GPTZero reportó más de 100 errores automatizados en 50 artículos presentados en NeurIPS, considerado ampliamente como el principal foro de investigación avanzada en este campo.

Ante la creciente preocupación, el ICLR actualizó sus normas de uso antes de la conferencia. Los artículos que no revelen un uso extenso de modelos lingüísticos se enfrentan a un rechazo. Los revisores que presenten evaluaciones de baja calidad creadas con automatización se arriesgan a sanciones, incluyendo el rechazo de sus propios artículos.

Hany Farid, profesor de informática en la Universidad de California, Berkeley, dijo: "Si publicamos artículos de muy baja calidad que son simplemente erróneos, ¿por qué debería la sociedad confiar en nosotros como científicos?"

Los volúmenes de papel aumentan mientras la detección lucha por mantenerse al día

Según el informe, NeurIPS recibió 21.575 artículos en 2025, frente a los 17.491 de 2024 y los 9.467 de 2020. Un autor presentó más de 100 artículos en un solo año, una cifra muy superior a la habitual para un investigador.

Thomas G. Dietterich, profesor emérito de la Universidad Estatal de Oregón y presidente de la sección de informática de arXiv, dijo que las subidas al repositorio abierto también aumentaron drásticamente.

Aun así, los investigadores afirman que la causa no es simple. Algunos argumentan que el aumento se debe a la incorporación de más personas al campo. Otros afirman que el uso intensivo de herramientas de IA desempeña un papel fundamental. La detección sigue siendo difícil porque no existe un estándar común paradenttexto automatizado. Dietterich señaló que las señales de alerta comunes incluyen referencias inventadas y figuras incorrectas. Los autores que sean descubiertos haciendo esto pueden ser expulsados temporalmente de arXiv.

La presión comercial también se mantiene en segundo plano. Manifestaciones de alto perfil, salarios altísimos y una competencia agresiva han impulsado a algunos sectores a centrarse en la cantidad. Raji afirmó que los momentos de entusiasmotraca quienes buscan resultados rápidos.

Al mismo tiempo, los investigadores afirman que algunos usos son legítimos. Dietterich señaló que la calidad de la escritura en los artículos procedentes de China ha mejorado, probablemente porque las herramientas lingüísticas ayudan a reescribir el inglés con mayor claridad.

El problema ahora trasciende el ámbito editorial. Empresas como Google, Anthropic y OpenAI promocionan sus modelos como socios de investigación que pueden acelerar el descubrimiento en áreas como las ciencias de la vida. Estos sistemas se entrenan con textos académicos.

Farid advirtió que si los datos de entrenamiento incluyen demasiado material sintético, el rendimiento del modelo puede degradarse. Estudios anteriores demuestran que los modelos lingüísticos extensos pueden volverse absurdos cuando se alimentan con datos automatizados sin procesar.

Farid afirmó que las empresas que extraen datos de investigaciones tienentronincentivos para saber qué artículos están escritos por personas. Kevin Weil, director científico de OpenAI, indicó que las herramientas aún requieren revisiones humanas. "Puede ser un gran acelerador", afirmó. "Pero hay que verificarlo. No exime del rigor"

Únase a una comunidad premium de comercio de criptomonedas gratis durante 30 días (normalmente $100/mes).