OpenAI y Common Sense Media unen fuerzas para impulsar una medida electoral sobre seguridad infantil con inteligencia artificial en California

OpenAI y Common Sense Media, que estaban en desacuerdo sobre la política tecnológica, anunciaron el viernes que unirán fuerzas en una propuesta electoral destinada a proteger a los niños que utilizan chatbots de inteligencia artificial en California.

Ambos grupos anunciaron que abandonarían las propuestas que planeaban presentar a los votantes de California este noviembre. En su lugar, respaldarán una sola medida que desarrollaron conjuntamente.

El acuerdo evita lo que podría haber sido una costosa batalla política entre las dos organizaciones, y OpenAI planea contribuir con no menos de 10 millones de dólares para conseguir que la medida se incluya en la boleta, según dos personas con conocimiento del acuerdo.

La nueva propuesta otorgaría a los padres mayor poder sobre cómo sus hijos usan los chatbots de IA. Sin embargo, omite ciertas disposiciones que Common Sense Media quería incluir en su versión original. Entre estas disposiciones eliminadas se incluyen la prohibición de los teléfonos celulares en las escuelas y una cláusula que habría permitido a padres e hijos emprender acciones legales contra las principales empresas de IA si los chatbots causaran daños.

“En lugar de confundir a los votantes con iniciativas electorales rivales sobre IA, decidimos colaborar”, dijo Jim Steyer, fundador y director de Common Sense Media. Habló sobre el acuerdo en una conferencia de prensa el viernes.

Para que la medida sea aprobada por los votantes se requieren aproximadamente 875,000 firmas dedentde California. Chris Lehane, encargado de asuntos de política global para OpenAI, afirmó que ambas partes crearían una organización de campaña para recolectar firmas a partir de principios de febrero. Tanto Lehane como Steyer señalaron que podrían retirar la propuesta si los legisladores californianos actúan con rapidez para aprobar una legislación que aborde la seguridad de los chatbots para niños.

Esta asociación marca un cambio para dos organizaciones que a menudo se han encontrado en lados opuestos en cuestiones tecnológicas.

Common Sense Media se ha convertido en un actor clave en la promoción de normas que rijan a las empresas tecnológicas en Estados Unidos. La organización contribuyó a la creación de la Ley de Privacidad del Consumidor de California en 2018. El mes pasado, apoyó una ley de Nueva York que exige etiquetas de advertencia sobre salud mental en ciertas redes sociales.

El grupo también ha expresado abiertamente su interés en regular los chatbots de IA. El año pasado, apoyó un proyecto de ley en California que habría prohibido que los populares chatbots de IA que acompañan a los niños hablaran con ellos, a menos que dichos programas no fueran previsiblemente capaces de mantener conversaciones sexualmente explícitas o promover comportamientos nocivos como la autolesión, la violencia y los trastornos alimentarios.

Los grupos de la industria tecnológica lucharon contra ese proyecto de ley

El gobernador demócrata Gavin Newsom lo rechazó, calificándolo de demasiado restrictivo.

Newsom dijo que quería que los legisladores abordaran el tema en 2026, pero agregó que el estado "no puede preparar a nuestros jóvenes para un futuro donde la IA sea omnipresente impidiendo por completo el uso de estas herramientas"

Common Sense Media presentó su propuesta de iniciativa electoral en octubre, tomando como modelo el proyecto de ley vetado. OpenAI respondió presentando su propia iniciativa, más limitada, sobre seguridad infantil en diciembre.

OpenAI formó un equipo centrado en las medidas electorales de California durante el verano, esperando encontrar resistencia a sus planes de cambiar su estructura organizativa, dijeron personas familiarizadas con la situación.

La Cámara de Comercio de California, cuyos miembros incluyen empresas tecnológicas ricas como Google, Meta y Amazon.com, votó en diciembre para oponerse a lo que Common Sense Media había propuesto.

Ese mismo mes, Lehane se sentó con Steyer y sugirió llegar a un acuerdo.

Las dos organizaciones llevaban más de un año en conversaciones y ya habían llegado a un acuerdo para colaborar en la elaboración de directrices y materiales didácticos sobre IA. Durante las conversaciones sobre un posible acuerdo, OpenAI se basó en conceptos sobre seguridad infantil que su líder, Sam Altman, había abordado con el fiscal general de California, Rob Bonta, en septiembre. Estos incluían los planes de la compañía para crear tecnología paradenta usuarios menores de 18 años.

Lo que requeriría la nueva medida

La iniciativa de referéndum actualizada, que sustituirá la solicitud anterior de OpenAI, obligaría a las empresas de IA a ofrecer una versión diferente de su servicio a los usuarios identificados dent menores de 18 años, incluso si estos afirman ser mayores. También exigiría a las empresas que proporcionen controles parentales , se sometan a revisiones independientes dent seguridad infantil y suspendan la publicidad dirigida a menores, entre otros requisitos.

El compromiso ayuda a OpenAI, que ha enfrentado demandas de varias familias durante el último año que alegaban que las interacciones de ChatGPT dañaron a sus familiares, incluidos jóvenes que se quitaron la vida.

OpenAI calificó las situaciones descritas en esas demandas como “una situación increíblemente desgarradora” y mencionó actualizaciones recientes que había realizado en ChatGPT para un mejor manejo de los usuarios que experimentan angustia mental.

En noviembre, Common Sense Media publicó una revisión que afirmaba que los chatbots de IA, incluidos ChatGPT, Gemini de Google, Claude de Anthropic y Meta AI de Meta Platforms, eran "fundamentalmente inseguros para el apoyo de la salud mental de los adolescentes".

Steyer, quien fundó su organización en 2003, ha intentado constantemente encontrar un equilibrio entre la confrontación con las empresas de tecnología y medios de comunicación y, al mismo tiempo, trabajar con ellas en cuestiones de seguridad.

Afila tu estrategia con mentoría + ideas diarias: 30 días de acceso gratuito a nuestro programa de trading