Meta congela el acceso de los adolescentes a la IA a la espera de un rediseño más seguro
Meta anunció que deshabilitará el acceso de todos los adolescentes a sus personajes de IA en todo el mundo en todas las aplicaciones.
“A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista”, escribió Meta en una publicación de blog.
La compañía indicó en una publicación de blog actualizada que esta regla cubre a cualquiera que haya proporcionado la fecha de nacimiento de un adolescente y a aquellos que dicen ser adultos pero se sospecha que son adolescentes según su tecnología de predicción de edad.
Meta detuvo el acceso cuando los padres exigieron información más clara y control sobre las interacciones de IA de sus hijos adolescentes.
La compañía planeó lanzar estas funciones este año, pero decidió deshabilitar por completo los personajes de IA.
Meta planea personajes de IA específicos para cada edad
La compañía busca crear un personaje de IA especial para adolescentes. Meta afirmó que los nuevos personajes de IA para adolescentes incluirán control parental.
Los nuevos personajes ofrecerán respuestas apropiadas para cada edad y se centrarán en la educación, los deportes y los pasatiempos.
En octubre, Meta introdujo controles parentales para personalizar la interacción de los adolescentes con la IA en sus aplicaciones. Las nuevas funciones impidieron que los adolescentes vieran violencia extrema, desnudez y consumo explícito de drogas, inspirados en la clasificación PG-13.
Unos días después, la compañía presentó herramientas para gestionar personajes de IA, de modo que los padres y tutores pudieran trac a los sujetos y restringir el acceso a personajes específicos. Meta indicó que los padres podían desactivar por completo los chats con personajes de IA.
El jueves, Wired afirmó que Meta intentó restringir la recopilación de información sobre los efectos de las redes sociales en la salud mental de los adolescentes e informes relacionados.
La compañía quiere eliminar cualquier mención a un caso reciente de suicidio de un adolescente vinculado a las redes sociales, y referencias a las finanzas de Meta, las actividades de los empleados y los años de Mark Zuckerberg en Harvard.
La decisión de Meta de detener los personajes adolescentes con inteligencia artificial ocurre justo antes de un juicio en Nuevo México, donde Meta enfrenta cargos por no proteger a los niños en sus aplicaciones.
Se alega que Meta no protegió a los menores contra la solicitación en línea, el tráfico y el abuso sexual en sus sitios.
Meta declaró en mociones previas al juicio que el jurado solo debería decidir si Meta violó la Ley de Prácticas Desleales de Nuevo México con respecto a la seguridad infantil y la salud mental de los jóvenes.
No se deben considerar otras cuestiones como la supuesta interferencia electoral, la desinformación o las violaciones de la privacidad.
Además del caso de Nuevo México, Meta enfrentará un juicio la próxima semana por causar adicción a las redes sociales.
La demandante de 19 años, conocida como KGM, afirmó que el algoritmo de las plataformas le causó adicción y dañó su salud mental.
Es probable que el director ejecutivo Mark Zuckerberg testifique una vez que comience el juicio.
Las plataformas en línea refuerzan el acceso de los adolescentes
Las plataformas de redes sociales y las empresas de inteligencia artificial han cambiado la experiencia de los adolescentes debido a demandas que afirman que contribuyeron a la autolesión.
El 20 de enero, OpenAI introdujo funciones de predicción de edad en ChatGPT para detectar y mejorar las protecciones para los usuarios más jóvenes.
El modelo de predicción de edad de ChatGPT analiza datos de comportamiento y de la cuenta, como la edad declarada del usuario, la antigüedad de la cuenta, los tiempos de actividad y las tendencias de uso.
La semana pasada, TikTok introdujo tecnología de inteligencia artificial en Europa para detectar y eliminar cuentas de usuarios menores de 13 años.
El sistema de control de edad con IA examina los detalles del perfil, los clips y los hábitos de publicación paradentlas cuentas de menores. La función se implementará en las próximas semanas.
Otras plataformas en línea como Instagram, YouTube, TikTok y Roblox adoptaron medidas de restricción por edad.
Reclama tu asiento gratuito en una comunidad exclusiva de comercio de criptomonedas , limitada a 1000 miembros.
Artículos Recomendados
