Las preguntas de ética rodean la solicitud XAI para el personal de los videos de expresión facial para capacitar a Grok

La ética de la compañía de inteligencia artificial de Elon Musk se cuestiona después de que las comunicaciones internas revelaron que a los empleados se les pidió que grabaran videos de sus caras y expresiones para capacitar al modelo de lenguaje grande de la compañía, Grok. 

Según personas familiarizadas con el asunto, el proyecto interno, denominado "Skippy", tuvo lugar en abril e involucró a más de 200 miembros del personal. Supuestamente, la iniciativa estaba destinada a ayudar al sistema de IA a interpretar mejor las emociones y expresiones humanas utilizando grabaciones de video de conversaciones reales y movimientos faciales.

Algunos del personal sintieron que la compañía estaba violando su derecho a la privacidad y el consentimiento, y no indicaron claramente cómo se utilizarían sus datos en la capacitación de IA. 

Los empleados de XAI tienen problemas con el proyecto 'Skippy' 

Según los documentos internos y las comunicaciones de Slack obtenidas por Business Insider, Xai encargó a sus tutores de IA, empleados responsables de refinar el modelo, registrando conversaciones de 15 a 30 minutos con compañeros de trabajo.

Según los informes, las sesiones incluyeron tanto el diálogo como las expresiones faciales exageradas para simular respuestas emocionales del mundo real. Un individuo en cada par de conversaciones fue el "anfitrión" o el asistente virtual, el otro un usuario. 

Se instruyó al host para limitar sus movimientos y pegar dentro del marco de una cámara óptima, pero el usuario era libre de grabar desde un teléfono o computadora móvil y moverse naturalmente. Las imágenes resultantes estaban destinadas a reflejar conversaciones casuales de la vida real.

El ingeniero principal en el proyecto Skippy dijo a los empleados durante una reunión de inicio que querían "darle una cara a Grok, y que estos datos podrían apoyar el desarrollo de avatares humanos. 

Los chats muestran que el ingeniero prometió que los videos solo se usarían internamente y no para crear versiones digitales de los participantes, pero supuestamente no estaban convencidos.

" Nuestro objetivo es exponer el modelo a datos imperfectos, como el ruido de fondo y los movimientos abruptos, para que sus respuestas sean más versátiles ", explicó el ingeniero, según una grabación de la reunión. También insistieron: " Tu cara nunca llegará a la producción. Es puramente enseñarle a Grok lo que es una cara ".

A pesar de tales garantías, docenas de empleados fueron inquietos después de ser requeridos para firmar un formulario de consentimiento que otorgó de XAI para usar su semejanza para fines de capacitación y en materiales promocionales.

Opción de recopilación y indicaciones incómodas

Varios trabajadores optaron por el programa por completo, diciendo que se sentían incómodos con la forma en que el proyecto y el lenguaje utilizado en los acuerdos de consentimiento. Durante las discusiones internas, un empleado preguntó si el metraje podría ser manipulado para simularlos diciendo cosas que nunca dijeron.

Como parte de las sesiones de grabación, Xai alentó a los empleados a discutir temas personales o provocativos como: "¿Alguna vez saldrías con alguien con un niño?", "¿Cómo manipulas en secreto a las personas para que se salgan con la suya?" Y "¿Qué pasa con las duchas, la mañana o la noche?" 

Algunos encontraron los temas profundamente invasivos o inapropiados.

Solo días después de Grok 4 a mediados de julio, Xai debutó a dos avatares de IA llamados Ani y Rudi. Los videos publicados en X, la plataforma social propiedad de Musk, muestran que ANI puede ser solicitado a participar en conversaciones sexualmente explícitas y quitarse la ropa.

Aunque XAI no ha confirmado si el proyecto Skippy contribuyó directamente al desarrollo de estos avatares, el silencio está obteniendo diferentes interpretaciones.

Aunque XAI no ha confirmado si el proyecto Skippy contribuyó directamente al desarrollo de estos avatares, el silencio está obteniendo diferentes interpretaciones.

Xai también lanzó una función de chat de video para Grok en abril, y a principios de este mes presentó Grok para los propietarios de Tesla, junto con un nivel de suscripción premium llamado Supergrok Heavy, con un precio de $ 300 por mes.

El 9 de julio, la pronta función de Grok se cerró brevemente después de que escribió una diatriba antisemita. La compañía luego emitió una disculpa pública en X.

Key Difference Wire ayuda a las marcas criptográficas a romper y dominar los titulares rápidamente