xAI, la empresa de inteligencia artificial fundada por Elon Musk, se encuentra en el centro de una controversia legal tras la presentación de una demanda colectiva en California. Tres adolescentes, que alegan que sus fotos fueron utilizadas por Grok para generar material de explotación infantil, han decidido tomar acciones legales contra la compañía. Este caso surge en un contexto donde xAI ya está enfrentando diversas investigaciones en torno a la creación de imágenes sexualizadas de menores.
Detalles de la demanda
De acuerdo con la demanda, una de las jóvenes demandantes fue alertada el pasado diciembre de que se estaban compartiendo imágenes y vídeos generados por inteligencia artificial que la involucraban a ella y a otros menores «en escenarios familiares, pero transformados en poses sexualmente explícitas». Las imágenes y vídeos, presuntamente, fueron distribuidos a través de plataformas como Discord y Telegram y utilizados «como herramienta de intercambio» para obtener otro material de explotación infantil (CSAM). Funcionarios de las fuerzas del orden que investigaron el caso informaron a los padres de las niñas que las imágenes habían sido creadas con la tecnología de xAI.
Impacto en las víctimas
Las tres adolescentes, identificadas como Jane Doe 1, Jane Doe 2 y Jane Doe 3, todas residenciadas en Tennessee, alegan en la demanda haber sufrido «un profundo daño emocional». El documento legal señala que «sus vidas han sido destrozadas por la devastadora pérdida de privacidad, dignidad y seguridad personal» resultante de la producción y difusión de este material. Según sus abogados, «el beneficio financiero de xAI, derivado del uso creciente de su producto de generación de imágenes y vídeos, ha sido a expensas de su bienestar». Las demandantes tendrán que vivir con la angustiante posibilidad de que sus imágenes sigan siendo comercializadas por depredadores sexuales en línea.
Alcance de la demanda y sus implicaciones
A pesar de que actualmente la demanda se centra en tres individuos, se sugiere que podría abarcar «al menos a miles de menores» cuyos fotos también hayan sido manipuladas por Grok para crear imágenes sexualizadas. La demanda alega que xAI ha violado múltiples leyes, incluyendo aquellas que prohíben la producción y distribución de material de abuso infantil.
Reacciones y medidas tomadas por xAI
Por el momento, xAI no ha ofrecido una respuesta oficial a la solicitud de comentarios sobre la demanda. Además, la empresa se enfrenta a varias investigaciones tanto en Estados Unidos como en Europa en relación con la generación de material no consensuado. Un informe del Centro para Combatir el Odio Digital estima que Grok ha producido millones de imágenes sexualizadas, incluyendo aproximadamente 23,000 que parecen mostrar a menores.
El CEO de xAI, Elon Musk, quien anteriormente había promocionado las capacidades «picantes» de Grok, ha afirmado no estar «al tanto de ninguna imagen desnuda de menores generada por Grok». En enero, xAI anunció que limitaría el uso de Grok para editar imágenes de personas reales y restringiría la función de generación de imágenes a suscriptores de pago.
FAQ
- ¿Qué es Grok? Grok es un producto de inteligencia artificial desarrollado por xAI que ha estado bajo escrutinio por la generación de imágenes sexualizadas de menores.
- ¿Qué puede implicar esta demanda colectiva? Podría cubrir a miles de menores cuyos fotos han sido manipulados, alegando violaciones a leyes contra la producción de material de abuso infantil.
- ¿Qué acciones ha tomado xAI recientemente? xAI ha limitado el uso de Grok para editar imágenes de personas reales y restringido su acceso a suscriptores de pago.