La ciudad de Baltimore ha iniciado hoy una demanda municipal contra la empresa xAI, fundada por Elon Musk, en respuesta al uso del chatbot Grok para generar un número alarmante de imágenes sexualizadas no consensuadas. Según el Centro para el Contrarresto del Odio Digital, Grok habría creado aproximadamente 3 millones de estas imágenes en solo 11 días, entre las cuales se incluyen 23,000
Detalles de la demanda
La estrategia adoptada por Baltimore se centra en la presunta violación de la Ordenanza de Protección al Consumidor de la ciudad por parte de las empresas de Musk. La queja, reportada por The Guardian, alega que xAI comercializó Grok como un asistente de IA de propósito general sin informar adecuadamente sobre los riesgos y peligros asociados con el uso de esta herramienta y la red social X.
Declaraciones oficiales
La abogada de la ciudad, Ebony M. Thompson, declaró: “Las leyes de protección al consumidor de Baltimore existen para proteger a los residentes de este tipo de daños emergentes. Cuando las empresas introducen tecnologías poderosas sin las salvaguardias adecuadas, la ciudad tiene tanto la autoridad como la obligación de actuar. Estamos interviniendo ahora para proteger a nuestros residentes, responsabilizar a estas empresas y prevenir que estos daños se afiance aún más a medida que esta tecnología sigue evolucionando.”
Otras acciones legales en EE. UU.
Además de esta demanda, Grok enfrenta otra acción legal en EE. UU. a raíz de una posible demanda colectiva presentada por tres adolescentes que alegan que fotos suyas fueron utilizadas para crear material de abuso sexual infantil.
A medida que el debate sobre la inteligencia artificial y sus implicaciones legales avanza, la acción de Baltimore podría sentar un precedente en la regulación de tecnologías emergentes y su impacto en la sociedad.
Preguntas frecuentes
- ¿Qué es Grok? Grok es un chatbot desarrollado por xAI que ha sido acusado de generar imágenes sexualizadas no consensuadas.
- ¿Cuántas imágenes problemáticas generó Grok? Se estima que Grok generó aproximadamente 3 millones de imágenes sexualizadas en 11 días.
- ¿Qué medidas ha tomado Baltimore? La ciudad ha demandado a xAI bajo su Ordenanza de Protección al Consumidor por no informar adecuadamente sobre los riesgos del uso de Grok.