Por revistaeyn.com
La ciudad de Baltimore demandó a xAI, empresa de Elon Musk, alegando que su chatbot Grok genera ilegalmente imágenes sexualmente explícitas sin consentimiento, incluidas de menores de edad.
Baltimore, con una población de aproximadamente 568,000 habitantes, es la ciudad más grande en presentar una demanda contra xAI por los “deepfakes” atribuidos a Grok, según indicaron sus abogados.
Musk lanzó Grok en 2023 y lo distribuye a través de su plataforma de redes sociales X, que al igual que xAI ahora forma parte de su empresa de cohetes y exploración espacial SpaceX.
La ciudad de Maryland señaló en una demanda presentada ante el Tribunal de Circuito de Baltimore que xAI está violando su ley de protección al consumidor al promover Grok como un asistente de inteligencia artificial seguro y de uso general para el público.
Baltimore afirmó que Grok ha inundado a los usuarios de X con contenido objetable, convirtiéndose en uno de los mayores distribuidores de material que representa actividad sexual no consensuada y abuso sexual infantil, a pesar de prometer que prohíbe ese tipo de contenido y permite solo desnudos de adultos producidos con consentimiento.
La ciudad también indicó que X, anteriormente conocida como Twitter, generó un estimado de 3 millones de imágenes sexualizadas de aspecto realista —incluidas más de 23.000 de menores— durante 11 días alrededor del inicio del año.
“Estamos hablando de empresas tecnológicas que facilitan la explotación sexual de menores”, dijo el alcalde de Baltimore, Brandon Scott, en un comunicado. “Es una amenaza a la privacidad, la dignidad y la seguridad pública, y los responsables deben rendir cuentas”.
La empresa xAI de Musk enfrenta investigaciones regulatorias en varios países de América, Europa, Asia y Australia por Grok.
A mediados de enero, xAI dijo que restringió la edición de imágenes en Grok y bloqueó a los usuarios para que no generen imágenes de personas con vestimenta reveladora en “jurisdicciones donde es ilegal”.
Musk dijo en ese momento que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero”.
La demanda incluye una imagen generada por Grok que Musk compartió el 31 de diciembre de 2025, que lo muestra, de 54 años, con un bikini azul de tiras. Baltimore la calificó como un “respaldo público” de la capacidad de Grok para generar ediciones sugestivas de personas reales.
La estimación de 3 millones provino del Center for Countering Digital Hate, basada en una muestra aleatoria de 20,000 imágenes generadas por Grok.
Baltimore busca una orden judicial que obligue a xAI a modificar las características de diseño “explotadoras” de Grok, así como el pago de multas no especificadas.
La reciente combinación de SpaceX y xAI creó la empresa privada más valiosa del mundo, con un valor aproximado de US$1.25 billones en ese momento.
Con información de Reuters
