La compañía de inteligencia artificial xAI, propiedad de Elon Musk, ha iniciado una acción legal contra un ciudadano de Carolina del Sur, identificado como Terry Wayne Harwood. La demanda surge a raíz de las acusaciones de que el individuo utilizó el chatbot Grok para generar y distribuir material de abuso sexual infantil (CSAM). Este movimiento judicial marca un precedente importante para la empresa, al intentar deslindar responsabilidades y castigar el uso indebido de sus herramientas tecnológicas en actividades criminales graves.

Según los documentos presentados ante las autoridades, la empresa sostiene que el demandado actuó de manera deliberada para eludir los protocolos de seguridad implementados en la plataforma. Se alega que Harwood manipuló imágenes no consensuadas y utilizó la capacidad de generación de la IA para crear contenido explícito ilegal. El individuo ya enfrenta ocho cargos por delitos graves tras su arresto en febrero, relacionado precisamente con la posesión y difusión de este tipo de material ilícito.

La controversia se intensifica al señalar que, al menos una parte del material incriminatorio, fue producido o alterado mediante el uso de Grok. La demanda detalla que el usuario logró vulnerar los filtros de seguridad del sistema para transformar fotografías convencionales en imágenes de contenido sexual explícito, sin contar con el consentimiento de las personas involucradas. Este caso pone de relieve las vulnerabilidades técnicas que enfrentan las plataformas de IA generativa frente a usuarios malintencionados.

El contexto de esta situación se remonta a la implementación de nuevas funcionalidades en Grok, incluyendo un modo de edición de imágenes más flexible introducido el año pasado. Dicha actualización facilitó la creación de deepfakes sexualizados, lo que generó críticas y preocupaciones significativas. De hecho, la empresa ya enfrentaba una demanda previa presentada en marzo por un grupo de adolescentes, quienes alegaron que la IA generó imágenes sexualizadas de ellos mismos siendo menores de edad, lo que subraya la persistencia de estos riesgos.

Ante estos incidentes, la postura oficial de la dirección de xAI ha sido advertir que cualquier persona que utilice sus herramientas para fines ilegales enfrentará consecuencias legales severas, equiparables a las que recibiría por cargar contenido ilícito directamente. A pesar de estas declaraciones, esta es la primera ocasión en la que la compañía decide llevar a un usuario ante los tribunales específicamente por la creación de deepfakes mediante su tecnología.

La empresa argumenta que las acciones de Harwood han expuesto a la organización a riesgos legales considerables y a un daño reputacional severo. Por ello, xAI solicita al tribunal que ordene al demandado el pago de indemnizaciones por los daños causados y los gastos legales derivados de posibles litigios iniciados por las víctimas. Además, la compañía busca una orden judicial permanente que prohíba a Harwood crear cuentas en sus servicios o interactuar con el chatbot en el futuro.