La inteligencia artificial Grok, desarrollada por la empresa xAI de Elon Musk e integrada a la red social X, quedó este lunes en el centro de una creciente reacción internacional tras denuncias por la generación de deepfakes sexualizando a mujeres y menores de edad, a pedido de hombres muchas veces anónimos. La controversia escaló luego de que autoridades de la Unión Europea se sumaran a la condena pública y el gobierno británico advirtiera que podría iniciar una investigación formal.
El caso se activó a partir de reportes de usuarios y organizaciones que detectaron imágenes y contenidos de carácter sexual creados artificialmente, algunos de ellos con rasgos que remiten a adultos reales y, en los casos más graves, a menores. Las denuncias apuntan a fallas en los filtros de seguridad de Grok y a la insuficiencia de los mecanismos de control para prevenir usos abusivos de la tecnología.
Desde la Comisión Europea señalaron que el desarrollo y despliegue de sistemas de inteligencia artificial debe respetar estándares estrictos de protección de derechos fundamentales, en particular cuando se trata de la integridad, la privacidad y la dignidad de las personas. En ese marco, recordaron que la normativa comunitaria sobre servicios digitales y la futura Ley de Inteligencia Artificial establecen obligaciones claras para las plataformas tecnológicas.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Furor global por el “Nike Tech” de Maduro tras la imagen de su captura: se agotó online y cuesta una fortuna
En el Reino Unido, funcionarios del gobierno indicaron que los reguladores analizan si el funcionamiento de Grok podría violar las leyes vigentes en materia de protección infantil y contenidos ilegales en línea. “Las empresas tecnológicas deben garantizar que sus productos no faciliten abusos ni daños”, advirtieron fuentes oficiales, al tiempo que dejaron abierta la posibilidad de una investigación.
Por qué 2026 tendrá 13 lunas llenas y cuándo ocurrirá la “Luna Azul”
La polémica vuelve a poner bajo presión a Elon Musk, quien ha defendido públicamente una visión de la inteligencia artificial con menos restricciones y mayor énfasis en la “libertad de expresión”. Sin embargo, críticos y especialistas en ética digital advierten que la proliferación de deepfakes sexualizados representa uno de los riesgos más graves asociados al uso irresponsable de estas tecnologías, creando nuevas formas de abuso.
Mientras xAI no emitió aún una respuesta detallada sobre los señalamientos, el episodio reaviva el debate global sobre los límites, la regulación y la responsabilidad de las empresas que desarrollan herramientas de inteligencia artificial generativa, en un contexto de creciente escrutinio político y social. Mientras, «ponele una bikini» y «sacale la ropa» siguen siendo pedidos diarios en fotos de mujeres y niñas en X.
GD/ML