Cuando una IA promete haber aprendido la lección, lo mínimo que se espera es que deje de cometer el mismo error. Pero Grok, el modelo desarrollado por xAI, vuelve a estar en el ojo del huracán.
A pesar de que la compañía aseguró haber endurecido sus filtros, nuevas pruebas indican que la IA sigue generando imágenes de personas reales sin consentimiento, un problema grave que pone en cuestión tanto su control interno como su enfoque ético.
Las nuevas restricciones no están funcionando
Según las pruebas recientes, Grok continúa aceptando solicitudes que otros modelos de IA rechazan de forma automática. En concreto, el sistema sigue creando imágenes sexualizadas o manipuladas de personas reales, incluso cuando se especifica claramente que no existe consentimiento.
Lo más preocupante es que este comportamiento se produce después de que xAI anunciara supuestas mejoras en sus sistemas de seguridad. En la práctica, estas barreras parecen inconsistentes y fáciles de esquivar, lo que deja abierta la puerta a abusos graves.
Grok falla donde otros modelos se detienen
La comparación es inevitable. Mientras otros modelos de IA líderes bloquean de inmediato cualquier petición relacionada con imágenes no consentidas, Grok muestra una tasa de aceptación significativamente mayor.
Esto no solo supone un riesgo técnico, sino también legal y reputacional. Generar este tipo de contenido puede violar leyes de privacidad, protección de datos e incluso derechos fundamentales de las personas afectadas.
Un problema que ya preocupa a reguladores
Este tipo de fallos no pasan desapercibidos. Las autoridades ya observan con atención si Grok cumple realmente con las normativas vigentes, especialmente en regiones como Europa, donde las leyes sobre privacidad y uso de datos personales son especialmente estrictas.
Si xAI no logra demostrar un control efectivo sobre su modelo, el escenario es claro:
- Mayor presión regulatoria
- Posibles sanciones
- Limitaciones obligatorias al producto
Todo ello podría frenar la expansión de Grok justo cuando intenta posicionarse como alternativa a los grandes modelos del mercado.
El debate de fondo: ¿IA sin filtros o sin control?
El caso Grok vuelve a abrir un debate incómodo: ¿hasta qué punto puede existir una IA “menos filtrada” sin convertirse en un problema social?
Una cosa es fomentar respuestas más libres y otra muy distinta permitir la generación de contenido que vulnera la privacidad y el consentimiento humano. En este punto, Grok parece demostrar que una protección mal implementada es incluso más peligrosa que no tenerla.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
FAQ
Ha generado imágenes de personas reales sin su consentimiento, incluso después de aplicar nuevas restricciones de seguridad.
Sí, pero las pruebas muestran que los filtros son inconsistentes y no bloquean correctamente este tipo de solicitudes.
Porque vulnera la privacidad y el consentimiento de personas reales, lo que puede tener consecuencias legales y éticas.
No. La mayoría de modelos líderes bloquean automáticamente este tipo de peticiones.
Sí. Reguladores y autoridades ya observan de cerca si Grok cumple las normativas de privacidad y protección de datos.
