X anuncia medidas para evitar que Grok «desnude» imágenes de personas reales

X anuncia medidas para evitar que Grok «desnude» imágenes de personas reales.

Grok, el chatbot de X, ya no podrá editar fotos de personas reales para desvestirlas o mostrarlas con ropa provocativa, en medio de la preocupación internacional por la difusión de contenidos explícitos en esa herramienta de inteligencia artificial.

X anuncia medidas para evitar que Grok «desnude» imágenes de personas reales

«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago», informó este miércoles en un comunicado la cuenta de seguridad de la red social, propiedad de Elon Musk.

No obstante, detallan que la creación de imágenes y la posibilidad de editarlas a través del chatbot solo estará ahora disponible para los suscriptores de pago, a fin de garantizar que aquellos que infrinjan la ley o las políticas de la red social «puedan ser considerados responsables».

🛡️ ¿Qué está haciendo X para frenar los “desnudos digitales”?

1. Restricción tecnológica en Grok
X ha implementado cambios para que Grok ya no edite ni genere imágenes de personas reales con ropa reveladora (como bikinis o ropa interior) ni las muestre con menos ropa de la que tenían originalmente. Esta limitación se aplica a todos los usuarios, incluidos los suscriptores de pago.

2. Limitación de funciones a usuarios de pago
La empresa ha restringido la creación y edición de imágenes mediante Grok —en la propia plataforma X— solo a usuarios con suscripción de pago, con la idea de mejorar la trazabilidad cuando se abusa de la herramienta.

3. Geobloqueos según leyes locales
X también ha dicho que bloqueará geográficamente la generación de imágenes sexualizadas

en lugares donde este tipo de contenido sea ilegal, para cumplir con distintas legislaciones nacionales.

🌍 ¿Por qué se tomaron estas medidas?

Las medidas llegan tras una amplia crítica internacional y acciones legales/regulatorias en varios países por la creación de imágenes no consensuadas y potencialmente abusivas:

• Gobiernos y reguladores (como en California y el Reino Unido) han abierto investigaciones o advertencias sobre deepfakes y contenido explícito de AI.
• Países como Malasia e Indonesia llegaron a bloquear el acceso a Grok temporalmente.
• Organizaciones defensoras de derechos digitales y seguridad infantil están presionando a plataformas como Apple y Google para retirar la app de X si no se controla este tipo de generación de imágenes.

📌 Críticas y debates

Aunque estas restricciones se consideran un paso hacia adelante, expertos y activistas señalan que pueden no ser suficientes. Algunos critican que poner las funciones detrás de un pago podría “monetizar” el acceso a la IA en vez de detener su mal uso.

En síntesis, X ha reconocido el problema y ha modificado técnicamente Grok para prohibir y bloquear la creación o edición de imágenes de desnudos o sexualizadas de personas reales, con medidas que varían según la geografía y el tipo de usuario. La plataforma sigue bajo escrutinio mientras las autoridades y grupos de la sociedad civil exigen cambios más profundos.

X bloquea los desnudos por Grok: ningún usuario podrá pedirle a la IA de Elon Musk que desnude a otra persona

Elon Musk, CEO de Tesla y SpaceX, presentó oficialmente Grok Imagine, un modelo de inteligencia artificial (IA) generativa capaz de transformar texto e imágenes en videos con movimiento y sonido.

La herramienta, integrada dentro del chatbot Grok en la red social X, busca posicionarse como una alternativa disruptiva frente a sistemas como Sora 

de OpenAI y Veo de Google, combinando versatilidad creativa con una estética provocadora que ya ha generado controversia.

Cómo funciona Grok Imagine, la nueva IA de Elon Musk para generar videos

Grok Imagine permite a los usuarios ingresar indicaciones por escrito (conocidas como prompts) o subir imágenes estáticas para que el sistema las convierta en clips animados de hasta seis minutos de duración.