Publicidad
Publicidad
Publicidad
Publicidad
Grok, la inteligencia artificial de la red social X, propiedad de Elon Musk, ha atravesado diversas polémicas por su herramienta de generación de imágenes a partir de fotos publicadas por los usuarios. Pese a que X limitó el uso de esta herramienta a los usuarios premium, la medida desató una oleada de críticas entre quienes consideran que es ponerle "precio" a la generación de imágenes con contenido sexual explícito.
Cuando Daisy Dixon, profesora de la Universidad de Cardiff (Reino Unido), supo que imágenes sexualizadas suyas en lencería o embarazada circulaban en la red social X, generadas por Grok, se sintió "violentada en su intimidad".
"Es un secuestro digital de tu cuerpo", una "agresión" de una "misoginia extrema", confió a la AFP esta docente de filosofía, de 36 años.
Activa en X e Instagram, donde realiza entre otras cosas labores de divulgación filosófica, Daisy Dixon descubrió en diciembre imágenes suyas generadas artificialmente en X. Algunos usuarios habían utilizado Grok para manipularlas a partir de unas pocas fotos que ella había publicado en las que aparecía con ropa deportiva.
Según la docente, las primeras imágenes creadas por la herramienta de inteligencia artificial (IA) de la plataforma de Elon Musk eran bastante inofensivas y la manipulación consistía en un cambio de peinado o de maquillaje, cuenta Daisy Dixon. Pero luego "realmente degeneraron".
En particular, algunos usuarios pidieron a Grok que la mostrara en tanga, que le ensanchara las caderas o que le hiciera adoptar poses "más vulgares". Grok obedecía y "generaba la imagen", relata la profesora.
Dixon podía ver tanto las solicitudes como las imágenes creadas aparecer en su cuenta de X —donde tiene unos 34.000 seguidores—, ya que Grok las publica allí automáticamente.
Publicidad
Un usuario incluso llegó a pedir a Grok que la representara en una "fábrica de violaciones", dice, aunque en ese caso extremo la herramienta no generó la imagen solicitada.
"Me sentí realmente violentada en mi intimidad, y también en peligro", subraya Daisy Dixon.
Dixon dice haberse sentido particularmente impactada al ver que Grok había satisfecho la petición de un usuario de representarla embarazada, en bikini, con la alianza en el dedo.
Publicidad
Tuve ganas de esconderme, aunque más tarde la ira reemplazó al miedo
Cuando quiso denunciar esa imagen en X, no encontró en la plataforma ningún medio para hacerlo.
Reino Unido acaba de endurecer su legislación frente a este tipo de comportamientos, penalizando tanto la creación como la solicitud de imágenes íntimas no consentidas.
Según un estudio publicado el jueves por el Center for Countering Digital Hate, una ONG que denuncia con frecuencia las prácticas de X, Grok generó alrededor de tres millones de imágenes sexualizadas de mujeres y niños en un periodo de solo once días, a un promedio de 190 imágenes por minuto.
En un informe publicado este mes, Paul Bouchaud, investigador de la ONG parisina AI Forensics, señala también que, de 20.000 imágenes generadas por Grok, más de la mitad mostraban a personas "poco vestidas", casi todas mujeres.
Ante la indignación provocada por la proliferación de este tipo de imágenes, algunos países anunciaron este mes un bloqueo total de Grok.
La plataforma X dio marcha atrás y anunció a mediados de enero una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente en qué lugares está vigente dicha restricción.
Dixon afirma estar "en general satisfecha con los progresos realizados", pero considera que "esto nunca debería haber ocurrido".
Publicidad
Paul Bouchaud subraya, sin embargo, que Grok también dispone de un sitio web y de una aplicación capaces de generar imágenes de desnudos, con una opción para compartirlas.
Únase a nuestro canal de Whatsapp y manténgase al tanto de los hechos más relevantes.
✔️ Síganos en Google Noticias con toda la información de Colombia y el mundo.