Una fotografía de una celebridad en una situación comprometedora, un video inédito de un acontecimiento que nadie más ha visto o un audio con la voz de una persona conocida. Cada vez resulta más difícil determinar si lo que aparece en internet ocurrió realmente o fue creado con alguna inteligencia artificial.
Lejos quedó la época del famoso video de Will Smith comiendo pasta que podía resultar para algunos perturbador o incómodo, ya que en ese momento, los modelos de generación de imágenes aún eran muy precarios, cometían muchos errores y alucinaban.
Publicidad
Sin embargo, los rápidos avances de estas herramientas permiten generar contenidos cada vez más realistas, mientras que detalles como las manos deformadas o los rostros extraños, que antes delataban algunas imágenes falsas, ya no son tan fáciles de encontrar.
En medio de ese panorama, Google anunció este 7 de octubre la apertura mundial de su plataforma SynthID Detector, que hasta ahora había estado dirigida principalmente a periodistas y profesionales de los medios de comunicación.
¿Cómo saber si una foto o video fueron creados con inteligencia artificial?
La herramienta permite cargar fotografías, videos y archivos de audio para comprobar si contienen una señal digital denominada SynthID, utilizada para identificar contenido creado o modificado mediante determinados sistemas de inteligencia artificial.
A diferencia de las marcas de agua tradicionales, que suelen aparecer como logotipos o textos sobre una imagen y que pueden ser eliminadas mediante edición, esta tecnología incorpora una señal invisible para el ojo humano dentro del archivo.
Publicidad
Cuando una persona sube un contenido, el detector busca ese identificador y presenta un resultado que indica si encontró evidencia de intervención de inteligencia artificial.
Aunque inicialmente estaba limitada a archivos generados con Gemini, se confirmó que ahora también reconoce marcas utilizadas por socios como OpenAI, NVIDIA y Kakao, mientras Apple tiene previsto incorporarse próximamente.
Publicidad
¿Cómo utilizar el detector de IA gratis?
Aunque la plataforma está disponible a nivel mundial, por ahora únicamente funciona en inglés. Para utilizarla es necesario seguir estos pasos:
- Ingresar a synthid.com.
- Iniciar sesión con una cuenta de Google, Apple o ChatGPT.
- Subir la fotografía, el video o el audio que se quiere comprobar.
- Esperar a que el sistema examine el archivo y muestre si detecta una marca de agua.
El servicio es gratuito, aunque tiene límites de uso, pues los usuarios disponen de una cuota aproximada de 10 verificaciones diarias, que puede variar según el tipo de archivo multimedia analizado.
¿SynthID puede detectar cualquier imagen hecha con IA?
Si al subir un video, audio o imagen, la herramienta no encuentra una marca digital no significa necesariamente que sea real. Existen generadores de inteligencia artificial que no utilizan marca de agua, e incluso, ciertas modificaciones del archivo o ediciones pueden dificultar la detección.
Del mismo modo, identificar una marca puede indicar que la inteligencia artificial participó en la creación o edición del contenido, pero no permite concluir que toda la escena sea falsa o que el archivo se haya utilizado para engañar.
Publicidad
Por eso, además de esa herramienta, también se debería buscar el origen de la imagen, revisar quién la publicó y contrastar la información, especialmente cuando se trata de noticias, emergencias o acontecimientos de interés público.
¿Cuántas imágenes creadas con IA puede reconocer SynthID?
La compañía asegura que, desde el lanzamiento de esta tecnología en 2023, ha incorporado las marcas a más de 180.000 millones de imágenes y videos, y también a una cantidad de contenido sonoro equivalente a 240.000 años de audio.
Publicidad
También ha implementado funciones similares en Gemini, su buscador y Chrome, que en conjunto ya procesan más de un millón de solicitudes diarias relacionadas con estas comprobaciones.
