Seis formas de detectar un deepfake generado por IA

• Este artículo contiene una serie de fotografías de personas. Mientras lees, intenta adivinar cuáles son reales y cuáles son generados por IA.

El experto detrás de un nuevo programa de capacitación diseñado para ayudar a las personas a desacreditar los deepfakes de IA admitió que estamos en un “juego del gato y el ratón” a medida que avanza la tecnología.

La Universidad Nacional de Australia ha lanzado un nuevo programa que, según afirma, hará que las personas sean un 40 por ciento mejores en el filtrado de rostros generados por IA a partir de grabaciones humanas.

Sin embargo, el investigador principal detrás del programa ha admitido que es sólo cuestión de tiempo antes de que la tecnología encuentre nuevas formas de evitar ser descubierta.

El programa de vanguardia comienza presentando a los participantes un desfile de fotografías policiales, algunas de IA y otras reales, y les pide que distingan lo real de lo falso.

Luego, los participantes reciben un curso breve sobre cómo reconocer las diferencias y se les pide que repitan la tarea al final.

La investigadora principal Amy Dawel dijo que el resultado final fue una mejora de aproximadamente el 40 por ciento en las capacidades de reconocimiento de las personas.

“Descubrimos que incluso las personas que son muy buenas reconociendo no obtienen inicialmente el rendimiento esperado”, afirmó el profesor Dawel. “En general, encontramos que las personas se sorprenden de lo mal que lo hacen y de lo mucho que mejoran.

“Cuanto más confianza tienen, más errores cometen”.

El profesor Dawel dijo que la tarea se había vuelto cada vez más difícil a medida que se desarrollaba la tecnología, y las imágenes generadas por IA se volvían cada vez más difíciles de reconocer.

Dijo que se acabaron los días de simples signos reveladores como dedos extra en las manos o aretes que no coincidían.

“Los rostros generados por IA generalmente tienen un aspecto muy normal y no destacan entre la multitud, lo que también puede hacer que parezcan más atractivos”, afirmó.

“Esto ha dado lugar a que las personas reales empeoren en el reconocimiento de los genes de la IA”.

El proyecto de investigación subyacente a la formación ha descubierto seis trucos para erradicar las falsificaciones: carácter distintivo, memorabilidad, proporcionalidad, simetría, atractivo y expresividad.

El profesor Dawel dijo que la simetría en particular era una fuerte señal de que una imagen era IA.

“Los rostros generados por IA tienden a ser mucho más simétricos, mientras que las personas reales tienden a ser más extravagantes y tener características individuales”, añadió.

Juego del gato y el ratón.

El profesor Dawel dijo que se estaba volviendo cada vez más importante para las personas detectar falsificaciones de IA a medida que la tecnología se explotaba en los rincones oscuros de Internet.

Se estima que el fraude con IA le costará a la economía mundial 40 mil millones de dólares para fines del próximo año, dijo.

“Hay muchas maneras en que se utilizan y abusan de los rostros generados por IA, ya sea pescando con gato en sitios de citas, accediendo a cuentas bancarias o falsificando pasaportes”, dijo.

“Ahora la gente también puede esconderse detrás de esto y afirmar que las cosas que son realmente reales son falsificaciones”.

“Es muy importante poder notar la diferencia”.

Sin embargo, el profesor asociado también admitió que a medida que mejoremos en la detección de falsificaciones profundas, la tecnología de inteligencia artificial inevitablemente también mejorará para no ser descubierta.

“Creo que definitivamente es un juego del gato y el ratón y no hay escapatoria real”, añadió.

“Pero si bien la IA en sí es cada vez mejor, los detectores de IA también están mejorando, pero la psicología humana también es un factor importante en el que se puede seguir confiando”.

“Cada vez es más difícil”

El profesor Toby Walsh de la Universidad de Nueva Gales del Sur dijo que el rápido avance de la tecnología estaba obligando a las personas a cuestionarse regularmente lo que tenían delante.

“La verdadera dificultad es que ya no podemos confiar en nuestros propios ojos”, afirmó. “Creo que seguiremos viendo cosas que no son reales, pero al mismo tiempo cuestionaremos las que sí son reales”.

“La forma de combatir esto es la educación, pero también las marcas de agua digitales”.

Las marcas de agua digitales son marcas invisibles y legibles por máquina que se adjuntan a archivos como una fotografía y revelan su origen.

El profesor Walsh dijo que esta puede ser la única forma de distinguir la realidad de los deepfake a medida que la tecnología continúa avanzando.

“Cada vez es más difícil distinguir lo auténtico de lo falso, la tecnología avanza muy rápidamente”, afirmó.

“Otro problema es que proporciona una manera para que la gente evite la responsabilidad”.

“Hay políticos que han dicho y hecho cosas terribles, sólo para que las desestimen como deepfakes; eso es todo lo que sus seguidores necesitan escuchar para creerles”.

‘Carrera de armamentos’

Wolfgang Mayer, profesor asociado de informática en la Universidad de Adelaida, dijo que los avances en la tecnología de IA se han producido gracias a la competitividad de algunas de las empresas tecnológicas más grandes del mundo.

“Ha avanzado mucho en los últimos años y creo que se debe a una carrera armamentista entre las grandes empresas tecnológicas, todas decididas a ser las mejores y producir la mayor cantidad de contenido”, afirmó.

“Obviamente su objetivo no es crear deepfakes, pero es un subproducto obvio de la tecnología disponible”.

“La tecnología está ahí y es fácil de usar, tanto para bien como para mal”.

Añadió que existe una mayor necesidad de que las personas aprendan a cuestionar las fuentes de lo que ven en línea.

“Enseñar a la gente a detectar deepfakes es algo útil a corto plazo, pero a largo plazo es mucho más importante crear conciencia de que no todo lo que se ve en línea es real”, afirmó el profesor Mayer.

Añadió que la tecnología ha avanzado tanto que la erradicación requiere prestar atención a lo que no hay y no a lo que hay.

“Los deepfakes se están volviendo casi demasiado perfectos”, afirmó.

“Antes, por ejemplo, podíamos identificarlo fácilmente en cosas como los ojos, la boca o los dientes. Ahora casi hay que buscar lo que no existe, las imperfecciones que existen en personas reales”.

¿Qué dice la IA?

Si bien los expertos universitarios han ofrecido consejos sobre cómo reconocer rostros generados por IA, ¿estaría la tecnología también lista para demostrar su valía?

NewsWire recurrió al chatbot de inteligencia artificial Gemini de Google en busca de algunos consejos, que revelaron varias señales reveladoras.

• manos y pies – Esté atento a dedos sobrantes, nudillos faltantes, dedos anormalmente largos o manos que se convierten en objetos sostenidos

• Piel “plástica” o retocada con aerógrafo – Busque imperfecciones naturales como arrugas, líneas finas, marcas de nacimiento e imperfecciones sutiles para encontrar una persona real. Las imágenes de IA a menudo pueden parecer potentes filtros de belleza

• Cabello “espagueti” – Mire de cerca donde la línea del cabello se une con la frente. La IA suele tener problemas con las raíces del cabello realistas

El chatbot añadió que la forma más eficaz de detectar una falsificación es mirar de cerca.
“Cuando intentes reconocer una imagen de IA, siempre haz zoom”, decía. “Las imágenes de IA parecen increíblemente convincentes como miniaturas en la pantalla de un teléfono inteligente, pero un zoom del 200 al 300 por ciento en los ojos, oídos y manos casi siempre muestra las costuras digitales”.
Para registrar interés en la capacitación, visite https://tinyurl.com/ai-face-study-register

• La foto 3 es el Profesor Dawel, la foto 5 es el Profesor Mayer y la foto 7 es
Profesor Walsh. Todos los demás fueron generados con StyleGAN3 y no son personas reales.