Meta lanza herramienta de reconocimiento facial para combatir anuncios fraudulentos

Meta ha dado un paso significativo en la lucha contra los anuncios fraudulentos, implementando una herramienta de reconocimiento facial diseñada para detectar el uso indebido de imágenes de celebridades. Este nuevo sistema, que será introducido en el Reino Unido, la Unión Europea y Corea del Sur, busca proteger a los usuarios de estafas que utilizan imágenes manipuladas de figuras públicas para atraer a incautos a compartir información personal o a enviar dinero. David Agranovich, director de amenazas cibernéticas de Meta, explicó que esta herramienta, denominada "celeb-bait", comenzará a notificar a los usuarios en las próximas semanas, permitiendo que aquellos que son figuras públicas opten por habilitarla. Al utilizar esta tecnología, las imágenes de perfil de las celebridades serán escaneadas y comparadas con rostros que aparezcan en anuncios sospechosos, bloqueando automáticamente aquellos que se compruebe que hacen uso indebido de su imagen. Esta iniciativa surge en un contexto alarmante, donde los fraudes en línea se han vuelto cada vez más sofisticados. Un caso emblemático fue el de una mujer francesa de 53 años que perdió todos sus ahorros al ser engañada por un "Brad Pitt falso" generado por inteligencia artificial. La víctima, conocida como Anne, reportó haber sido contactada a través de Instagram por alguien que se hacía pasar por el actor, creando una relación virtual que la llevó a compartir información y fondos. La abogada de Anne, Laurène Hanna, detalló el impacto devastador de este fraude, en el cual la mujer perdió alrededor de 830,000 euros, lo que subraya la efectividad de estas estafas y la vulnerabilidad de las personas ante ellas. Este tipo de engaños no son casos aislados; en Shanghai, un hombre también fue víctima de una estafa similar, perdiendo más de 27,000 dólares por confiar en una novia ficticia creada con tecnología de inteligencia artificial. Aunque en México no se han reportado casos tan notorios, las autoridades ya están advirtiendo sobre la proliferación de estas falsas identidades. La Comisión Nacional para la Protección y Defensa de los Usuarios de Servicios Financieros (Condusef) ha señalado un incremento en la aparición de estos fraudes, que no solo utilizan imágenes de celebridades, sino que también pueden manipular cualquier imagen personal para crear situaciones de urgencia que engañan a las víctimas. Un estudio de iProov, un proveedor de soluciones para verificación biométrica de identidad, expone una realidad preocupante: la mayoría de las personas no pueden distinguir entre contenidos reales y deepfakes. De 2,000 consumidores analizados en el Reino Unido y Estados Unidos, solo el 0.1 % logró identificar correctamente todos los estímulos presentados. Las generaciones mayores son las más vulnerables, con un alto porcentaje de personas de 55 años o más que desconocen el concepto de deepfakes. La dificultad para identificar estos fraudes radica en la evolución de la tecnología, que ha aumentado la calidad y realismo de las imágenes y videos manipulados. Las redes sociales, en particular, se han convertido en un terreno fértil para la propagación de deepfakes, siendo Meta y TikTok las plataformas donde más se encuentran estos contenidos engañosos. Este fenómeno ha llevado a una desconfianza creciente en la información disponible en línea; casi la mitad de los usuarios afirma confiar menos en las redes sociales tras conocer la existencia de deepfakes. Daniel Molina, vicepresidente para Latinoamérica de iProov, señala que la percepción engañosa de que se puede identificar las deepfakes aumenta la vulnerabilidad de los usuarios al fraude. Este desajuste entre la confianza en la capacidad de discernimiento y la realidad de la incapacidad para detectar engaños digitales crea un escenario preocupante para la seguridad en línea. Ante esta alarmante situación, Meta también ha anunciado que integrará el reconocimiento facial en sus herramientas para la recuperación de cuentas, permitiendo a los usuarios verificar su identidad a través de un breve video. La compañía asegura que los datos faciales utilizados en este proceso serán eliminados inmediatamente después, cumpliendo con las regulaciones de protección de datos europeas. Cabe recordar que el uso del reconocimiento facial en plataformas de redes sociales fue suspendido en 2021 por preocupaciones de privacidad, pero la reciente ola de fraudes ha llevado a Meta a restablecer esta tecnología como parte de un esfuerzo más amplio para combatir los anuncios engañosos y proteger a sus usuarios. Así, la lucha contra el uso indebido de la inteligencia artificial y la manipulación de imágenes se convierte en una prioridad en la nueva era digital.