En el panorama actual de la tecnología habilitada por inteligencia artificial (IA), la clonación de voz ha abierto una brecha en la que coexisten avances beneficiosos en accesibilidad y creatividad junto con estafas cada vez más sofisticadas y deepfakes. Frente a este desafío, la Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) ha convocado a investigadores y expertos en tecnología a desarrollar ideas innovadoras para prevenir, monitorear y evaluar la clonación de voz maliciosa.
El desafío de la clonación de voz de la FTC y el proyecto DeFake
Ning Zhang, profesor asistente de ciencias de la computación e ingeniería en la Escuela de Ingeniería McKelvey de la Universidad de Washington en St. Louis, fue uno de los tres ganadores del Desafío de Clonación de Voz de la FTC, anunciado el 8 de abril. Zhang presentó su proyecto ganador, DeFake, que implementa una especie de marca de agua para grabaciones de voz. DeFake inserta distorsiones cuidadosamente elaboradas, imperceptibles para el oído humano, en las grabaciones, lo que dificulta la clonación criminal al eliminar muestras de voz utilizables.
Según Zhang, «DeFake utiliza una técnica de IA adversarial que originalmente formaba parte del arsenal de los ciberdelincuentes, pero ahora la estamos utilizando para defendernos de ellos». Explica además que «la clonación de voz se basa en el uso de muestras de habla preexistentes para clonar una voz, que generalmente se recopilan de las redes sociales y otras plataformas. Al perturbar ligeramente la señal de audio grabada, lo suficiente para que todavía suene bien para los oyentes humanos, pero sea completamente diferente para la IA, DeFake obstaculiza la clonación al hacer que el habla sintetizada ilegalmente suene como otras voces, no como la víctima prevista».
Prevención, detección y autenticación: enfoques para combatir la clonación de voz maliciosa
El proyecto DeFake se basa en trabajos anteriores de Zhang para evitar la síntesis de habla no autorizada antes de que ocurra. Los otros dos ganadores del Desafío de Clonación de Voz de la FTC, cuyas propuestas se centraron en la detección y la autenticación, ilustran las diversas aproximaciones desarrolladas para disuadir prácticas perjudiciales y proteger a los consumidores de actores malintencionados. Un panel de jueces seleccionó a los ganadores y se repartirán un premio total de $35,000.
Esta iniciativa demuestra un paso adelante en la lucha contra la manipulación de voz, ofreciendo una herramienta prometedora para salvaguardar la autenticidad de las grabaciones vocales y mitigar el riesgo de fraudes y engaños. Sin embargo, su implementación y efectividad en entornos reales aún deben ser evaluadas y monitoreadas de cerca.
En un mundo cada vez más digitalizado, donde las voces pueden ser recreadas y manipuladas con relativa facilidad, iniciativas como DeFake representan un paso crucial hacia la protección de la integridad de las grabaciones de voz y la seguridad de los usuarios. Sin embargo, es necesario un enfoque multifacético que combine la innovación tecnológica con políticas y prácticas sólidas de seguridad cibernética para abordar de manera efectiva los desafíos emergentes en el ámbito de la clonación de voz.
