Los deepfakes en tiempo real ya no se limitan a multimillonarios, figuras públicas o aquellos que tienen una amplia presencia en línea. La investigación de Mittal en la Universidad de Nueva York, con los profesores Chinmay Hegde y Nasir Memon, propone un potencial enfoque basado en desafíos hasta bloquear los robots de IA de las videollamadas, donde los participantes tendrían que pasar una especie de prueba CAPTCHA en video antes de unirse.
Mientras Reality Defender trabaja para mejorar la precisión de detección de sus modelos, Colman dice que el acceso a más datos es un desafío crítico que hay que superar: un estribillo común del lote actual de nuevas empresas centradas en la IA. Tiene la esperanza de que más asociaciones llenen estos vacíos y, sin detalles, insinúa que es probable que se produzcan múltiples acuerdos nuevos el próximo año. Después de que ElevenLabs se vinculara a un Llamada de voz deepfake del presidente estadounidense Joe Bidenla startup de audio AI llegó a un acuerdo con Reality Defender para mitigar posibles usos indebidos.
¿Qué puedes hacer ahora para protegerte de las estafas por videollamadas? Al igual que el consejo principal de WIRED sobre evitando el fraude de las llamadas de voz con IAno ser arrogante acerca de si puedes detectar videos deepfakes es fundamental para evitar ser estafado. La tecnología en este espacio continúa evolucionando rápidamente, y cualquier señal reveladora en la que confíe ahora para detectar deepfakes de IA puede no ser tan confiable con las próximas actualizaciones de los modelos subyacentes.
“No le pedimos a mi madre de 80 años que marque el ransomware en un correo electrónico”, dice Colman. “Porque ella no es una experta en informática”. En el futuro, es posible la autenticación por video en tiempo real, si la detección de IA continúa mejorando y demuestra ser confiablemente precisa, se dará por sentado como ese escáner de malware que zumba silenciosamente en el fondo de su bandeja de entrada de correo electrónico.
Esta historia apareció originalmente en cableado.com.
