Uso de clonación de voz en ciberataques y “deepfaks” en aumento

En el último año, la generación de contenido falso o deepfakes ha experimentado un gran desarrollo.

Ya no solo se trata de fotos y videos alterados con Inteligencia Artificial (IA), sino de una tecnología mucho más madura que ahora está apuntando a la falsificación de voz, también conocida como deepvoice.

Estas innovaciones ya son utilizadas para evadir controles de seguridad, por ejemplo, aprovechando datos biométricos vulnerados; así como para manipular información en línea y cometer otros ataques cibernéticos, alertan expertos de Kaspersky.

Lea más: Noticias falsas: el caso del pago de impuestos de Trump

Esto ha provocado el crecimiento del mercado negro de los deepfakes, donde el costo del contenido puede oscilar entre $300 a $20 mil por minuto, dependiendo su calidad y complejidad.

Los avances en la Inteligencia Artificial Generativa y el aprendizaje automático han propiciado la creación de contenido multimedia falso cada vez más realista, ya que son tecnologías con la capacidad de aprender a partir de datos no estructurados, como el rostro o los movimientos humanos, de acuerdo con Isabel Manjarrez, investigadora de seguridad del Equipo Global de Investigación y Análisis de Kaspersky.

Para crear deepfakes, la red generativa puede entrenarse con fotos reales de una persona y así generar un número infinito de imágenes convincentes de ella para integrarlas en un video.

Las técnicas de aprendizaje automático pueden usarse para crear contenidos de voz artificial, lo que podría ser aprovechado por estafadores para generar audios engañosos.

Celebridades y figuras públicas, cuyas voces o videos están en Internet, son especialmente vulnerables a la suplantación.

Lea más: Las 5 estafas bancarias más comunes generadas por Inteligencia Artificial

Los deepfakes, considerados uno de los usos más preocupantes de la Inteligencia Artificial, están generando riesgos significativos, especialmente en sectores como el bancario. Aunque esta tecnología tiene aplicaciones positivas, como en marketing, su uso malicioso ha facilitado fraudes financieros al evadir verificaciones biométricas.

Manjarrez enfatiza la necesidad de establecer pautas éticas para su uso, resaltando que, aunque la IA tiene un gran potencial, su implementación responsable es crucial para evitar daños materiales, psicológicos y de reputación.

Identifique un “deepfake”

• La fuente del contenido y la información que comparte son sospechosas. Actúe con cautela ante correos electrónicos, mensajes de texto o voz, llamadas, videos u otro contenido multimedia que usted vea o reciba, especialmente si comunican información extraña o ilógica. Confirme la información en fuentes oficiales.
• Las condiciones e iluminación en un video son inconsistentes. Desconfíe si detecta anomalías en el fondo del video. Evalúe si la iluminación del rostro corresponde con el entorno, ya que las incoherencias en la iluminación pueden indicar manipulación.
• Los movimientos faciales y corporales son inusuales. Sospeche si las expresiones del rostro o cuerpo son poco naturales, como un parpadeo extraño o la ausencia total de este. Compruebe que las palabras correspondan con los movimientos de los labios y que las expresiones faciales sean apropiadas para el contexto del video.
• Los audios falsos pueden tener distorsiones de voz. Preste atención a la calidad del sonido. Sospeche si identifica un tono monótono antinatural en la voz, si esta es ininteligible o si hay ruidos extraños de fondo.
• Para mantenerse protegido, es importante informarse. Sea consciente de la existencia de los deepfakes y edúquese sobre las tecnologías de manipulación digital. Cuanto más consciente esté, mejor podrá detectar posibles fraudes.
• Utilice soluciones como Kaspersky Premium, que protegen contra todo tipo de amenazas, conocidas y desconocidas, en la navegación en Internet, tanto en computadoras como en dispositivos móviles.