- Se espera que el contenido generado por IA sea más persuasivo gracias a la mejora de las capacidades, la mayor dependencia del usuario o la capacitación en retroalimentación, según el último informe sobre seguridad en internet. Según expertos en ciberseguridad, estos avances serán inevitablemente utilizados por los ciberdelincuentes.
- La investigación de la semana pasada sobre la plataforma de redes sociales X de Musk, relacionada con imágenes deepfakes sexualizadas generadas por su empresa Grok, fue un nuevo recordatorio de los peligros que representan las deepfakes para el público. Expertos en ciberseguridad advierten que, además del contenido sexualizado, las imágenes generadas por IA también se utilizan cada vez más para fraudes, estafas y robo de identidad, y comparten consejos para protegerse de esta creciente amenaza.
- La facilidad con la que se puede crear un deepfake de video convincente quedó ilustrada por el reciente video viral donde los actores de Hollywood Tom Cruise y Brad Pitt se pelean en una escena filmada. El cineasta Ruairi Robinson, quien compartió… el video En X, dijo que se hizo a partir de un mensaje de 2 líneas.
Mientras tanto, la Comisión Europea y varios países han comenzado recientemente a investigar la plataforma de redes sociales X de Musk por imágenes sexuales generadas con su chatbot Grok.
- Según los expertos de Planet VPN , proveedor gratuito de redes privadas virtuales (VPN) con un estricto enfoque en la política de cero registros, estas y otras herramientas de IA similares también facilitan que los ciberdelincuentes aceleren sus ataques. Konstantin Levinzon, cofundador de la empresa, destaca que el auge de las tecnologías basadas en IA ha facilitado que los ciberdelincuentes engañen a las personas a una escala sin precedentes.
- Un aspecto particularmente peligroso de las tecnologías de IA es que dificultan distinguir lo real. Internet está inundado de imágenes y vídeos falsos, también conocidos como deepfakes, que pueden crearse en cuestión de segundos con herramientas económicas o incluso gratuitas. Los ciberdelincuentes utilizan deepfakes para diversos ataques, desde estafar a personas con vídeos falsos hasta fraude de identidad y suplantación de identidad, afirma Levinzon.
- Las empresas tampoco son inmunes a esta amenaza. Según Levinzon, los cibercriminales se dirigen a empleados de empresas para engañarlos y conseguir transferencias no autorizadas con vídeos en los que se hacen pasar por sus directores ejecutivos. También utilizan imágenes y vídeos falsos para evadir la seguridad en línea, lo que supone un desafío creciente para las instituciones financieras.
- Lo último en Seguridad Internacional El informe señala que en el futuro, las amenazas que plantea el contenido generado por IA probablemente serán mayores, ya que se espera que este se vuelva más persuasivo debido a la mejora de las capacidades, la mayor dependencia del usuario o la capacitación sobre la retroalimentación del usuario.
Levinzon está seguro de que los ciberdelincuentes encontrarán formas de utilizar los nuevos avances para su beneficio e insta a los usuarios a ser conscientes de estos riesgos.
- Aunque el contenido generado por IA es difícil de distinguir de la realidad, a menudo deja rastros. Por ejemplo, en los vídeos deepfake, se observan movimientos faciales poco naturales, iluminación o sombras inconsistentes, desenfoque o distorsión alrededor del rostro, explica Levinzon.
- Cabe destacar que existen servicios que analizan imágenes y videos en busca de indicios de generación de IA. Buscan artefactos, texturas antinaturales y errores en los detalles. Sin embargo, es importante comprender que estas herramientas ofrecen un resultado probabilístico, no un veredicto exacto.
- Recomienda limitar la cantidad de contenido de video personal compartido en línea, ya que los cibercriminales suelen usar imágenes públicas para crear deepfakes y luego atacar a los usuarios. Proteger todas las cuentas con autenticación multifactor también es esencial. Una vez que los cibercriminales acceden a una cuenta, pueden publicar imágenes o videos suplantando la identidad del usuario.
- Una red VPN también refuerza significativamente la seguridad. Cifra tu tráfico de internet, lo que dificulta considerablemente que cualquier persona, incluido tu proveedor de servicios de internet, monitoree tu actividad en línea. Al reducir la exposición de datos, una VPN puede disminuir el riesgo de ser víctima no solo de esquemas relacionados con deepfakes, sino también de otros tipos de estafas y fraudes, afirma Levinzon.