Trend Micro refuerza la defensa contra deepfakes y ciberataques basados en IA

Empresas pueden actuar contra amenazas y ataques con la solución gratuita de Trend que recientemente publicó resultados de su investigación que muestra cómo ciberdelincuentes aprovechan también la IA.

Edificio de Trend Micro en Madrid. Foto: Cortesía. Portal ERP España.

Trend Micro Incorporated, líder global en ciberseguridad, ha anunciado importantes innovaciones en su plataforma para empresas y productos de ciberseguridad para usuarios centrada en la protección de todos los entornos frente a la creciente amenaza de los ataques y fraudes basados en IA.

La investigación de Trend muestra que los ciberdelincuentes se están dando cuenta de la explosión del uso de la IA en las empresas, lo que se traduce en un aumento espectacular de las herramientas basadas en IA disponibles en el underground criminal. Estas herramientas son más baratas y accesibles que nunca, lo que permite a los delincuentes de cualquier nivel de habilidad lanzar más fácilmente ataques a escala que engañan a las víctimas con fines de extorsión, robo de identidad, fraude o desinformación.

Kevin Simzer, COO de Trend: “Nuestras últimas investigaciones revelan varias herramientas nuevas de deepfake que facilitan a los ciberdelincuentes de todos los niveles el lanzamiento de estafas dañinas, ingeniería social e intentos de eludir la seguridad. Estamos a la cabeza del sector en la lucha contra este fenómeno, tanto para nuestros clientes empresariales como particulares, con nuevas capacidades para detectar deepfakes y otras formas de fraude de IA. Al igual que en el pasado, hemos visto los cambios en el panorama de amenazas y TI, y hemos visto el desafío de proteger la IA, estando a la altura de las circunstancias”.   

Detectar y vencer estos métodos basados en IA es fundamental para gestionar mejor el riesgo de la superficie de ataque para las empresas según una encuesta reciente de Trend, veían los deepfakes de forma negativa y creían que uno de sus principales usos era el fraude.

Disponible próximamente en la plataforma Trend Vision One, la nueva tecnología de detección de deepfakes utilizará una variedad de métodos avanzados para detectar contenidos generados por IA.

Más allá de técnicas como el análisis del ruido de la imagen y la detección de colores, la plataforma también analiza los elementos de comportamiento del usuario para ofrecer un enfoque mucho más sólido a la hora de detectar y detener los deepfakes. Tras la detección, Trend alerta inmediatamente a los equipos de seguridad de la empresa, lo que les permite aprender, educar y tomar medidas proactivas para evitar futuros ataques.

Trend Micro Deepfake Inspector puede ayudar a verificar si una parte en una conversación de vídeo en directo está utilizando tecnología deepfake, alertando a los usuarios de que la persona o personas con las que están conversando pueden no ser quienes aparentan ser.

Según el analista de Gartner1, Dan Ayoub, “las aplicaciones de GenAI de alta calidad y fácil acceso ahora son capaces de crear contenidos de vídeo fotorrealistas que pueden engañar o confundir a una audiencia. Dadas las bajas barreras de entrada en el uso de estas herramientas y su creciente sofisticación, se ha hecho necesario desarrollar un enfoque metodológico para detectar el contenido deepfake de GenAI”.

Los deepfakes suponen un riesgo importante para las empresas modernas y los particulares. Un deepfake no detectado puede provocar impactos financieros, pérdidas de empleo, desafíos legales, daños de reputación, robo de identidad y daños potenciales a la salud mental o física. En un estudio reciente de Trend Micro, el 36% de los usuarios declararon haber sufrido un intento de estafa utilizando un deepfake. El FBI también ha advertido con anterioridad de que la tecnología deepfake se utiliza junto con las videollamadas para llevar a cabo ataques que comprometen el correo electrónico de las empresas y para solicitar fraudulentamente puestos de trabajo a distancia.

No solo se está abusando de esta tecnología para eludir la verificación humana, sino también las medidas de seguridad biométricas, como el reconocimiento facial. La investigación de Trend también ha revelado cambios recientes que indican una creciente preferencia por explotar los modelos LLM existentes a través de técnicas innovadoras de jailbreaking en lugar de desarrollar herramientas de IA criminal a medida.

El lanzamiento de las nuevas soluciones de Trend forma parte de una misión de toda la empresa para asegurar el viaje de los clientes hacia la IA.

Trend Micro Deepfake Inspector es una solución gratuita diseñada para alertar a los usuarios de posibles deepfakes mientras se encuentran en una videollamada. El análisis tiene lugar en tiempo real y de forma local en el dispositivo del consumidor, lo que garantiza que los datos y la privacidad de los usuarios se mantengan protegidos en todo momento.