El 89% de los responsables de TI teme fallos de IA en ciberseguridad

Un informe de Sophos revela preocupaciones sobre la dependencia de GenAI

Foto: cortesía. Portal ERP España.

Un nuevo informe de Sophos, 'Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad', ha revelado que el 89% de los responsables de TI teme que los fallos en las herramientas de inteligencia artificial generativa (GenAI) puedan comprometer la seguridad de sus organizaciones. Aunque el 65% de los encuestados ya ha implementado funciones de GenAI en sus estrategias de ciberseguridad, la incertidumbre en torno a su fiabilidad genera inquietud en la industria.

El estudio, basado en encuestas a 400 líderes de TI, también señala que el 98% de las empresas ha integrado algún tipo de inteligencia artificial en su infraestructura de ciberseguridad. Sin embargo, el 87% de los encuestados expresa preocupación por una posible dependencia excesiva de la IA, lo que podría derivar en una falta de responsabilidad en la gestión de la seguridad digital.

Te puede interesar: Mitek lanza Digital Fraud Defender para combatir fraudes con IA

Junto con este informe, Sophos X-Ops ha publicado 'Los ciberdelincuentes aún no se han subido al tren de la IA (todavía)', donde se analiza el uso actual de la IA generativa en actividades delictivas. A través de foros clandestinos, se ha identificado que, aunque el escepticismo aún es predominante, algunos delincuentes han comenzado a emplear esta tecnología para automatizar tareas rutinarias, como la creación de correos electrónicos masivos y el análisis de datos. Asimismo, se ha detectado su integración en toolkits de spam e ingeniería social.

Chester Wisniewski, director y CTO Field Global de Sophos, advierte sobre la necesidad de una supervisión humana en el uso de estas herramientas: "Como con muchas otras cosas en la vida, el mantra debería ser 'confía, pero verifica' en lo que respecta a las herramientas de IA generativa. En realidad, no hemos enseñado a las máquinas a pensar; simplemente les hemos proporcionado el contexto para acelerar el procesamiento de grandes cantidades de datos".

Reducción del burnout y preocupaciones laborales

El informe también destaca diferencias en la percepción de los beneficios de GenAI según el tamaño de las empresas. Mientras que las grandes organizaciones, con más de 1.000 empleados, priorizan la mejora de la protección, las más pequeñas (entre 50 y 99 empleados) ven en la IA generativa una herramienta clave para reducir el agotamiento del personal de ciberseguridad. Sin embargo, el 84% de los responsables encuestados manifiesta inquietud ante la posibilidad de recortes de personal debido a expectativas poco realistas sobre la capacidad de la IA para sustituir a los profesionales humanos.

El informe revela que los costes asociados a la IA generativa en ciberseguridad son difíciles de evaluar, con un 75% de los directores de TI señalando esta incertidumbre. No obstante, el 80% de los encuestados prevé un incremento en los costes de las herramientas de ciberseguridad debido a GenAI. A pesar de ello, el 87% cree que los ahorros derivados de su implementación compensarán estos costes a largo plazo.