Tras la Cumbre sobre Seguridad de la Inteligencia Artificial celebrada en Reino Unido, que reunió a expertos en IA de todo el mundo, las organizaciones vuelven a la normalidad. Aunque durante el evento se mezclaron predicciones positivas y advertencias funestas, en esencia, los asistentes acordaron fomentar los beneficios de la IA y disuadir de su uso indebido, aunque es más fácil decirlo que hacerlo. Tras la Declaración de los 30 países, los participantes se comprometieron a colaborar en seis cumbres virtuales mensuales, además de las conferencias anuales.
Es más, los negociadores de la Unión Europea firmaron un acuerdo histórico sobre la regulación de la IA, cuya legislación no se espera al menos hasta 2025. Las propuestas contienen salvaguardias sobre el uso de la IA en la UE, incluidas normas sobre sistemas como ChatGPT y el reconocimiento facial.
Es evidente que la IA está marcando el nacimiento de una nueva era de innovación y avances tecnológicos. Su uso y aplicación se anuncian y examinan con lupa. Quién la utiliza, cómo y con qué fin son cuestiones clave a las que se enfrentan gobiernos y empresas hoy en día.
El reto para los equipos de seguridad informática es desarrollar la ciberresiliencia, ante la forma en que los ciberdelincuentes están convirtiendo la IA en un arma. Para la mayoría, intentar ir un paso por delante de los atacantes no es nada nuevo. Pero lo que es diferente, y motivo de preocupación, es cómo la IA está nivelando el campo de juego.
Una nueva liga de criminales
En cuanto a la seguridad cibernética, es inevitable mencionar las ciberamenazas, los atacantes polimórficos – que cambian sus características para evadir los sistemas de detección. Por supuesto, estos atacantes emplean tácticas avanzadas, incluso apoyándose en el uso de la inteligencia artificial permitiéndoles ataques más sofisticados y potentes. Para hacernos una idea de lo que hablamos:
- Existe el famoso Ransomware como un Servicio o RaaS, con soporte incluido 24/7. Esto se ha convertido en un modelo de negocio rentable, la gente puede pagar por este servicio y consumirlo como el que paga por cualquier otra cosa.
- Desde el nacimiento del ChatGPT, los ataques en muchos casos se han incrementado en más de un 1600%, lo que nos da un indicador de magnitud tremendo para entender el escenario actual y la necesidad real de protegernos.
Lo que antes exigía a los delincuentes un esfuerzo humano, unos conocimientos y una experiencia técnica considerables, ahora puede ser gestionado de forma más eficiente y eficaz por los LLM (grandes modelos lingüísticos) y la IA. Tomemos, por ejemplo, un complot para comprometer la cadena de suministro de una organización.
La IA puede simplificar y acelerar la orquestación de un ataque de este tipo automatizando y coordinando etapas del proceso que antes se realizaban manualmente. En la fase de planificación, las herramientas de IA analizan grandes cantidades de datos para identificar cualquier vulnerabilidad potencial dentro de la cadena de suministro. A continuación, puede idear formas de aprovechar los puntos de entrada más susceptibles en función de las debilidades específicas detectadas.
Después, para ayudar en la ejecución del ataque, los LLM como ChatGPT pueden recibir instrucciones para crear mensajes de correo electrónico de phishing y publicaciones en redes sociales. A partir de una amplia base de conocimientos, el contenido se elabora con referencias creíbles de la cadena de suministro e información relevante para la función y los intereses del destinatario, lo que hace mucho más difícil que los empleados reconozcan la verdadera intención subyacente. Estas comunicaciones suelen ser mucho más convincentes que las redactadas en el pasado. Incluso los más precavidos podrían caer en la tentación de hacer clic en un enlace sospechoso o facilitar inadvertidamente datos que podrían ayudar a un delincuente.
Una vez que un ataque está en marcha, la automatización impulsada por la IA puede optimizar la entrega de cargas maliciosas a través de la cadena de suministro y el ecosistema, eligiendo los momentos y rutas más oportunos para evadir la detección de los programas de seguridad.
Esta capacidad para procesar enormes conjuntos de datos, aprender de patrones y tomar decisiones dinámicas puede hacer que los ataques parezcan muy complejos, de gran alcance y potencialmente más peligrosos de lo que son. Tal vez dando a entender que una sofisticada red criminal está detrás de ellos. Sin embargo, con el apoyo de las herramientas de IA, los relativamente novatos pueden producir ataques completos, lo que los sitúa ostensiblemente al mismo nivel que los individuos experimentados y los grupos más grandes y con más experiencia.
Un partido en dos tiempos
Las organizaciones deben estar preparadas para hacer frente a este creciente número de ataques inteligentes y determinar su gravedad con rapidez, ya que de lo contrario corren el riesgo de reaccionar de forma exagerada o de pasar por alto las primeras señales de advertencia de una posible brecha. Para ello es necesario aprovechar la inteligencia artificial para vencer a los delincuentes en su propio campo de juego.
Por ejemplo, las herramientas de IA pueden desplegarse para analizar grandes cantidades de información sobre amenazas procedente de múltiples fuentes en tiempo real, identificando indicadores ocultos de ciberamenazas. Pueden supervisar el comportamiento de usuarios y entidades comparándolo con parámetros de actividad normal y detectar anomalías que indiquen un peligro. La evaluación de los datos históricos permite anticipar amenazas potenciales, posibilitando una evaluación más rápida y precisa de los riesgos futuros. Además, la supervisión continua de los datos de amenazas entrantes garantiza que las ciberdefensas puedan adaptarse rápidamente para combatir las amenazas y tácticas emergentes.
La IA también desempeña un papel fundamental en la protección de endpoints, desplegando algoritmos que reconocen y neutralizan el malware y el ransomware, incluidas variantes nunca vistas. Junto con las herramientas de IA especializadas en la detección de phishing, las comunicaciones maliciosas pueden diferenciarse de las legítimas y ponerse en cuarentena para su posterior investigación, reduciendo el riesgo de que los destinatarios hagan clic en enlaces sospechosos.
Cuando se produce un incidente o una brecha, la automatización basada en IA puede ayudar en el proceso de investigación y mitigación, acelerando la reparación para minimizar daños mayores.
Subsanar la falta de cualificación
En este escenario, es esencial emplear herramientas y técnicas sofisticadas, para poder aprovecharlas a nuestro favor con el fin de poder prepararnos adecuadamente. La respuesta ya no se limita únicamente a reacciones ante incidentes, sino, que implica una proactividad constante, alerta temprana, capacidades de ciberdecepción para simular nuestros activos más valiosos, sembrando señuelos de fácil ataque, lo que nos permitirá distraer a los atacantes para que no lleguen a tocar el dato real, nuestros sistemas de producción o incluso nuestro sistema de backup, siendo este último uno de los objetivos principales de los atacantes.
Las plataformas de seguridad actuales pueden ofrecer una amplia gama de medidas de protección y respuesta basadas en IA para vencer a los atacantes, como la alerta temprana, la detección de amenazas, la preparación ante incidentes, la respuesta rápida y la ciberrecuperación. Dada la actual escasez de personal de ciberseguridad, estas soluciones también pueden ayudar a suplir las carencias con defensas siempre activas.
Aumentada por la inteligencia humana, la naturaleza adaptativa de la IA mantendrá a los equipos de seguridad en la misma liga que sus oponentes criminales, capaces de competir en igualdad de condiciones y garantizar que su resistencia cibernética siga siendo alta. Las organizaciones que no sigan el ritmo de la adopción de la IA estarán dando a los atacantes una ventaja significativa y correrán un riesgo mucho mayor de sufrir infracciones graves. No dejemos que la ciberdelincuencia se imponga a la IA.