A Microsoft, una de las empresas TIC que más ha apostado por la inteligencia artificial generativa, al ser el principal inversor en OpenAI, esta tecnología también le está dando algunos dolores de cabeza.
El gigante de Redmond, a través de su Unidad de Delitos Digitales (DCU) ha decidido emprender acciones legales contra los cibercriminales con el fin de "garantizar la seguridad e integridad de nuestros servicios de IA". Por ello han presentado una denuncia en el Distrito Este de Virginia (EE.UU).
Su objetivo con este litigio es frenar a los actores de amenazas que desarrollan intencionalmente herramientas diseñadas específicamente para eludir las barreras de seguridad de los servicios de IA generativa.
"Microsoft ha observado que un grupo de actores de amenazas con base en el extranjero desarrolló un software sofisticado que explotó las credenciales de clientes expuestas extraídas de sitios web públicos", señala la firma de Redmond en un post en su blog, firmado por Steven Masada, asesor general adjunto de la unidad de delitos digitales de la compañía.
"Al hacerlo, intentaron identificar y acceder ilegalmente a cuentas con ciertos servicios de inteligencia artificial generativa y alterar deliberadamente las capacidades de esos servicios", añade.
Posteriormente, los ciberdelincuentes habrían usado dichos servicios, como Azure OpenAI Service, y revendido el acceso a otros actores maliciosos proporcionándoles instrucciones detalladas sobre cómo utilizar esas herramientas personalizadas para generar contenido dañino e ilícito.
Una vez descubierto esta actividad, en julio del año pasado, la empresa dirigida por Satya Nadella revocó el acceso a estos cibermalos, implementando contramedidas.
Desde Microsoft están llevando a cabo una investigación sobre los creadores de dichas herramientas y servicios ilícitos. Además, a través de la orden judicial han podido incautar un sitio web "fundamental para la operación delictiva" con el que, supuestamente, podrán "reunir pruebas cruciales sobre las personas detrás de estas operaciones, descifrar cómo se monetizan estos servicios e interrumpir la infraestructura técnica adicional" que encuentren.
Microsoft no es el único objetivo
Los documentos judiciales muestran que al menos tres individuos se encontraban detrás de la operación, aprovechando claves API de Azure robadas y datos de autenticación de clientes para violar los sistemas de Microsoft y crear imágenes dañinas mediante DALL-E, violando las políticas de la casa. Otras siete partes habrían hecho un uso siimilar.
"Con esta acción, estamos enviando un mensaje claro: no se tolerará que los actores online utilicen nuestra tecnología de IA como arma", sostiene Microsoft.
No obstante, la campaña podría ser más amplia. La compañía de Satya Nadella reconoce que el patrón de actividad ilegal de los demandados no se limita a ataques contra ellos y los ciberdelincuentes también han estado "atacando y victimizando a otros proveedores de servicios de IA".