El éxito de ChatGPT ha hecho que surjan infinidad de proyectos de inteligencia artificial generativa y basados en modelos de lenguaje de gran tamaño (LLM). Sin embargo, no puede decirse que sean demasiado seguros.
La división de investigación de Rezilion ha investigado la postura de seguridad de los 50 proyectos de IA generativa más populares en el repositorio GitHub.
Para realizar el estudio usaron el cuadro de mando de Open Source Security Foundation (OSSF) para evaluar objetivamente el ecosistema de código abierto de LLM y resaltar su falta de madurez, las brechas en las mejores prácticas básicas de seguridad y los posibles riesgos en muchos proyectos basados en LLM.
Jóvenes, aunque no sobradamente preparados
Entre los hallazgos clave de la investigación está que existen proyectos de IA generativa muy nuevos y populares que tienen puntajes bajos. La edad promedio de los mismos es de tan solo 3,77 meses y su media de valoraciones alcanza las 15.909.
Además, la postura de seguridad para estas herramientas resulta muy deficiente, con una puntuación media de 4,6 sobre 10.
Como ejemplo, está el proyecto basado en GPT más popular en GitHub, Auto-GPT, que tiene más de 138.000 reseñas asociadas, menos de 3 meses de vida y una puntuación de Scorec
Desde la firma recomiendan algunas prácticas para la implementación y operación seguras de los sistemasde IA generativa: educar a los equipos sobre los riesgos asociados con la adopción de nuevas tecnologías, evaluar y monitorizar los riesgos de seguridad relacionados con los LLM y los sistemas de código abierto, implementar prácticas de seguridad sólidas, realizar evaluaciones de riesgo exhaustivas y fomentar una cultura de conciencia de seguridad.