La dernière étude du Campus Cyber, publiée mercredi, nous montre comment la technologie « RAG » améliore la fiabilité des chatbots d'intelligence artificielle générative, en créant aussi de nouveaux problèmes de sécurité.
Le groupe de travail « Sécurité de l'IA » du Campus Cyber et Hub France IA ont publié, le mercredi 2 avril 2025 en marge du FIC, une analyse approfondie des cyberattaques qui visent les systèmes d'intelligence artificielle. Parmi les technologies examinées, nous avons décidé de nous intéresser à la RAG (Retrieval Augmented Generation), la génération augmentée de récupération. Il s'agit d'une technique qui se distingue par sa capacité à rendre les IA génératives plus fiables, mais aussi et malheureusement, par les nouvelles vulnérabilités qu'elle introduit.
