Generative AI · 7 min
Generative AI : le premier cadrage sécurité
Avant le prototype, quelques questions permettent d’écarter les usages les plus risqués et de définir les garde-fous.
Les risques d’un projet Generative AI dépendent du cas d’usage, des données, du modèle, des intégrations et du niveau d’autonomie accordé au système.
Classifier les données
Il faut déterminer quelles données peuvent être transmises, stockées ou utilisées pour l’évaluation, et sous quelles conditions.
Définir le rôle humain
Une réponse générée peut informer, assister ou déclencher une action. Le niveau de contrôle humain doit être proportionné à l’impact potentiel.
Mesurer avant d’industrialiser
Qualité, hallucinations, sécurité, coûts et latence doivent être évalués sur un jeu de cas représentatif.