Les professionnels de l’investissement d’une société de capital-investissement avaient adopté l’assistant documentaire d’IA d’un fournisseur spécialisé, un outil capable de résumer rapidement de longs prospectus, d’extraire les clauses clés des contrats et de rédiger des projets de thèse d’investissement. L’adoption avait été rapide et informelle : le produit du fournisseur avait été approuvé à l’issue d’une revue de sécurité centrée sur la sécurité de l’infrastructure du fournisseur et ses pratiques de traitement des données, et chaque professionnel avait commencé à l’utiliser au quotidien quelques semaines après l’approbation. Trois mois après l’adoption, le directeur juridique de la société a passé en revue les usages de l’outil d’IA, après qu’une société comparable eut révélé un incident de traitement des données impliquant un fournisseur d’IA. La revue a établi que plusieurs professionnels de l’investissement avaient téléversé dans l’assistant d’IA des documents contenant des informations privilégiées non publiques : lettres d’intention préliminaires, projets de contrats d’acquisition et présentations au conseil d’administration portant sur des transactions non encore publiques. La politique de confidentialité du fournisseur indiquait que les données saisies étaient conservées trente jours par défaut à des fins de qualité de service et de débogage. Cette politique de conservation de trente jours n’avait pas été clairement signalée lors du processus d’approbation, et la société n’avait pas souscrit l’offre entreprise qui garantissait un traitement des données sans conservation. Les documents n’étaient pas conservés par le fournisseur, mais par son fournisseur de LLM, OpenAI, sur l’API duquel le produit était construit. Les obligations de conformité de la société en matière de valeurs mobilières s’étendaient à la conservation et aux contrôles d’accès des informations privilégiées non publiques. Ce dispositif de conservation n’avait pas été évalué au regard de ces obligations.
Que sont réellement les risques de conservation des données par l’IA ?
Les risques de conservation des données par l’IA sont les risques de sécurité, de conformité et juridiques liés à la conservation des données que les utilisateurs saisissent dans des systèmes d’IA, en particulier le risque que des informations sensibles, réglementées ou juridiquement protégées téléversées dans un assistant d’IA, soumises sous forme de requête à une IA ou traitées par une chaîne de traitement d’IA soient conservées sur l’infrastructure du fournisseur d’IA ou du fournisseur de modèles plus longtemps que ne le permettent les obligations de l’entreprise en matière de traitement des données, ou d’une manière non couverte par son cadre de gouvernance des données.
Le problème de l’architecture de conservation par niveaux d’offre est le facteur de risque spécifique. La plupart des produits d’IA commerciaux, en particulier ceux construits sur des API de LLM tiers, proposent des configurations de conservation des données différentes selon le niveau d’abonnement. Les offres standard peuvent conserver les données saisies pendant des durées variables (quelques heures, quelques jours ou trente jours) à des fins d’amélioration du service, de débogage et d’assurance qualité. Les offres entreprise proposent généralement une conservation nulle ou configurable, mais exigent une configuration explicite et un abonnement plus coûteux. L’entreprise qui évalue et approuve l’offre standard peut avoir approuvé une offre dont la configuration de conservation par défaut est incompatible avec ses obligations en matière de traitement des données.
Le problème de l’adoption informelle amplifie le risque lié à la conservation. Les outils d’IA approuvés au niveau de l’organisation sont souvent adoptés de manière informelle au niveau individuel : les employés commencent à utiliser les outils approuvés pour l’ensemble de leur travail sans consignes précises sur les catégories de données adaptées à l’outil. Un assistant d’IA approuvé pour analyser des travaux de recherche publics peut être utilisé pour résumer des présentations au conseil d’administration, rédiger des communications sur des négociations confidentielles et traiter des documents contenant des données personnelles réglementées. La configuration de conservation acceptable pour le cas d’usage approuvé ne l’est pas forcément pour les cas d’usage réels qui se développent spontanément.
La dimension de la conservation par le fournisseur de LLM constitue le risque de quatrième partie. Lorsque le produit d’IA d’un fournisseur est construit sur l’API d’un LLM tiers, la configuration de conservation au niveau du fournisseur de LLM peut différer de celle du fournisseur. Le fournisseur peut conserver les données saisies sept jours. Le fournisseur de LLM peut les conserver trente jours. Les obligations de l’entreprise en matière de traitement des données s’attachent aux données où qu’elles soient conservées. La conservation par le fournisseur de LLM, que l’entreprise n’a peut-être pas évaluée spécifiquement, peut être la contrainte déterminante.
Pourquoi c’est important
Les risques de conservation des données par l’IA sont importants pour le TPRM, car l’adoption informelle et rapide des outils d’IA dans les entreprises crée un risque systématique de conservation pour des catégories de données sensibles (MNPI, données personnelles, informations couvertes par le secret professionnel, données de santé réglementées) que des employés téléversent dans des assistants d’IA sans connaître précisément la configuration de conservation. Le cadre de gouvernance des données de l’entreprise n’a peut-être pas été appliqué à la configuration de conservation qui régit ces téléversements.
Là où la plupart des équipes se trompent
La défaillance la plus constante consiste à approuver des outils d’IA sur la base d’une évaluation de sécurité sans évaluer spécifiquement la configuration de conservation de l’offre achetée, et sans établir de consignes de classification des données indiquant aux utilisateurs quelles catégories de données conviennent à l’outil approuvé.
- Configuration de conservation de l’offre approuvée non évaluée spécifiquement
- Conservation par le fournisseur de LLM non évaluée : lacune de conservation chez une quatrième partie
- Consignes de classification des données non fournies aux utilisateurs : toutes les données téléversées par défaut
- Conservation nulle de l’offre entreprise ni configurée ni exigée
- Téléversement d’MNPI et de données réglementées non traité spécifiquement dans la gouvernance des outils d’IA
À quoi ressemblent les bonnes pratiques
Les programmes matures de conservation des données par l’IA évaluent et configurent spécifiquement la conservation au niveau du fournisseur et du fournisseur de LLM, exigent l’offre entreprise ou une configuration sans conservation pour tout outil d’IA susceptible de traiter des catégories de données sensibles, et fournissent aux utilisateurs des consignes explicites de classification des données pour les outils d’IA approuvés.
- Configuration de conservation évaluée spécifiquement au niveau du fournisseur et du fournisseur de LLM
- Offre entreprise avec conservation nulle configurée pour le traitement de données sensibles
- Consignes de classification des données pour les utilisateurs : quelles catégories de données sont autorisées dans quels outils d’IA
- Conservation par le fournisseur de LLM évaluée comme un risque de quatrième partie
- Audit des catégories de données sensibles : traitement des MNPI, des PHI et des données couvertes par le secret professionnel dans les outils d’IA
Outils
Gouvernance des données d’IA en entreprise : Microsoft Purview avec gouvernance des données de Copilot, Nightfall pour la DLP dans les outils d’IA
Les outils de prévention des pertes de données conçus pour les plateformes d’IA surveillent les données saisies dans les outils d’IA et appliquent les politiques de classification des données, en empêchant le téléversement de catégories de données qui enfreignent la politique de gouvernance des données d’IA de l’entreprise. Pour les professionnels du TPRM, demander si l’entreprise applique des contrôles de DLP aux données saisies dans les outils d’IA, en faisant respecter les politiques de classification des données au moment du téléversement, constitue une question précise sur la réduction du risque de conservation.
Enjeux de gouvernance
La difficulté de gouvernance liée à la conservation des données par l’IA tient à l’écart de comportement des utilisateurs. Les politiques de configuration de la conservation au niveau de l’entreprise ne peuvent pas empêcher chaque utilisateur de téléverser des catégories de données incompatibles avec l’offre configurée si les utilisateurs ne connaissent pas les restrictions. La solution de gouvernance passe par une application technique, des contrôles de DLP qui bloquent ou signalent le téléversement de catégories de données sensibles vers les outils d’IA, associée à la formation des utilisateurs.
- Exiger une configuration sans conservation pour les outils d’IA susceptibles de traiter des données sensibles
- Évaluer la conservation par le fournisseur de LLM dans le cadre de l’approbation des outils d’IA
- Mettre en œuvre des contrôles de DLP pour les données saisies dans les outils d’IA
- Fournir des consignes de classification des données pour les outils d’IA approuvés
- Auditer l’utilisation des outils d’IA pour repérer les téléversements de données sensibles
Si vous êtes une petite équipe
Pour vos outils d’IA les plus largement adoptés (assistants documentaires, outils de rédaction, assistants de code), posez trois questions sur la conservation : quelle est la durée de conservation des données saisies au niveau du fournisseur ; quelle est la durée de conservation au niveau du fournisseur de LLM ; et avez-vous configuré l’offre entreprise sans conservation ? Croisez ensuite ces réponses avec les catégories de données sensibles les plus critiques que vos employés sont susceptibles de téléverser. Si la durée de conservation dépasse la durée acceptable pour l’une de ces catégories, vous avez identifié un risque de conservation des données par l’IA que la revue de sécurité n’a pas fait apparaître.
- Demander la durée de conservation au niveau du fournisseur et au niveau du fournisseur de LLM
- Demander si l’offre entreprise sans conservation est configurée
- Croiser la conservation avec les catégories de données sensibles que les employés téléversent
- Mettre en œuvre des contrôles de DLP pour les données saisies dans les outils d’IA
Ce qu’il faut exiger
Demandez directement :
« Quelle est la durée de conservation des données saisies dans notre niveau d’abonnement actuel, au niveau de votre infrastructure et au niveau de votre fournisseur de LLM, proposez-vous une offre entreprise sans conservation, et êtes-vous prêts à vous engager sur cette offre dans notre accord de traitement des données ? »
Preuves attendues
- Durée de conservation au niveau du fournisseur pour l’offre actuelle
- Communication de la durée de conservation par le fournisseur de LLM
- Disponibilité d’une offre entreprise sans conservation
- Engagement dans le DPA en faveur d’une conservation nulle ou configurable
Il faut interroger un fournisseur dont le traitement des données a été évalué précisément sur la configuration de conservation de l’offre souscrite. L’évaluation de sécurité couvre les contrôles. La configuration de conservation détermine quelles données sont conservées et pendant combien de temps. Les deux sont nécessaires.
Comment le prouver
- Documentation de la configuration de conservation pour le fournisseur et le fournisseur de LLM
- Engagement de conservation nulle de l’offre entreprise dans le DPA
- Consignes de classification des données pour les utilisateurs d’outils d’IA
- Mise en œuvre de contrôles de DLP pour les données saisies dans les outils d’IA
À retenir
Cibles de M&A. Projections financières. Plans stratégiques. Téléversés dans un outil d’IA de synthèse de documents. Conservés trente jours. Pas par le fournisseur, mais par le fournisseur de LLM sur lequel le fournisseur avait bâti son produit. La politique de confidentialité du fournisseur indiquait une conservation de trente jours. L’employé ne l’avait pas lue. L’entreprise n’avait pas configuré la conservation nulle. La revue de sécurité n’avait pas évalué spécifiquement la configuration de conservation. Des MNPI sur l’infrastructure d’un fournisseur de LLM qui n’avait jamais été évaluée. Le risque de conservation des données par l’IA réside dans la configuration de l’offre, dans les conditions du fournisseur de LLM et dans les catégories de données que l’adoption informelle laisse passer. Offre entreprise sans conservation. Contrôles de DLP pour les catégories de données sensibles. Consignes de classification des données pour les utilisateurs. Ces trois contrôles empêchent la conservation pendant trente jours de ce qui n’aurait jamais dû être téléversé.