Répondez aux questions de sécurité sur l’IA en toute confiance

Bien répondre à la section IA d’un questionnaire de sécurité repose sur une discipline : distinguer, dans chaque réponse sur l’IA, ce que votre produit contrôle de ce que contrôle votre fournisseur de modèles, puis attribuer à votre partie un responsable, les preuves qui l’étayent et un déclencheur qui la renvoie pour approbation chaque fois qu’un modèle ou un fournisseur change. La rédaction est la partie facile. Le plus difficile consiste à fournir à chaque acheteur la même réponse approuvée et à pouvoir démontrer ultérieurement qui a approuvé les engagements pris, car certaines de ces réponses peuvent être intégrées au contrat. Le travail se déroule en six étapes : comprendre l’obligation de l’acheteur qui sous-tend chaque question, identifier les responsables, constituer les preuves, traiter les questions qui ne correspondent pas aux cas prévus, transmettre les engagements au service juridique et tenir les réponses à jour.

Qui répond et ce qu’il vous faut avant de commencer

Le bid manager ou le proposal manager pilote la section IA et valide la réponse, mais le contenu de chaque réponse relève de l’un des quatre responsables suivants : sécurité, produit, protection des données ou juridique. Votre rôle consiste à adresser chaque question à la bonne personne, à exiger de tous le même niveau de preuve et à veiller à ce qu’aucune réponse ne soit remise sans responsable désigné.

Les questions sur l’IA se présentent soit comme une section supplémentaire de l’évaluation de sécurité à laquelle vous répondez déjà, soit comme un questionnaire distinct, désigné par des noms tels que questionnaire IA fournisseur, questionnaire de sécurité IA fournisseur ou questionnaire d’évaluation des risques IA fournisseur. L’un des questionnaires publiés est l’AI-CAIQ de la Cloud Security Alliance, dont les questions sont mises en correspondance avec son AI Controls Matrix. Si un acheteur vous envoie un SIG ou un CAIQ, vérifiez si la version reçue contient des questions sur l’IA plutôt que de présumer que c’est le cas ou non.

Avant d’attribuer la première question à un responsable, assurez-vous d’avoir les éléments suivants à portée de main :

• le questionnaire de l’acheteur, avec ses consignes sur le format, les preuves et les pièces jointes
• vos réponses de sécurité actuellement approuvées, afin de pouvoir les comparer aux réponses sur l’IA
• une brève description de chaque fonctionnalité d’IA concernée, précisant le modèle et le fournisseur associés
• votre liste actuelle de sous-traitants ultérieurs
• les conditions contractuelles du fournisseur du modèle et sa documentation sur l’utilisation, la conservation et l’hébergement des données
• une personne désignée pour chacun des domaines suivants : sécurité, produit, protection des données et juridique, avec un temps convenu pour cette réponse

Interprétez chaque question sur l’IA au regard des obligations propres à l’acheteur

Interprétez chaque question sur l’IA au regard de l’obligation à laquelle elle répond chez l’acheteur, car une réponse qui satisfait à cette obligation permet de clore la question, tandis qu’une réponse qui se contente de décrire votre produit en appelle une autre. Les acheteurs vous interrogent sur votre IA pour satisfaire à leurs propres obligations, dont certaines sont formalisées.

Dans l’UE, l’article 26 de l’AI Act impose aux déployeurs de systèmes d’IA à haut risque de confier la surveillance humaine à des personnes disposant des compétences, de la formation et de l’autorité nécessaires, et de conserver les journaux générés par le système, lorsqu’ils sont sous leur contrôle, pendant au moins six mois, sauf disposition contraire d’une autre législation. Un acheteur qui déploie un tel système a une raison directe de demander à quel stade une personne examine vos résultats et combien de temps les prompts et les résultats sont conservés.

La liste des risques que les acheteurs doivent gérer s’allonge également. Dans l’enquête mondiale 2025 de McKinsey sur l’état de l’IA, 51 % des répondants issus d’organisations utilisant l’IA ont déclaré avoir constaté au moins une conséquence négative. Les répondants ont indiqué prendre des mesures face à quatre risques liés à l’IA en moyenne, contre deux en 2022.

Commencez donc par traduire la question avant de l’orienter. Par exemple, interprétez « combien de temps les prompts et les résultats sont-ils conservés ? » comme « pouvons-nous conserver ce dont nous avons besoin aussi longtemps que nécessaire ? », puis répondez à cette question : où se trouvent les journaux, combien de temps ils sont conservés, qui peut les consulter et si l’acheteur peut les exporter. Interprétez « les résultats de l’IA font-ils l’objet d’une vérification humaine ? » comme « pouvons-nous démontrer qu’une personne habilitée exerce un contrôle ? », puis précisez à quelle étape du travail une personne vérifie les résultats et qui elle est.

Attribuez les questions récurrentes aux responsables

Attribuez chaque question récurrente sur l’IA à un responsable qui en valide le contenu, et consignez à côté la partie qui relève de votre fournisseur de modèles. Ce suivi vous permet de répondre de manière cohérente à tous les acheteurs et de justifier ultérieurement une réponse.

Ce qui relève de vous et de votre fournisseur

L’AI Controls Matrix répartit les responsabilités par rôle. Un fournisseur d’applications, c’est-à-dire une entreprise qui développe des applications d’IA destinées aux utilisateurs finaux à partir de modèles, est responsable des contrôles au sein de sa propre infrastructure ainsi que dans les produits et services qu’il développe et propose. Si votre produit fait appel à un modèle tiers, vous êtes dans cette situation : vous devez répondre de la manière dont votre produit envoie les données au modèle, les journalise, limite les ressources auxquelles le modèle peut accéder et soumet les résultats à une personne. Ce qui se passe au sein du service du fournisseur ne peut être étayé que par les documents et le contrat de ce dernier.

Cette répartition change la formulation. « Les données client ne sont pas utilisées pour entraîner les modèles » recouvre deux affirmations : l’une concerne votre configuration, l’autre les conditions de votre fournisseur. Rédigez la réponse de façon à distinguer clairement les deux et à ce que le responsable ne valide que la partie qu’il contrôle.

La cartographie des responsabilités

Voici les catégories de questions qu’un acheteur pose sur l’IA intégrée à un produit. Utilisez ce tableau comme point de départ et désignez les responsables en fonction de votre organisation.

Constituez les preuves à l’appui de chaque réponse

Joignez des preuves à chaque réponse sur l’IA avant que son responsable ne l’approuve, car l’acheteur reposera ses questions s’il ne peut pas vérifier la réponse. Le niveau d’exigence est le même que pour toute réponse défendable à un questionnaire de sécurité ; seul l’ensemble des documents justificatifs change.

Le dossier de preuves

• une description du système d’IA : chaque fonctionnalité, le modèle et le fournisseur sur lesquels elle repose, les éléments auxquels elle peut accéder et l’usage qu’elle fait de ses résultats
• une description des flux de données indiquant quelles données client parviennent au modèle, où elles sont traitées et stockées, et pendant combien de temps
• votre liste de sous-traitants ultérieurs, qui doit inclure chaque fournisseur d’IA traitant des données à caractère personnel
• les politiques citées dans les réponses, telles que celles relatives à l’utilisation de l’IA, à la conservation des données et au contrôle des accès
• les derniers résultats de test, datés, avec les problèmes détectés et les corrections apportées
• les certificats et rapports dont vous disposez, tels que ISO 27001, SOC 2 Type II ou ISO/IEC 42001, la norme internationale relative aux systèmes de management de l’IA

Injection de prompt, résultats erronés et contrôle humain

N’écrivez pas que les tests empêchent l’injection de prompt. Le National Cyber Security Centre britannique concentre ses efforts là où une réponse honnête peut les situer : réduire le risque et l’impact de l’injection de prompt et renforcer la résilience des chaînes d’approvisionnement en IA. Formulez votre réponse de la même manière : ce que vous testez, quand vous le testez, ce qui limite les dommages si une injection réussit et la date de votre dernier test. Voici un modèle à compléter à partir de vos propres rapports de test :

Nous testons [fonctionnalité] face aux tentatives d’injection de prompt [avant chaque version et après chaque changement de modèle]. Ces tests visent à réduire la probabilité et l’impact d’une injection réussie ; [ce qui limite les accès ou les actions de la fonctionnalité] limite ce qu’une injection pourrait atteindre. Le test le plus récent a été réalisé le [date], et un résumé est disponible sur demande.

Les résultats erronés doivent être traités de la même manière. Dans l’enquête de McKinsey, près d’un tiers des répondants ont signalé des conséquences liées au manque de précision de l’IA, le risque associé à l’IA le plus souvent rencontré. Ne donnez pas un taux de précision que vous ne pouvez pas mesurer et sur lequel vous n’êtes pas prêt à vous engager. Indiquez à quel stade une personne valide le résultat avant son utilisation. Lorsqu’un acheteur vous interroge sur la vérification humaine, il veut voir une procédure écrite. Joignez-la donc à votre réponse.

Dans SEQUESTO : L’agentic operating system (aOS) de SEQUESTO recherche par sens dans votre bibliothèque de preuves pour chaque question sur l’IA et classe les correspondances selon un score de confiance de 0 à 100. Un score faible indique le type de document qui permettrait de combler le manque. Seuls les documents marqués comme partageables sont proposés pour une remise externe. Un rapport de test interne reste donc exclu tant qu’une personne ne l’a pas marqué comme diffusable.

Répondez aux questions qui ne correspondent pas à votre produit

Répondez à chaque question qui ne s’applique pas en indiquant la raison et en renvoyant vers l’information pertinente. Ne vous contentez jamais d’un simple « sans objet », car une mention N/A non expliquée peut être perçue comme une lacune et susciter une question complémentaire. Un questionnaire générique couvre plusieurs types de fournisseurs d’IA. Un fournisseur qui s’appuie sur le modèle d’un tiers peut donc rencontrer des questions destinées à l’entité qui entraîne ce modèle, par exemple sur la sélection des données d’entraînement.

Une réponse à une question inadaptée est solide lorsqu’elle remplit trois conditions : elle explique pourquoi la question ne s’applique pas, précise ce qui s’applique à la place et porte l’approbation de son responsable. Lorsque la question relève du rôle de votre fournisseur de modèles, indiquez-le et répondez à partir des éléments probants qu’il fournit plutôt que de laisser le champ vide.

Par exemple, un fournisseur qui n’entraîne pas de modèles et ne les affine pas pourrait répondre ainsi à une question sur la sélection des données d’entraînement :

Nous n’entraînons pas les modèles et ne les affinons pas. [Fonctionnalité] utilise [famille de modèles] de [fournisseur] via son API, et le fournisseur est responsable des données sur lesquelles le modèle a été entraîné. [Documentation du fournisseur sur les données d’entraînement] est jointe.

Transmettez au service juridique les réponses qui deviennent des clauses contractuelles

Transmettez au service juridique, avant envoi, toute réponse sur l’IA qui mentionne un niveau, une durée ou un engagement, car un acheteur peut reprendre ces éléments dans le contrat.

C’est le contrat, et non le questionnaire, qui détermine si une réponse vous engage. Considérez donc toute promesse qui y figure comme un engagement que vous pourriez être tenu de respecter.

Une règle pour ce qui doit être transmis au service juridique

Transmettez une réponse au service juridique si elle remplit l’un des critères suivants :

• indique un chiffre ou un niveau, comme un taux de précision, une durée de conservation ou un délai de notification
• promet de faire ou de ne pas faire quelque chose à l’avenir, par exemple de ne pas entraîner de modèles sur les données client ou de prévenir en cas de changement de fournisseur
• décrit un droit dont dispose l’acheteur, par exemple celui d’auditer, d’inspecter ou d’exporter les journaux
• indique où les données sont traitées ou qui les traite

Une réponse qui décrit la pratique actuelle, accompagnée de preuves et sans engagement, nécessite uniquement l’approbation de son responsable. Pour le reste, le service juridique vérifie si l’entreprise peut tenir cet engagement pendant toute la durée du contrat, y compris après le prochain changement de modèle.

Maintenez les réponses sur l’IA à jour et cohérentes

Réapprouvez une réponse sur l’IA dès qu’un élément dont elle dépend change, sans attendre sa date de révision, car une mise à niveau du modèle ou un nouveau sous-traitant ultérieur peut rendre erronée une réponse approuvée le mois précédent. Vérifiez ensuite que les réponses sur l’IA restent cohérentes avec les réponses de sécurité qui les entourent.

Réexaminez à chaque changement

Les réponses sur l’IA dépendent d’éléments qui évoluent selon le calendrier d’autres personnes. Pour chaque réponse, consignez les éléments dont elle dépend afin que, lorsque l’un d’eux change, vous puissiez retrouver toutes les réponses concernées :

• le modèle ou sa version change
• le fournisseur change ou ajoute un sous-traitant ultérieur
• les données sont traitées ou stockées dans une nouvelle région
• une politique citée dans la réponse est mise à jour
• une nouvelle fonctionnalité d’IA est déployée

Confiez à une personne le suivi des avis de modification du fournisseur et des mises à jour concernant les sous-traitants ultérieurs, ainsi que le pouvoir de rouvrir les réponses concernées avec leurs responsables. Chaque réponse conserve un responsable et une date de révision, afin que celles qui ne sont touchées par aucun changement soient tout de même vérifiées. C’est dans une bibliothèque de réponses qui consigne le responsable, les preuves et la date de révision que ces dépendances sont enregistrées.

Alignez-vous sur vos réponses de sécurité standard

Le même évaluateur lit la section sur l’IA et le reste du questionnaire, et les référentiels se recoupent. La FAQ de la CSA sur l’AI Controls Matrix indique que la matrice intègre des éléments de sa Cloud Controls Matrix, d’ISO/IEC 42001, d’ISO/IEC 27001, du NIST AI RMF 1.0 et du BSI AIC4. Lorsqu’une question sur l’IA porte sur le contrôle des accès, la journalisation, la réponse aux incidents ou la gestion des fournisseurs, partez de votre réponse ISO 27001 approuvée et ajoutez uniquement ce que la fonctionnalité d’IA modifie. Ensuite, réutilisez vos réponses standard aux questions de sécurité avec le même soin, afin qu’une réponse obsolète ne contredise pas une réponse récente sur l’IA deux pages plus loin.

Là où l’IA généraliste est utile

L’IA généraliste, qu’il s’agisse de ChatGPT, Microsoft Copilot, Claude, Gemini ou d’une solution interne fondée sur l’un de ces outils, permet à la personne qui rédige d’obtenir rapidement un premier jet convenable de ces réponses. L’équipe doit néanmoins structurer et maintenir le processus autour de ce premier jet : le responsable de chaque réponse, le circuit de validation par les responsables de la sécurité, de la protection des données et du juridique, la formulation approuvée avec sa date de révision et ses dépendances, ainsi que la trace indiquant qui a approuvé les engagements pris auprès de chaque acheteur. C’est cette trace que la clause d’audit d’un acheteur peut mettre à l’épreuve, quel que soit l’outil qui a rédigé le texte.

Dans SEQUESTO : chaque réponse approuvée sur l’IA dans le Knowledge Hub conserve son responsable, son cycle de révision et sa date d’expiration. Tout contenu expiré est signalé avant d’être intégré à un brouillon. Lorsqu’une nouvelle version d’un document est reçue, chaque réponse qui citait l’ancienne version est signalée pour révision.

Liste de contrôle avant l’envoi des réponses sur l’IA

Cochez chaque affirmation avant de valider la section sur l’IA :

• Chaque question sur l’IA a été examinée afin d’identifier l’obligation sous-jacente de l’acheteur, et la réponse satisfait à cette obligation.
• Chaque réponse a un responsable unique qui en valide le contenu, et la partie qui relève du fournisseur du modèle est indiquée comme telle.
• Chaque réponse est accompagnée de ses éléments de preuve, et toute réponse relative aux tests décrit la réduction des risques et de leur impact plutôt que leur élimination.
• Chaque question qui ne s’applique pas en précise la raison, indique ce qui s’applique à la place et porte l’approbation de son responsable.
• Chaque réponse qui précise un niveau, une durée, un engagement, un droit de l’acheteur ou un lieu de traitement a été validée par le service juridique.
• Chaque réponse indique les éléments dont elle dépend et sa date de révision, et reste cohérente avec les réponses de sécurité standard du même questionnaire.

Commencez par la section sur l’IA que vous avez envoyée le plus récemment : vérifiez-la dès maintenant à l’aide de cette liste, avant l’arrivée du prochain questionnaire et avant que les mêmes réponses ne soient à nouveau envoyées.