Avant de s’engager
Audit des
systèmes d’IA
Savoir ce que votre système permet.
Établir ce qui doit être corrigé.
Nous confrontons les promesses aux usages, aux tests et aux traces. Votre direction reçoit une conclusion documentée pour autoriser, limiter ou différer l’engagement.
De la promesse à la décision
- Ce qui est annoncéLes engagements
- Ce qui est vérifiéLes preuves
- Ce que vous décidezLa conclusion et ses limites
La question de départ
À quel engagement
devez-vous répondre ?
Un fournisseur à engager
Éprouver les promesses avant de signer.
Une mise en production
Vérifier les conditions de mise en service.
Un changement majeur
Mesurer ce qu’une nouvelle version modifie.
Un incident à instruire
Établir les causes et les conditions de reprise.
Ce que vous recevez
Une conclusion pour décider.
Un dossier pour agir.
Six livrables reliés entre eux, remis en formats modifiables et présentés à votre direction.
-
Note de conclusion
La réponse à votre question, les réserves et la décision attendue.
-
Matrice des constats
Les écarts classés, leurs preuves et les responsables concernés.
-
Plan de traitement
Les actions à mener, leurs échéances et les preuves de clôture.
-
Dossier des travaux
Les critères, les tests et leurs résultats pour reprendre les vérifications.
-
Architecture en fonctionnement
Les versions, les flux et les contrôles réellement observés.
-
Restitution exécutive
Les options, les désaccords et les conditions de poursuite, examinés avec la direction.
Chaque constat reste relié à son critère, à la procédure exécutée et aux pièces examinées.
Comment nous procédons
Suivre le système
jusqu’à ses effets.
Nous reconstituons des décisions réelles. Les déclarations sont confrontées aux versions, aux configurations et aux comportements observés.
-
Cadrer la décision
Question, périmètre, critères et conditions d’accès.
-
Définir ce qui doit être prouvé
Des assertions vérifiables, reliées aux risques.
-
Fixer les cas examinés
Versions, période et échantillon documentés.
-
Rassembler les preuves
Traces, configurations et déclarations recoupées.
-
Éprouver le système
Tests en conditions réelles et dégradées.
-
Conclure après contradiction
Réponses examinées, risques et réserves consignés.
Consulter les six étapes en détail
Le mandat fixe d’abord la question, le périmètre et les critères. Viennent ensuite la collecte, les procédures et les tests, puis le contradictoire, la conclusion et la restitution. Le niveau d’assurance recherché et le profil de risque déterminent la profondeur et le calendrier des travaux.
Fixer le mandat et les critères
Nous écrivons avec vous la décision à éclairer, le périmètre et la période examinés, et les critères d’évaluation retenus, qu’ils soient internes, contractuels, techniques ou réglementaires.
Vous recevez la lettre de mission, avec les critères, la déclaration d’indépendance et les limites d’accès.
Formuler les assertions auditables
La promesse globale du système est découpée en propositions vérifiables. Par exemple : « le système refuse de répondre quand le document source manque » ou « un opérateur peut suspendre le traitement en moins de cinq minutes ».
Chaque assertion est reliée à un risque, un critère et une procédure de test.
Geler l’univers examiné
Nous fixons la population, les versions et la fenêtre de temps examinées, puis nous choisissons les cas qui seront reconstitués de bout en bout, cas limites et sous-groupes compris.
L’inventaire horodaté et la sélection des cas sont conservés dans le dossier.
Constituer la chaîne de preuve
Nous croisons ce que disent les entretiens et les contrats avec ce que montrent les dépôts de code, les configurations, les données et les journaux. Toute divergence entre le déclaré et l’observé devient un point d’investigation.
Chaque pièce conserve sa provenance, sa version et son statut.
Exécuter les procédures
Nous rejouons des traces réelles, reproduisons les mesures annoncées et provoquons des conditions dégradées. Les résultats sont livrés avec leur protocole, leur environnement et leur marge d’incertitude.
Scripts, données brutes et conditions de reproduction sont remis avec le rapport.
Instruire le contradictoire et conclure
Chaque constat est classé selon son effet plausible, sa vraisemblance, son étendue et l’efficacité des contrôles existants. Les responsables répondent avant que le risque résiduel, les désaccords et la décision attendue soient exposés à la direction.
Un écart n’est clos qu’après une décision explicite, un responsable, une échéance et une preuve de vérification.
Le périmètre des travaux
Les usages, les contrôles
et les dépendances.
La profondeur des vérifications dépend de votre question, des risques et des accès convenus dans le mandat.
Ce que nous examinons
La décision et son contexte
À quoi sert le système, qui décide, qui est exposé, quelle erreur est tolérable.
La chaîne d’exécution
Ce qui déclenche une décision, les règles appliquées, les automatisations et les interventions humaines réelles.
Les composants d’IA
Modèles, prompts, agents, outils, seuils et modes de repli, dans leurs versions en service.
La chaîne de données
Sources, transformations, recherche documentaire, lignage et conservation.
La plateforme opérée
Identités, déploiement, télémétrie, incidents et gestion des changements.
Les tiers et la sortie
Contrats, services critiques, concentration fournisseur, portabilité et capacité de reprise.
Les tests et les preuves
Le plan de test dérive des assertions et des scénarios de risque. Une métrique n’a de valeur que si son construit, sa population, son seuil et son incertitude sont défendables.
Validité de la mesure
Une exactitude de 94 % ne dit rien si le jeu de référence ne ressemble pas à vos cas réels. Nous vérifions la pertinence de la mesure pour le métier, l’absence de fuite entre entraînement et test, la répétabilité et les écarts entre sous-groupes.
Robustesse et domaine de validité
Que fait le système face à une entrée qu’il n’a jamais vue, à un composant indisponible, à une donnée bruitée ? Sait-il s’abstenir, passer en mode dégradé, revenir en arrière ?
Données, sécurité et agents
D’où viennent les données, qui y a droit, peuvent-elles fuir dans une réponse ? Un agent peut-il être manipulé par une instruction cachée, abuser d’un outil, élever ses privilèges ? Chaque action est-elle traçable ?
Efficacité opérationnelle des contrôles
L’opérateur qui supervise a-t-il réellement le pouvoir d’arrêter ? L’escalade atteint-elle la bonne personne dans le délai prévu ? Une personne concernée peut-elle contester une décision et obtenir une reprise manuelle ?
Quatre exigences pour chaque preuve retenue
- Pertinente : elle répond directement à l’objectif, au périmètre et au critère examinés.
- Fiable : sa provenance est identifiable, son intégrité vérifiable et sa corroboration proportionnée au risque.
- Suffisante : elle soutient la conclusion au niveau d’assurance recherché.
- Reproductible : une autre équipe peut la rejouer avec les versions, la méthode et l’environnement documentés.
Les références de travail
Les critères sont fixés avant l’examen. Chaque référence est mobilisée selon le périmètre et les exigences applicables à la mission.
Pour les systèmes à haut risque, les articles 9 à 15 encadrent notamment les risques, les données, la documentation, les journaux, la supervision humaine, l’exactitude, la robustesse et la cybersécurité.
Fonctions Govern, Map, Measure et Manage : un cadre continu de gouvernance, de mesure et de traitement des risques, et non une liste de contrôle séquentielle.
Objectifs, périmètre, critères, programme de travail, éléments probants, constats et conclusions d’une mission.
Questions et procédures d’audit organisées autour de la gouvernance, des données, de la performance et de la surveillance.
Lignes directrices pour l’audit des systèmes de management : principes, programme et éléments probants.
Analyse des risques de sécurité portant sur les données, le développement, l’infrastructure et la maintenance.
La portée de la conclusion
Des faits établis.
Des limites explicites.
La conclusion distingue les faits, les interprétations et ce qui n’a pas pu être vérifié. Les désaccords et le risque résiduel restent dans le dossier.
Le responsable de mission, les praticiens mobilisés et le signataire de la conclusion sont nommés dans la lettre de mission.
Un audit TRARDI n’est ni une certification, ni un avis juridique, ni une validation officielle de conformité. La portée de la conclusion dépend du mandat, de l’indépendance, du périmètre, de la qualité des accès, de l’échantillonnage et des procédures autorisées.
Questions fréquentes
Avant de nous écrire.
Quelle différence entre un audit d’IA et un audit de modèle ?
L’audit de modèle caractérise un composant dans un protocole défini. L’audit de système examine la chaîne qui transforme une entrée en décision ou en action, avec ses données, ses contrôles, ses opérateurs, ses dépendances et ses conditions réelles d’exploitation.
Comment choisissez-vous les tests ?
À partir des assertions, de l’architecture et des scénarios de risque. Le programme précise les populations, seuils, cas limites, conditions dégradées, méthodes d’échantillonnage et règles d’interprétation avant l’exécution.
Que signifie « audit indépendant » ?
La conclusion ne dépend ni de la défense d’une solution préalablement vendue, ni d’un intérêt dans le résultat évalué. Les éventuels conflits, dépendances et limites d’accès sont déclarés dans le mandat.
L’audit garantit-il la conformité à l’AI Act ?
Non. Il peut examiner la classification, les rôles, les exigences et la qualité des preuves dans le périmètre convenu. Il ne remplace ni l’évaluation de conformité prévue par les textes, ni l’autorité compétente, ni un avis juridique.
Comment la conclusion reste-t-elle défendable ?
Chaque constat conserve son critère, sa condition observée, sa cause, son effet, sa criticité et ses pièces. La réponse des responsables est examinée ; les désaccords et limites qui subsistent sont explicitement consignés.
Premier échange
Quel système vérifier,
pour quelle décision ?
Décrivez l’usage réel, la décision attendue et l’échéance. Nous reformulons la question d’audit et précisons les accès, le périmètre et les conditions dans un cadrage écrit.
Présenter votre situationAucun document sensible nécessaire à ce stade.