Surveillance AI Act : du signal à la décision

Les articles 72 et 73 visent les systèmes d’IA à haut risque. Avant de concevoir la surveillance, il faut donc qualifier le système, la voie de classement, le rôle de chaque entité et les règles transitoires ou sectorielles qui lui sont propres.

Le règlement (UE) 2026/1744 a reporté l’application des sections 1 à 3 du chapitre III au 2 décembre 2027 pour les systèmes classés à haut risque au titre de l’article 6, paragraphe 2 et de l’annexe III, et au 2 août 2028 pour ceux relevant de l’article 6, paragraphe 1 et de l’annexe I. La Commission doit publier des orientations, avec un modèle de plan de surveillance après commercialisation, au plus tard le 2 septembre 2027.

2 décembre 2027

Article 6(2) · systèmes à haut risque de l’annexe III

2 août 2028

Article 6(1) · systèmes à haut risque liés à l’annexe I

2 septembre 2027

Orientations de la Commission sur le plan de surveillance

L’article 72 place le système de surveillance après commercialisation chez le fournisseur. L’article 26 demande au déployeur de suivre le fonctionnement du système à haut risque selon les instructions d’utilisation et d’informer les acteurs prévus lorsqu’un risque ou un incident apparaît.

La chaîne doit être arrêtée avant l’incident : signaux transmis, délai interne, données accessibles, interlocuteur de permanence, pouvoir de suspension et canal vers l’autorité. Une responsabilité partagée sans attribution explicite devient une responsabilité vacante.

Fournisseur · article 72

Établir et documenter un dispositif proportionné ; collecter et analyser activement les données utiles pendant le cycle de vie.

Déployeur · article 26

Surveiller selon les instructions ; suspendre l’usage et informer sans retard injustifié lorsqu’un risque est identifié.

Interface opérationnelle

Nommer qui qualifie, qui protège le service, qui notifie et qui autorise une éventuelle reprise.

Une dérive n’existe que par rapport à une référence. Celle-ci décrit le système réellement autorisé, ses conditions d’emploi et les limites acceptées. Toute mesure, plainte, correction ou décision doit revenir à cet identifiant.

• Système — modèle, règles, prompts, outils et composants externes
• Données — sources, schémas, périodes, populations et transformations
• Exécution — infrastructure, paramètres, interfaces et dépendances
• Usage — finalité, utilisateurs, personnes exposées et contexte
• Contrôles — seuils, supervision humaine, abstention et repli
• Acceptation — performances, limites, risque résiduel et signataire

Le plan ne se réduit pas à une liste de métriques. Il décrit comment une observation devient une décision reproductible. Chaque signal associe un périmètre, une fenêtre de mesure, une méthode, un seuil, un responsable et une action prévue.

Les signaux utiles dépendent de la finalité et du risque : performance globale et par sous-groupe, évolution des entrées, abstentions, contournement de la supervision, indisponibilité, plainte, sécurité, usage hors finalité ou interaction avec un autre système d’IA.

• Référence — préciser la version et la limite approuvée
• Observation — mesurer sur une population et une fenêtre définies
• Qualification — distinguer variation, dérive, risque et incident
• Autorité — attribuer le maintien, la restriction ou la suspension
• Preuve — conserver le signal, l’analyse, l’action et son horodatage

Au sens de l’article 3, point 49, un incident grave est un incident ou dysfonctionnement qui conduit directement ou indirectement à l’une des quatre conséquences ci-dessous. Une anomalie technique n’est donc pas automatiquement un incident grave ; elle doit néanmoins rester traçable si elle peut modifier le risque ou la conformité.

• Santé — décès ou atteinte grave à la santé d’une personne
• Infrastructure — perturbation grave et irréversible de la gestion ou du fonctionnement d’infrastructures critiques
• Droits fondamentaux — violation d’obligations du droit de l’Union destinées à les protéger
• Biens ou environnement — dommage grave aux biens ou à l’environnement

15 jours au plus tard

Règle générale, après établissement du lien causal ou de sa probabilité raisonnable ; signalement immédiat.

2 jours au plus tard

Infraction de grande ampleur ou perturbation grave et irréversible du fonctionnement d’infrastructures critiques ; signalement immédiat.

10 jours au plus tard

Décès, dès que le lien causal est établi ou soupçonné ; signalement immédiat.

L’enquête ne doit pas dépendre d’une reconstruction tardive. Un registre unique conserve l’ordre des événements, les versions concernées et les décisions prises, sans altérer le système d’une manière susceptible de compromettre l’évaluation des causes avant d’en informer l’autorité.

• Détecter — horodater le signal et identifier sa source
• Préserver — figer journaux, versions, entrées et sorties utiles
• Contenir — protéger les personnes et limiter ou suspendre l’usage
• Qualifier — apprécier l’étendue, la gravité et le lien causal
• Informer — activer le circuit fournisseur, déployeur et autorité
• Corriger — analyser la cause et documenter l’action retenue
• Reprendre — soumettre le test et le risque résiduel au décideur habilité

Une action corrective n’est pas close parce qu’elle est déclarée terminée. Le contrôle est rejoué sur la version corrigée, avec les conditions qui avaient révélé le problème, puis les effets secondaires et le risque résiduel sont soumis à l’autorité désignée.

Même phénomène

Le test couvre le signal ou la défaillance à l’origine de l’action.

Version corrigée

Le résultat est rattaché à une configuration identifiée et reproductible.

Non-régression

Les fonctions critiques qui n’étaient pas en cause sont également rejouées.

Décision signée

Maintien, restriction ou reprise sont attribués avec le risque résiduel.

Le dossier doit permettre à une personne qui n’a pas vécu l’événement de comprendre ce qui a été observé, pourquoi une décision a été prise et sur quelle version elle porte. Chaque pièce est datée, attribuée et reliée à la chaîne de preuve.

• Plan — finalité, périmètre, sources, indicateurs et fréquence
• Références — configurations successives et décisions d’acceptation
• Registre — signaux, changements, plaintes, risques et incidents
• Escalade — rôles, coordonnées, délais internes et autorités
• Investigations — causalité, mesures conservatoires et corrections
• Clôtures — tests, non-régression, risque résiduel et autorisation