RGPD et AI Act : Deux piliers de la confiance
L’Union européenne a bâti un cadre de confiance numérique fondé sur deux exigences majeures :
-
Le RGPD (Règlement Général sur la Protection des Données) : Il encadre la collecte et le traitement de vos informations. Il rappelle qu’une donnée personnelle (nom, voix, image, historique) n’est pas un objet neutre et doit rester sous le contrôle de la personne concernée.
-
L’AI Act (Règlement européen sur l’IA) : Il classe les systèmes d’IA selon leur niveau de risque. Il impose des règles très strictes dès lors qu’un outil touche à l’emploi, à l’éducation, à la santé ou aux droits fondamentaux.
Ces deux cadres partagent la même philosophie : un individu ne doit jamais être réduit à un score, un algorithme ou une interprétation automatique.
Les lignes rouges : Ce que la loi interdit
L’AI Act européen interdit fermement certaines pratiques jugées incompatibles avec nos valeurs, notamment :
-
La notation sociale (social scoring).
-
La manipulation comportementale préjudiciable et l’exploitation des vulnérabilités.
-
La constitution illégale de bases de données par moissonnage facial (facial scraping).
-
La reconnaissance des émotions sur le lieu de travail et dans les écoles.
Focus : Pourquoi l’analyse des émotions est une frontière majeure
L’interdiction de mesurer les émotions au travail et à l’école protège une valeur essentielle : l’intimité intérieure.
Un visage, un ton de voix ou un temps d’hésitation ne révèlent pas ce qu’une personne ressent réellement. Vouloir mesurer la motivation d’un salarié ou l’attention d’un élève via une IA crée des erreurs, des biais injustes et un climat de surveillance toxique.
La technologie ne doit pas franchir le seuil de l’intimité humaine sous prétexte d’optimisation ou de contrôle.
Ce que j’applique avec ATOOLPHA®
Dans l’ensemble de mes travaux, logiciels et accompagnements, je décline cette vision en 5 principes concrets :
-
Compréhension préalable : Toute technologie appliquée aux données humaines doit être expliquée avant d’être déployée.
-
Sobriété des données : Minimisation des données collectées et priorité aux architectures locales et hors ligne.
-
Vigilance renforcée : Prudence absolue sur les usages touchant au travail, à l’éducation et à la santé.
-
Respect de la personne : Refus strict des outils invasifs ou prédictifs basés sur l’intime.
-
Responsabilité humaine : L’IA assiste et propose, mais l’arbitrage et la décision finale restent 100 % humains.
Mon rôle : Sensibiliser et structurer
ATOOLPHA® ne remplace pas le travail d’un juriste ou d’un DPO (Délégué à la protection des données).
Mon rôle est celui d’un pédagogue et concepteur : rendre ces règles lisibles, concevoir des outils techniques respectueux de la vie privée (comme mes prototypes locaux) et aider les organisations à adopter l’IA sans compromettre leurs valeurs ni exposer leurs données.
Sources institutionnelles de référence
-
Parlement Européen & Conseil : Règlement (UE) 2024/1689 sur l’Intelligence Artificielle (AI Act)
-
Commission Européenne : Règlement Général sur la Protection des Données (RGPD)
-
Autorité de Protection des Données (APD) — Belgique
