Aller au contenu principal
MH
Retour a la veille

Veille IA & Réglementation — Semaine 10

Le calendrier d'application de l'AI Act se précise avec l'entrée en vigueur des premières interdictions. Le Comité européen de la protection des données adopte un avis sur l'utilisation de l'IA dans le secteur financier.

AI Act : entrée en vigueur des interdictions de pratiques inacceptables

Depuis le 2 février 2025, les systèmes d'IA présentant un risque inacceptable sont interdits dans l'UE. Cela inclut la manipulation subliminale, le scoring social, la police prédictive individuelle et la reconnaissance biométrique en temps réel dans l'espace public (sauf exceptions). Les premières plaintes ont été déposées auprès des autorités nationales.

Impact pour les entreprises

Les entreprises doivent impérativement vérifier qu'aucun de leurs systèmes d'IA ne tombe dans les catégories interdites. Un audit interne est recommandé, même pour les systèmes considérés comme à faible risque.

EDPB : avis sur l'utilisation de l'IA dans le secteur financier

Le Comité européen de la protection des données (EDPB) a adopté un avis sur les implications du RGPD pour l'utilisation de l'IA dans les services financiers. L'avis couvre le scoring de crédit automatisé, la détection de fraude et le conseil financier personnalisé. Il rappelle l'obligation de contrôle humain significatif pour les décisions automatisées ayant un impact juridique.

Impact pour les entreprises

Les établissements financiers utilisant l'IA pour le scoring ou la détection de fraude doivent mettre en place des mécanismes de contestation et de contrôle humain conformes à l'article 22 du RGPD.

CNIL : guide pratique sur l'IA générative en entreprise

La CNIL a publié un guide pratique destiné aux DPO et responsables conformité sur le déploiement de l'IA générative en entreprise. Le guide couvre les points clés : information des personnes, gestion des prompts contenant des données personnelles, droit d'opposition et sécurité des données transmises aux modèles.

Impact pour les entreprises

Ce guide constitue un référentiel opérationnel immédiatement applicable. Les entreprises ayant déployé des outils de type ChatGPT ou Copilot doivent vérifier leur conformité aux recommandations de la CNIL.

OpenAI annonce la certification de GPT-5 selon le cadre AI Act

OpenAI a annoncé que GPT-5 sera le premier modèle à obtenir une certification volontaire conforme au cadre de l'AI Act pour les modèles GPAI. L'entreprise publie la documentation technique complète incluant les résultats d'évaluation de risques systémiques et les mesures d'atténuation mises en place.

Impact pour les entreprises

Cette démarche crée un précédent et un standard de marché. Les entreprises clientes d'OpenAI pourront s'appuyer sur cette certification pour leur propre conformité AI Act.

France : nomination du coordinateur national AI Act

La France a désigné la DGCCRF comme autorité nationale de surveillance du marché pour l'AI Act, en coordination avec la CNIL pour les aspects protection des données et l'ANSSI pour la cybersécurité. Le coordinateur national sera chargé de recevoir les plaintes et de superviser la conformité des systèmes d'IA à haut risque sur le territoire français.

Impact pour les entreprises

Les entreprises françaises ont désormais un interlocuteur identifié pour leurs questions de conformité AI Act. Il est recommandé de suivre les futures publications de la DGCCRF sur les modalités de contrôle.

MHAnalyse MH Conseil

Avec les premières interdictions effectives et la structuration de la gouvernance nationale, l'AI Act passe du texte à la réalité opérationnelle. Les entreprises qui n'ont pas encore lancé leur programme de mise en conformité prennent du retard. La priorité immédiate : un inventaire exhaustif de tous les systèmes d'IA en production, suivi d'une classification des risques selon les annexes de l'AI Act.

Cette veille vous interesse ?

Discutons de votre conformite AI Act et de votre strategie IA.

Discutons de votre conformite AI Act