Espagne : l'ia sous le feu croisé – sanctions vertigineuses et surveillance accrue

L'annonce d'un nouveau projet de loi visant à encadrer l'intelligence artificielle en espagne a provoqué une onde de choc parmi les entreprises qui intègrent déjà des systèmes automatisés dans leurs opérations. L'ambition est claire : aligner la réglementation espagnole sur le règlement européen AI Act, mais le prix à payer risque d'être exorbitant.

Des amendes pouvant atteindre 35 millions d'euros – une menace pour la compétitivité

Le texte prévoit des sanctions sévères, allant jusqu'à 35 millions d'euros, voire 7% du chiffre d'affaires annuel mondial de l'entreprise en cas de non-respect. Une somme colossale qui pourrait paralyser les activités de nombreuses sociétés, surtout celles évoluant dans les secteurs de la haute technologie et du marketing digital.

Transparence, supervision humaine et lutte contre les « risques élevés »

Au-delà des amendes, la loi impose des obligations strictes en matière de transparence, exigeant une supervision humaine constante des algorithmes et une identification claire des contenus manipulés. L'utilisation de technologies considérées comme « à haut risque » est limitée, voire interdite. Les pratiques les plus controversées concernent notamment l'utilisation de techniques subliminales, l'exploitation de vulnérabilités liées à l'âge ou à la situation économique, les systèmes de notation sociale, certaines formes d'identification biométrique et, plus alarmante encore, les « deepfakes » sexuels générés par l'IA.

Un recul des investissements et une crainte grandissante

Si le gouvernement justifie ces mesures par l'accélération des outils de manipulation d'images et de vidéos, l'opposition se fait entendre. Les associations de consommateurs et les experts en droits numériques dénoncent l'exclusion des administrations publiques des sanctions financières, laissant présager un manque de contrôle sur l'utilisation de ces technologies par l'État. L'Agence Espagnole de Surveillance de l'Intelligence Artificielle (AESIA) sera le principal acteur de la surveillance, épaulée par l'Agence Espagnole de Protection des Données.

Des deepfakes sexuels : une lutte acharnée

La loi interdit explicitement la création d'images ou de vidéos falsifiées par l'IA, mettant en scène des personnes à caractère sexuel ou générant du contenu sexuellement suggestif sans consentement. Cette mesure est perçue comme une réponse aux proliférations de « revenge porn » sur les réseaux sociaux, où les photos intimes sont de plus en plus facilement diffusées grâce à l'IA.

Étiquetage obligatoire des contenus générés par l'ia

Pour contrer le risque de désinformation, la loi impose aux entreprises de signaler clairement l'origine artificielle des contenus, qu'il s'agisse de deepfakes non sexuels ou de toute autre image, vidéo ou audio modifiée par l'IA. Cela implique un effort de communication important pour les acteurs de la communication, des agences de marketing, des plateformes numériques et des entreprises utilisant la génération d'images par IA.

Le secteur rh sous le feu de l'attention

La loi accorde également une attention particulière aux pratiques internes des entreprises, notamment dans le domaine des ressources humaines. L'utilisation de l'IA pour la sélection de personnel ou l'évaluation des employés est désormais considérée comme une « technologie à haut risque », ce qui implique une supervision humaine obligatoire, une évaluation préalable des risques, une transparence algorithmique et un contrôle des biais discriminatoires. L'emploi de systèmes analysant les expressions faciales ou le ton de la voix pour prendre des décisions de recrutement est désormais interdit.

Conclusion : une régulation nécessaire, mais avec des enjeux majeurs

L'adoption de ce projet de loi marque une étape cruciale dans la régulation de l'IA en espagne. Si l'objectif est louable - garantir un développement responsable et éthique de cette technologie - les sanctions dissuasives pourraient freiner l'innovation et avoir des conséquences imprévisibles sur l'économie. L'AESIA devra jouer un rôle déterminant pour équilibrer les impératifs de sécurité et de protection des droits fondamentaux.