SACRAMENTO, Calif. (AP) — Le gouverneur de la Californie, Gavin Newsom, a signé trois lois mardi pour lutter contre l'utilisation de l'intelligence artificielle pour créer de fausses images ou vidéos dans les publicités politiques avant les élections de 2024.
Une nouvelle loi, entrant en vigueur immédiatement, rend illégal de créer et de publier des deepfakes liés aux élections 120 jours avant le jour des élections et 60 jours après. Elle permet également aux tribunaux d'arrêter la distribution des matériaux et d'imposer des sanctions civiles.
“Sauvegarder l'intégrité des élections est essentiel pour la démocratie, et il est crucial que nous veillions à ce que l'IA ne soit pas déployée pour saper la confiance du public à travers la désinformation - surtout dans le climat politique actuel tendu,” a déclaré Newsom dans un communiqué. “Ces mesures contribueront à lutter contre l'utilisation nocive des deepfakes dans les publicités politiques et autres contenus, l'un des plusieurs domaines dans lesquels l'État fait preuve de proactivité pour favoriser une IA transparente et digne de confiance.”
Les grandes plateformes de médias sociaux sont également tenues de supprimer le matériel trompeur en vertu d'une loi inédite qui sera promulguée l'année prochaine. Newsom a également signé une loi obligeant les campagnes politiques à divulguer publiquement si elles diffusent des publicités avec des contenus modifiés par l'IA.
Le gouverneur a signé les lois sous les applaudissements lors d'une conversation avec le PDG de Salesforce, Marc Benioff, lors d'un événement organisé par la grande entreprise de logiciels lors de sa conférence annuelle à San Francisco.
Les nouvelles lois confirment la position de la Californie en tant que leader dans la régulation de l'IA aux États-Unis, notamment dans la lutte contre les deepfakes électoraux. L'État a été le premier aux États-Unis à interdire les vidéos et images manipulées liées aux élections en 2019. Les mesures en technologie et en IA proposées par les législateurs de Californie ont été utilisées comme modèles pour les législateurs à travers le pays, ont déclaré des experts de l'industrie.
Avec l'IA renforçant la menace de désinformation électorale dans le monde entier, les législateurs à travers le pays ont cherché à aborder le problème par crainte que les matériaux manipulés puissent éroder la confiance du public en ce qu'ils voient et entendent.
“A moins de 50 jours avant les élections générales, il est urgent de se protéger contre le contenu trompeur et modifié numériquement qui peut interférer avec l'élection,” a déclaré l'assembléiste Gail Pellerin, auteur de la loi interdisant les deepfakes électoraux, dans un communiqué. “La Californie prend position contre l'utilisation manipulatrice de la technologie deepfake pour tromper les électeurs.”
La décision de Newsom fait suite à sa promesse en juillet de lutter contre les deepfakes électoraux en réponse à une vidéo postée par le propriétaire de X, Elon Musk, présentant des images altérées de la vice-présidente et candidate démocrate à la présidence, Kamala Harris.
Les nouvelles lois californiennes interviennent le même jour où des membres du Congrès ont dévoilé une législation fédérale visant à stopper les deepfakes électoraux. Le projet de loi donnerait à la Commission électorale fédérale le pouvoir de réglementer l'utilisation de l'IA dans les élections de la même manière qu'elle a réglementé d'autres types de représentations politiques trompeuses depuis des décennies. La FEC a commencé à envisager de telles réglementations après avoir interdit les appels automatisés générés par l'IA visant à décourager les électeurs en février.
Newsom a présenté la Californie comme un pionnier mais aussi un régulateur de l'IA, affirmant que l'État pourrait bientôt déployer des outils d'IA générative pour résoudre les problèmes de congestion routière et fournir des conseils fiscaux, même si son administration envisage de nouvelles règles contre la discrimination par l'IA dans les pratiques de recrutement.
Il a également signé deux autres lois mardi pour protéger les artistes hollywoodiens de l'utilisation non autorisée de l'IA sans leur consentement.
