Fake or Not : La finesse veut sensibiliser les politiques à l'utilisation de l'IA
Il est aujourd'hui possible de générer automatiquement de nouvelles fausses images en quelques secondes à partir de photos issues de la recherche Google. Avec une expérience d'IA, Feinheit veut informer sur les risques du negative campaigning politique. Et en collaboration avec AlgorithmWatch CH, l'agence lance un appel aux partis.
L'intelligence artificielle (IA) ou l'apprentissage automatique fait des progrès fulgurants : Il est désormais possible de générer en quelques secondes des images photoréalistes - par exemple de politiciens suisses connus.
Afin de montrer clairement à quel point ces images sont trompeuses, Feinheit a lancé l'expérience d'IA "Fake or Not". Elle demande à un générateur d'IA de créer des portraits des 46 conseillers et conseillères aux États. Pour ce faire, le générateur se base sur les photos des hommes et femmes politiques issues de la recherche Google. Tout se déroule de manière entièrement automatisée. Sur la page Page "Fake or Not" de Feinheit permet de comparer les images réelles et générées. Le résultat est stupéfiant - et avec une intervention humaine minimale, les résultats seraient encore plus frappants.
L'idée est la suivante : Reconnaissance
Avec cette expérience, Feinheit veut sensibiliser à la rapidité avec laquelle il est possible aujourd'hui de créer des images photoréalistes en grande quantité, qui sont en outre de haute qualité. Toute personne disposant d'un accès à Internet peut le faire. Car désormais, il n'est plus nécessaire de connaître les programmes de traitement d'images ni d'investir beaucoup de temps.
Le président du conseil d'administration de Feinheit, Moritz Zumbühl, souligne : "L'IA apporte des opportunités tout à fait fantastiques, dont nous sommes enthousiastes. Mais nous voyons aussi les grands risques, notamment lorsque le Machine Learning est utilisé pour le Negative Campaigning politique". Ainsi, l'agence a récemment publié dans le SRF Kulturplatz manifesteLe projet a pour but de montrer comment le Machine Learning peut, par exemple, montrer un président de parti en train de se déchaîner.
Invitation aux parties
Les fausses images de politiciens sont donc vite produites et les textes générés par l'IA sont vite écrits. Si ces derniers sont diffusés de manière stratégique pendant la campagne électorale dans le but de nuire à des personnes, cela peut nuire au débat public et à la formation de l'opinion. Angela Müller, directrice d'AlgorithmWatch CH, déclare : "Il ne s'agit pas d'interdire l'IA. Mais nous avons besoin de règles du jeu légales claires sur les conditions dans lesquelles les systèmes d'IA peuvent être développés et utilisés".
Mais de telles règles n'existeront pas encore jusqu'aux élections nationales de cet automne. C'est pourquoi Feinheit et AlgorithmWatch CH demandent aux partis suisses de faire preuve de transparence dans la campagne électorale - et en particulier de ne pas utiliser l'intelligence artificielle pour des campagnes négatives.
