Fake or Not: Feinheit will die Politik für den Umgang mit KI sensibilisieren
Mit Fotos aus der Google-Suche lassen sich heute in Sekundenschnelle automatisiert neue Fake-Bilder generieren. Mit einem KI-Experiment will Feinheit über das Risiko von politischem Negative Campaigning aufklären. Und gemeinsam mit AlgorithmWatch CH appelliert die Agentur an die Parteien.
Künstliche Intelligenz (KI) oder Machine Learning macht gerade rasante Fortschritte: Mittlerweile lassen sich innert Sekunden fotorealistische Bilder generieren – etwa von bekannten Schweizer Politiker:innen.
Um deutlich zu machen, wie täuschend echt diese Bilder sind, hat Feinheit das KI-Experiment «Fake or Not» ins Leben gerufen. Dabei gibt sie einem KI-Generator den Auftrag, Porträtbilder der 46 Ständerätinnen und Ständeräte zu erstellen. Grundlage dafür sind Fotos der Politiker:innen aus der Google-Suche, die der Generator absaugt. Alles läuft komplett automatisiert ab. Auf der «Fake or Not»-Seite von Feinheit lassen sich echte und generierte Bilder vergleichen. Das Ergebnis ist verblüffend – und mit minimalen menschlichen Eingriffen wären die Ergebnisse noch frappanter.
Der Gedanke dahinter: Aufklärung
Mit dem Experiment will Feinheit dafür sensibilisieren, wie schnell sich heute fotorealistische Bilder in grosser Menge erstellen lassen, die zudem noch hoch qualitativ sind. Tun können dies alle Personen mit einem Internetzugang. Denn neu müsse man sich weder mit Bildbearbeitungsprogrammen auskennen noch viel Zeit investieren.
Feinheit-Verwaltungsratspräsident Moritz Zumbühl betont: «KI bringt ganz fantastische Chancen mit sich, von denen wir begeistert sind. Aber wir sehen auch die grossen Risiken, gerade wenn Machine Learning für politisches Negative Campaigning eingesetzt wird.» So hat die Agentur vor kurzem im SRF Kulturplatz demonstriert, wie mit Machine Learning zum Beispiel ein Parteipräsident beim Randalieren gezeigt werden kann.
Aufforderung an die Parteien
Verfängliche Fake-Bilder von Politiker:innen sind also schnell produziert, KI-generierte Texte rasch geschrieben. Wenn diese im Wahlkampf strategisch verbreitet werden, um Menschen zu schaden, kann dies die öffentliche Debatte und Meinungsbildung beeinträchtigen. Angela Müller, Leiterin von AlgorithmWatch CH, sagt: «Es geht nicht darum, KI zu verbieten. Aber wir brauchen klare gesetzliche Spielregeln, unter welchen Bedingungen KI-Systeme entwickelt und eingesetzt werden dürfen.»
Bis zu den nationalen Wahlen im Herbst wird es aber noch keine solchen Regeln geben. Deshalb fordern Feinheit und AlgorithmWatch CH die Schweizer Parteien auf, im Wahlkampf Transparenz zu schaffen – und insbesondere keine künstliche Intelligenz für Negativ-Kampagnen einzusetzen.
