Fake or Not: Feinheit vuole sensibilizzare i politici sull'uso dell'IA
Oggi le foto di Google Search possono essere utilizzate per generare automaticamente nuove immagini false in pochi secondi. Con un esperimento di AI, Feinheit vuole sensibilizzare l'opinione pubblica sul rischio di campagne politiche negative. Insieme ad AlgorithmWatch CH, l'agenzia si rivolge ai partiti.
L'intelligenza artificiale (AI) o l'apprendimento automatico stanno facendo rapidi progressi: Oggi è possibile generare immagini fotorealistiche in pochi secondi, ad esempio di noti politici svizzeri.
Per chiarire quanto queste immagini siano ingannevolmente reali, Feinheit ha lanciato l'esperimento di intelligenza artificiale "Fake or Not". Ha affidato a un generatore di intelligenza artificiale il compito di creare ritratti dei 46 membri del Consiglio degli Stati. La base di partenza sono le foto dei politici provenienti dalle ricerche su Google, che il generatore estrae. Tutto è completamente automatizzato. Sul Pagina "Fake or Not" da Feinheit Si possono confrontare le immagini reali e quelle generate. Il risultato è sorprendente e, con un intervento umano minimo, i risultati sarebbero ancora più sorprendenti.
L'idea alla base: Illuminazione
Con questo esperimento, Feinheit vuole far capire quanto velocemente si possano creare oggi grandi quantità di immagini fotorealistiche e di alta qualità. Chiunque abbia accesso a Internet può farlo. Perché ora non è necessario conoscere programmi di editing di immagini o investire molto tempo.
Moritz Zumbühl, presidente del Consiglio di amministrazione di Feinheit, sottolinea: "L'IA porta con sé fantastiche opportunità che ci entusiasmano. Ma vediamo anche i grandi rischi, soprattutto quando l'apprendimento automatico viene utilizzato per campagne politiche negative". Ad esempio, l'agenzia ha recentemente pubblicato nel SRF Kulturplatz dimostracome l'apprendimento automatico possa essere utilizzato, ad esempio, per mostrare un leader di partito in rivolta.
Invito alle parti
È possibile produrre rapidamente immagini false di politici e scrivere rapidamente testi generati dall'intelligenza artificiale. Se questi vengono diffusi strategicamente in campagna elettorale per danneggiare le persone, possono influenzare il dibattito pubblico e la formazione delle opinioni. Angela Müller, responsabile di AlgorithmWatch CH, afferma: "Non si tratta di vietare l'IA. Ma abbiamo bisogno di regole legali chiare sulle condizioni in cui i sistemi di IA possono essere sviluppati e utilizzati".
Tuttavia, tali regole non saranno in vigore fino alle elezioni nazionali dell'autunno. Per questo motivo Feinheit e AlgorithmWatch CH chiedono ai partiti svizzeri di creare trasparenza nella campagna elettorale e, in particolare, di non utilizzare l'intelligenza artificiale per campagne negative.
