Einsatz Künstlicher Intelligenz muss überprüfbar sein

Künstliche Intelligenz ist ein wichtiger Treiber des digitalen Wandels und wird in immer mehr Bereichen genutzt. «Bürger, Konsumenten und Arbeitnehmende sollen im Umgang mit Staat, Unternehmen oder ihrem Arbeitgeber so transparent wie möglich über den Einsatz von KI informiert sein», heisst es in der am Mittwoch veröffentlichten Studie.

So solle etwa der Einsatz von KI-Systemen deutlich und auf einfache Weise kenntlich gemacht werden, damit Betroffene wissen, dass die Interaktion mit einem KI-¬System und nicht mit einem Menschen stattfinden.

Menschliche Prüfung nötig

Auch sollten wichtige Entscheidungen, die Personen betreffen, nicht ohne Abwägungen der Vor¬- und Nachteile einem KI-System überlassen werden, schreiben die Autoren. Wenn es um personenbezogene Fragen gehe, müsse in der Regel das Ergebnis des Systems durch einen Menschen nachgeprüft und begründet werden.

Viele KI-Systeme sind, im Gegensatz zu herkömmlichen Computern, in der Lage, dank einem Training an grossen Datensätzen versteckte Regelmässigkeiten zu erkennen und Lösungen vorzuschlagen. Fortgeschrittene KI-Systeme können auch Tätigkeiten verrichten, für die zurzeit gut ausgebildete Berufsleute zuständig sind. Im Einsatz ist KI etwa in der Medizin bei der Beurteilung von Ultraschall-, Magnetresonanz- oder Röntgenbildern.

Aufgrund des breiten Anwendungsfeldes könnten Chancen und Risiken der KI nicht generell beurteilt werden, so die Autoren. Ein allgemeines «KI-Gesetz» sei deshalb nicht zielführend. Stattdessen sollten durch KI verursachte Probleme und Fehlentwicklungen in bestehenden Gesetzen oder Verordnungen oder allenfalls mit freiwilligen Massnahmen geregelt werden.

Die Studie untersucht den Einsatz von KI beim Einkaufen, in den klassischen und neuen Medien, in der Arbeitswelt, in Bildung und Forschung sowie bei Behörden.

Anforderungen an staatliche Stellen

Besondere Anforderungen stelle der Einsatz von KI an staatliche Akteure. Allerdings nutzten staatliche Stellen in der Schweiz KI zurzeit noch eher selten. Sie haben sicherzustellen, dass die Grundrechte der Bürgerinnen und Bürger nicht verletzt werden.

So darf KI laut der Studie in Verwaltung und Rechtsprechung nur nach klaren Kriterien einsetzt werden. Die Verwaltung müsse ausserdem gewährleisten, dass die Daten, die den KI-Systemen als Grundlage dienen, korrekt und vollständig sind.

Mit Blick auf die Arbeitswelt sehen die Autoren im Einsatz von KI auch eine Chance: Dank Effizienzsteigerungen könne KI dazu beitragen, die persönliche Arbeitszeit zu reduzieren. Um das zu ermöglichen und befürchtete Arbeitsplatzverluste oder soziale Verwerfungen zu vermeiden, müssten Aus- und Weiterbildung in KI gefördert werden.

Ethische Standards

In der Bildung kann KI eingesetzt werden, um die Fähigkeiten von Lernenden zu analysieren und Bildungsoptionen vorzuschlagen. «Dabei werden grosse Mengen an Daten über die Betroffenen gesammelt und generiert», schreiben die Autoren. «Bildungseinrichtungen müssen also sicherstellen, dass Schülerinnen und Studenten dadurch später keine Nachteile entstehen.»

Das Vermitteln von Wissen über künstliche Intelligenz ist für die Autoren ein weiterer Aspekt. So sollen Hochschulen abklären, wie das Verständnis der Fähigkeiten, aber auch der Grenzen von KI-Systemen gefördert werden kann. Aufgabe von Hochschulen sollte es auch sein, ethische Standards für die Erforschung und Nutzung von KI zu entwickeln.

Schwierige Balance

Wer im Internet Waren bestellt, kommt zwangsläufig mit KI in Kontakt. Der personalisierte Einkauf sei selbstverständlich geworden, die informationstechnischen Prozesse wirkten im Hintergrund und würden bisher kaum hinterfragt, so die Autoren.

Dass unter den Nutzern das Bewusstsein für den Wert der eigenen Daten zunimmt, ist aus Sicht der im Rahmen der Studie befragten Fachleute ein vordringliches Anliegen. Für Unternehmen sei es allerdings schwierig, Personalisierung und Datenschutz miteinander in Einklang zu bringen.

Offene Daten und Kontrollmöglichkeiten für Kunden, transparentes Offenlegen des KI-Einsatzes sowie das Recht auf Datenlöschung würden von den befragten Fachpersonen als aussichtsreiche Massnahmen gesehen, um das Kundenvertrauen zu fördern.

Bund soll für Falschmeldungen sensibilisieren

Algorithmen und Künstliche Intelligenz bestimmen auch zunehmend mit, welche Meldungen und Inhalte Nutzer von Medien-Plattformen angezeigt erhalten. Die Plattformbetreiber sind laut Studie aufgefordert, deutlich zu machen, welche Meldungen aufgrund des Einsatzes von KI-Systemen gezeigt werden.

Für Falschmeldungen, die unter Zuhilfenahme von KI erstellt werden, solle der Bund sensibilisieren. Zugleich müssten die Sicherheitsbehörden – unter parlamentarischer Kontrolle – dazu in der Lage sein, mit Falschmeldungen operierende politische Kampagnen zu erkennen und die Bevölkerung darüber zu informieren.

Durchgeführt wurde die Studie von Forschenden der Digital Society Initiative der Universität Zürich, der Abteilung Technologie und Gesellschaft der Empa (Eidgenössische Materialprüfungs- und Forschungsanstalt) und dem Institut für Technikfolgen-Abschätzungen der Österreichischen Akademie der Wissenschaften. Die Stiftung TA-Swiss schätzt Technologiefolgen ab und liefert die Grundlagen, um Chancen und Risiken umfassend abzuwägen. (SDA)