Von unbedenklich bis gefährlich: Organisation legt Einsatzgebiete von KI im Schweizer Alltag offen

• AlgorithmWatch veröffentlicht Online-Datenbank "Atlas der Automatisierung"
• Zahlreiche KI-Systeme mit Einfluss auf Menschen in der Schweiz im Einsatz
• Einsatz von KIs und Algorithmen bislang intransparent

Künstliche Intelligenz (KI) ist das aktuelle Trendthema, das momentan in aller Munde ist. Auch die Politik befasst sich intensiv mit der neuen Technologie. Während das EU-Parlament schärfere Regeln für KIs plant und an einem entsprechenden Gesetz arbeitet, steckt der Bund laut "Computerworld" schon seit längerem erhebliche Investitionen in den KI-Bereich - und plant dies auch für die Zukunft. So hat der Bundesrat laut der Nachrichtenseite angekündigt, in den nächsten zehn Jahren mehr als eine Milliarde Schweizer Franken in die Förderung von KI-Technologien zu investieren, und der Schweizer Nationalfonds hat mehrere Forschungsprogramme gestartet, die sich auf KI und Maschinelles Lernen konzentrieren.

Auch zahlreiche Schweizer Firmen wenden die Technologie bereits an. Bei ABB kommt KI beispielsweise unter anderem in der Qualitätskontrolle und der Optimierung von Produktionsprozessen zum Einsatz. Die SBB setzen laut "Computerworld" bei der Optimierung des Zugbetriebs auf KI und erhoffen sich von deren Fahrplanoptimierungen eine höhere Pünktlichkeit der Züge. Doch auch im Schweizer Alltag ist Künstliche Intelligenz schon längst angekommen - allerdings in vielen Fällen unbemerkt. Die gemeinnützige Organisation AlgorithmWatch hat daher nun die Online-Datenbank "Atlas der Automatisierung" ins Leben gerufen, in der die vielfältigen Anwendungen von KI in der Schweiz aufgelistet sind und die dadurch für mehr Transparenz sorgen soll.

Bereits 100 KI-Systeme in der Schweiz im Alltags-Einsatz

Bislang sind im "Atlas der Automatisierung" für die Schweiz 100 KI-Systeme aufgelistet, die entweder von staatlichen Stellen oder privaten Anbietern eingesetzt werden. Die Liste soll laut Angaben auf der Webseite der Organisation jedoch kontinuierlich gepflegt und erweitert werden. Berücksichtigt würden dabei jedoch nur "jene algorithmischen Systeme, die verwendet werden, um Entscheidungen über Menschen zu teil- oder vollautomatisieren. 'KI'-Systeme, die Lieferbänder in Fabriken steuern, Wettervorhersagen machen oder in der Forschung eingesetzt werden, sind somit nicht im Atlas enthalten".

Beispiele für solche KI-Systeme, die benutzt werden "um Entscheidungen vorherzusagen, zu empfehlen oder zu treffen, oder um Inhalte zu generieren, die Auswirkungen auf Menschen haben" sind laut Webseite etwa der Algorithmus "Bandlimat", der am Bundesverwaltungsgericht in St. Gallen über die Zuweisung von Richtern zu Fällen entscheidet und so eine neutrale und unvoreingenommen Auswahl sicherstellen soll, aber auch die unter anderem von Tamedia entwickelte Software TOBI, die Artikel auf Deutsch und Französisch produzieren kann. Des Weiteren enthält die Liste unter anderem auch ein KI-System der Lufthansa-Tochter SWISS, das die Passagiere eines Fluges beim Boarding zählt, den Chatbot Sophia, an den sich Opfer häuslicher Gewalt wenden können, die KI-Moderatorin Jade, die beim Westschweizer Privatsender M Le Média für die Ansage beim Wetterbericht eingesetzt wird oder das KI-Tool Legal Swiss Roberta, das Gerichtsurteile des Bundesgerichts vor Veröffentlichung anonymisiert.

Während Beispiele wie die oben genannten wohl als recht unbedenklich kategorisiert werden dürfen - und es sich in einigen Fällen auch nicht um eine echte "KI" sondern einen eher banalen Algorithmus mit festen Regeln handeln dürfte - gibt es doch im "Atlas der Automatisierung" auch einige Anwendungsfälle, bei denen wohl Diskussionsbedarf besteht. So setzt etwa die Kantonspolizei Aargau in einer Testphase das Gesichtserkennungs-System "Anyvision" zur Kriminalitätsprävention ein, das Hinweise auf eine möglicherweise bevorstehende Straftat generiert, und auch das Bundesamt für Polizei will ab 2026 das Fingerabdruckidentifikationssystems AFIS um ein Modul zur Gesichtserkennung erweitern. Dieses soll Bilder aus der Polizeidatenbank von Verdächtigen und Asylbewerbern enthalten. Das Thema der Gesichtserkennung wird auch im Rahmen des geplanten EU-Gesetzes zur Regulierung von KI debattiert. Die Parlamentarier streben hier laut awp international ein komplettes Verbot von Gesichtserkennung in Echtzeit im öffentlichen Raum an. Auch das System DyRiAS, das das Verhalten von Personen im Hinblick auf das von ihnen ausgehende Risiko bewertet, eine schwere Gewalttat an Schule oder Arbeitsplatz zu begehen, dürfte Kontroversen hervorrufen. Die Risikoanalyse von DyRiAS wird laut "Atlas der Automatisierung" anhand von 32 Ja-Nein-Fragen vorgenommen, die vom jeweiligen Anwender, etwa der Polizei, beantwortet werden. Auch einem solchen System, das der vorausschauenden Polizeiarbeit zugeordnet werden kann, droht laut awp international ein Verbot in der EU.

"Atlas der Automatisierung" soll Denkanstoss geben

"Algorithmische Systeme haben natürlich das Potenzial, unsere Effizienz und Produktivität zu steigern. Doch sie können auch zu Diskriminierung führen, die öffentliche Meinungsbildung beeinflussen und bestehende Ungerechtigkeiten verstärken. Und das alles, ohne dass wir uns dessen wirklich bewusst sind", wird Angela Müller, Leiterin von AlgorithmWatch CH, auf der Webseite der Organisation zitiert. Der öffentlich zugängliche "Atlas der Automatisierung" soll daher nicht nur die grosse Bandbreite von KI-Anwendungen aufzeigen, sondern auch einen Anstoss für Diskussionen geben. "Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen - doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden", ergänzt Tobias Urech, Campaigner bei AlgorithmWatch CH und zuständig für das Projekt. Betroffene bräuchten jedoch Transparenz, um sich zur Wehr setzen zu können. Genau diese wolle der "Atlas der Automatisierung" fördern und somit einen ersten Schritt hin zu einem verantwortungsvollen Einsatz von Algorithmen und KI gehen.

Redaktion finanzen.ch