Beinahe immun schweben die meisten IT-Unternehmen durch die momentane Wirtschaftskrise. Ihre Anwendungen sind gefragt. Sie bilden die Infrastruktur und bauen die Instrumente, die wir für die Welt mit und wohl auch nach Corona brauchen. Dementsprechend sprudeln die Umsätze, wirtschaftlich gibt es kaum Probleme, viele schaffen neue Stellen für Entwickler und Co.

Mit der ständig wachsenden Bedeutung der grossen und kleinen IT-Konzerne weltweit und in der Schweiz kommt zögerlich eine Debatte über ihren Einfluss und ethische Regeln, die für IT-Unternehmen gelten sollen, in Gang.

Kann ein Algorithmus beispielsweise so programmiert werden, dass er gerecht ist und einen positiven Einfluss auf die Gesellschaft hat? Soll ein IT-Unternehmen Aufträge grundsätzlich ablehnen, wenn damit Massenüberwachung ermöglicht werden soll? Gibt es einen Bias, dessen sich Entwickler bei der Erstellung eines Tools nicht bewusst sind und der gewisse Kundengruppen von vornherein ausschliesst?

Guidelines für Firmen

Diese komplexen Fragen will sich die Schweizer IT-Branche und der Branchenverband Swico nun strukturiert und regelmässig stellen. In mehreren Handlungsempfehlungen (siehe Box) und ethischen Guidelines sollen sich die Verbandsmitglieder kritisch mit der eigenen Rolle und dem Einfluss auf die Gesellschaft auseinandersetzen.

Firmen sollen ihre Aufträge auf negative Effekte überprüfen.

Angetrieben wird das Projekt von der Nationalrätin und Geschäftsführerin von Swico, Judith Bellaiche: «Die Entwicklung der Digitalisierung in unserer Gesellschaft war in den letzten zehn Jahren so rasant, dass ethische Betrachtungen nicht immer genügend Raum gefunden haben», sagt sie. Das Bedürfnis nach einem öffentlichen Diskurs über digitale Ethik nehme jedoch zu.

Sibylle Peuker, die neben ihrer Tätigkeit als User-Experience-Designerin Dozentin für digitale Ethik an der HWZ Hochschule für Wirtschaft Zürich ist, erklärt die Bedeutung fehlender digitaler Ethik-Algorithmen an einem konkreten Beispiel: «Stellen Sie sich vor, Sie wollen für Ihre chronisch überlastete HR-Abteilung eine Software kaufen, die mithilfe künstlicher Intelligenz aus der Menge von Bewerbern bereits die infrage kommenden raussucht.» Solche «intelligenten» Systeme seien heute aber meist viel dümmer, als der Benutzer annehme.

Ausschnitte aus den Empfehlungen

  • Hat ein Auftrag das Potenzial für negative gesellschaftliche Auswirkungen? Darunter fallen staatliche Massenüberwachung, unverhältnismässige Überwachung von Mitarbeitenden am Arbeitsplatz, fragwürdige kommerzielle Anwendungen an der Gehirn-Computer-Schnittstelle.
  • Hat der Auftrag das Potenzial, Menschen zu diskriminieren? Etwa wegen fehlender Qualität und Integrität beim Erheben, Verarbeiten und Nutzen von Daten. Oder weil das Wissen fehlt, um KI-Anwendungen korrekt zu trainieren und zu überwachen. Oder es mangelt an Bereitschaft, KI-Anwendungen regelmässig auf ihre Wirkung zu überprüfen.
  • Hat der Auftrag das Potenzial für eine bedenkliche KI-Anwendung? Etwa autonome Waffensysteme, unverhältnismässige Bürgerbewertung (Scoring) oder Persönlichkeitsbeurteilung, basierend auf biometrischen Daten, zum Beispiel durch Gesichtserkennung.
  • Hat der Auftrag das Potenzial für ein unethisches Geschäftsmodell? Etwa durch Verschweigen relevanter Informationen, Manipulation bei der Entscheidungsfindung mittels manipulativer Nudges, Täuschung bei der Interaktion (mit einer Maschine statt mit einem Menschen) oder durch den Einsatz stark süchtig machender Praktiken wie zum Beispiel Gamification.
  • Werden neueste Erkenntnisse der Produktentwicklung berücksichtigt? Enthalten Produkte bewusste Verzerrungen und schüren Vorurteile? Werden genügend Menschen mit unterschiedlichen Stärken (Sprache, Bildung usw.), Eigenschaften (Alter, Geschlecht, Nationalität usw.) und psychischen und physischen Beeinträchtigungen (Sehschwäche usw.) in die Produktentwicklung involviert? Wird intern sichergestellt, dass den Produkten keine veralteten wissenschaftlichen Erkenntnisse zugrunde liegen?

Die Hersteller sagen, dass ihre Software ja nur Vorschläge macht und der Mensch immer noch entscheiden könne. Wenn es aber bequem sei oder Zeit spare, würden sich Recruiter immer mehr auf die Maschine verlassen. Die Maschine beeinflusse dadurch die Zusammensetzung einer Firma und damit die Unternehmenskultur. «Aber findet die Maschine tatsächlich die besten Talente? Ein prominentes Beispiel: Selbst Amazon hat es nicht geschafft, seinem Recruiting-System die Benachteiligung von Frauen auszutreiben, und hat es deshalb abgestellt», so Peuker.

Sie ist sicher, dass die Firmen, die derzeit solche Rekrutierungssysteme entwickeln, überhaupt nicht abschätzen können oder wollen, was ihre Systeme in Zukunft für Bewerberinnen und Bewerber, Unternehmenskulturen und die Gesellschaft bedeuten.

 

Inzwischen gebe es Anleitungen im Internet, die zeigen, wie man seine Bewerbung maschinentauglich macht. «Mit einer solchen Art von Gleichmacherei wird es schwierig, die besten Köpfe für die Herausforderungen der Zukunft zu rekrutieren», so Peuker.

Keine Sanktionen

Der Digital Ethics Circle von Swico soll dabei helfen, solche und andere Fallen für IT-Firmen, aber auch für ihre Kundinnen und Kunden zu vermeiden. Er positioniert sich als eine Art Ethik-Aufsichtsgremium für die Schweizer IT-Branche. «Wir haben den Circle so zusammengesetzt, dass die Technologien, aber auch die Unternehmensgrössen möglichst breit vertreten sind», so Bellaiche.

Mehr im Podcast

Mit dem technologischen Fortschritt droht ein gesellschaftlicher Rückschritt, warnt Wissenschaftlerin Sarah Spiekermann im Podcast.

Der Circle habe sich an die Arbeit gemacht und Handlungsempfehlungen zu wichtigen und relevanten Themen erarbeitet. Sie sind als einfach zugängliche Reflexionshilfen für den Alltag gedacht und sollen die Unternehmen sensibilisieren, ihre Angebote mit einer Reihe von Fragen in eine ethische Dimension zu setzen.

Und was passiert, wenn sich ein Mitglied nicht an die Regeln hält? Sind Strafen denkbar? Und würden sich grosse Firmen wie Microsoft, für die die Schweiz einer von vielen Märkten ist, überhaupt dafür interessieren? «Das steht nicht im Vordergrund unserer Bemühungen und hätte zum aktuellen Zeitpunkt auch nicht die erwünschte Wirkung. Unser vorrangiges Ziel ist es, die Industrie zu sensibilisieren und den Diskurs anzustossen», sagt Bellaiche.

Dafür seien geeignete, niederschwellige, aber wirksame Instrumente und Kommunikationskanäle zur Verfügung zu stellen. «Wir müssen uns aber auch bewusst sein, dass Ethik sehr stark mit persönlichen und gesellschaftlichen Werten zusammenhängt. Und diese Werte sind dynamisch, sie können sich von einer Generation zur anderen ändern. Bevor wir an Sanktionssysteme denken, müssen wir einen gesellschaftlichen Wertekonsens anstreben.»

 

Die Podcasts auf HZ

Upbeat: Die Startup-Serie • Schöne neue Arbeitswelt • Insights: Hintergründe und Analysen