Von Yvonne Hofstetter
Jeder von hat diese Fragen schon einmal beantwortet: „Was sind eure Werte? Wie tragen eure Werte zum Erfolg eures Unternehmens bei? Wie haben sich eure Werte inzwischen verändert?“
Werte sind heute schwer angesagt. Ein Wert verkörpert etwas Gutes, etwas Positives. Zu den Werten gehören moralische Werte wie etwa die Nichtdiskriminierung von Menschen oder nicht moralische Werte wie saubere Ozeane und ein gesundes Weltklima.
Auch in der Technik werden Werte heute mehr denn je diskutiert und sind aus ihrem Nischendasein herausgetreten. Dabei ist die Behandlung der Wertefrage in der Technik beileibe keine neue Disziplin. Software- und andere Systemdesigner sollten mindestens von Value-based-Design einmal gehört haben, auch wenn es bei der praktischen Umsetzung häufig an dessen Relevanz mangelte. An der früheren Nonchalance der Programmierer haben unsere demokratischen Gesellschaften heute sehr zu leiden. Social Media erlauben Frontalangriffe auf die Köpfe der Nutzer, und seit dem rasanten Aufstieg von künstlicher Intelligenz (KI) kann niemand mehr über die digitalen Technikfolgen unserer Zeit hinwegsehen.
Der Wunsch nach ethischer KI ist weltumspannend
Seit 2016 haben sich Hunderte multinationale Organisationen, Regierungen, NGOs oder Unternehmen zu KI geäußert. Auch die Zahl der Dokumente zu ethischer KI ist dreistellig.
„Seit 2015 gibt es Initiativen ethischer KI“, stellt Professorin Sarah Spiekermann von der Wirtschaftsuniversität Wien fest. „Sie machen alle dasselbe. Sie schreiben irgendwelche Wertprinzipien kontextfrei hin und sagen dann: Die sind uns wichtig.“
Tatsächlich bleibt festzustellen, dass Hunderte von Papieren zu ethischer künstlicher Intelligenz gegen dieselben Forderungen konvergieren. Stellvertretend für viele forderte die High-Level Expert Group on Artificial Intelligence (AI HLEG) 2019 sieben Eigenschaften von KI-Systemen: Menschlicher Aufsicht unterstellt, technisch robust und sicher, auf Datenschutz achtend, transparent, nicht diskriminierend, sozial und umweltverträglich und pflichtgemäß. Da bleiben viele Fragen offen. Nicht nur, dass die oft von Regierungen eingesetzten Ethikgremien mit Unternehmensvertretern, aber kaum mit Philosophen und Ethikern besetzt sind, wenn es um ethische KI geht, wird auf der Flughöhe der Ethikkommissionen nicht trennscharf zwischen Systemfunktionalität und Werten unterschieden. Die Folge: ein buntes Durcheinander von Forderungen, das jeder Systematik entbehrt.
„Datenschutz, Transparenz – das sind ja Hygienefaktoren. Wenn ich einen Roboter baue, ist eigentlich selbstverständlich, dass er sicher sein soll. Eine autonome Drohne soll verlässlich sein. Das sind für mich Standard- und Hygienewerte. Ich brauche keinen Ethikstandard, nur um feststellen, dass Standard- und Hygienewerte wichtig sind“, kommentiert Prof. Spiekermann die Qualität vieler Initiativen.
Der Neue Standard IEEE 7000TM etabliert einen Wertezentrischen Designprozess
Hier stellt der neue IEEE 7000TM Standard für wertebasiertes Design andere Ansprüche. Im September 2021 in Kraft getreten, implementiert er einen Prozess für wertebasiertes Systemdesign. Dabei ist an IEEE 7000TM tatsächlich einiges neu, etwa der Anspruch, zusammen zu bringen, was nicht natürlich zusammengehörig erscheint:
„Bei IEEE 7000TM geht um Value-based-Engineering und um die Schaffung einer guten, schönen Welt, also um die Rehabilitation des Guten, des Wahren und des Schönen in der Welt, die unter anderem durch Technik gefördert werden kann“, erklärt Prof. Spiekermann, die dem Standardisierungsgremium in ihrer Rolle als Co-Chair vorstand. „Und es geht um die Frage: Wie können wir Technik für das Gute in der Welt fruchtbar machen?“
Dieser Trias, einem Leitbild westlichen Denkens, das schon bei Sokrates auftritt, soll technologische Entwicklung dienstbar gemacht werden, wofür ein neues Berufsbild sorgen soll: der Value Lead. Im Prozess für wertebasiertes Design spielt der Value Lead eine entscheidenden Rolle.
„Als Value Lead am besten geeignet sind Menschen, die Ethik oder Philosophie studiert haben – vielleicht auch Literaturwissenschaftler oder Juristen –, die aber gleichzeitig ein gewisses technisches Verständnis mitbringen“, motiviert Prof. Spiekermann das neue Berufsbild des Value Lead. Und sie erklärt auch, warum man auf eine geisteswissenschaftliche (Aus-) Bildung nicht verzichten kann. IEEE 7000TM fordert nämlich, dass der Value Lead Werte strukturiert und im Lichte dreier Ethiktheorien explorieren muss, bevor sie priorisiert und in System Features übersetzt werden. Utilitarismus, Tugendethik und Pflichtethik gehen für den Standard Hand in Hand.
„Diskursethik, Value-sensitive-Design… jeder formuliert Statements oder klebt Haftnotizen an die Wand. Vielleicht werden die Notizen noch mit einem Ethik-Canvas strukturiert – alles nett, aber alles Kinderkram.“
IEEE 7000TM Pioniere treffen sich in Wien
Diesen Prozess will IEEE 7000TM professionalisieren, und so bietet Prof. Spiekermann im Februar 2022 erstmals eine Ausbildung zum Value Lead an. Die erste Trainingseinheit des Pioneer Training: Value-based Engineering with IEEE 7000TM findet vom 16.-18. Februar in Wien statt. Die Gruppe der Pioneers ist dabei mit erfahrenen Produkt- und Projektmanagern von AWS, DATEV, Siemens und HPI besetzt. 21strategies entsendet Prof. Hofstetter, die IEEE 7000TM auch im Rahmen einer aktuellen Forschungsfrage beurteilen wird. Mit dem Anspruch, ein klassisches Ideal zu stimulieren, ist IEEE 7000TM mitunter nicht für KI-Systeme der nationalen Sicherheit anwendbar. Doch ausgerechnet dort besteht der größte Bedarf an ethischer KI.
„Beim Verfassen des Standards und mit Blick auf seine DNA war das einzige, das ich wirklich überhaupt nicht im Kopf hatte, dass nämlich Organisationen der nationalen Sicherheit auf IEEE 7000TM zurückgreifen könnten“, räumt Prof. Spiekermann ein.
Doch Agenturen der nationalen Sicherheit fordern von der Industrie, dass die Verteidigung „intelligenter“ werden müsse, und drängen auf verstärkte Einbindung von KI. So wird auch die Frage nach der Anwendbarkeit des Standards immer drängender. Ob letztlich im globalem Kontext durchsetzbar ist, dass sich demokratisch legitimierte Staaten an Werte halten, die andere Nationen nicht teilen, ist keine Aufgabe für Systemingenieure, sondern für die Politik. Dass ein Standard wie IEEE 7000TM heute global etabliert wird, ist allerdings richtungsweisend, seit Standards immer häufiger von den neuen Spielern einer multipolaren Weltordnung gesetzt werden.
