IEEE 7000TM Compliance: 21strategies wählt erstes KI-Vorhaben für wertebasiertes Engineering aus

Von Yvonne Hofstetter

Photo: Yvonne Hofstetter (private)

Alles ist Software, oder wie Marc Andreessen schon 2011 schrieb: „Software is eating the world.“ Das ist nicht nur eine gute Sache. Zwar sind wir mit Software weit gekommen, aber wir haben uns auch eine Menge Probleme eingehandelt. Full Stack Developer kennen ihre Toolbox, wissen aber fast nichts über die Domänen, für die sie Software entwickeln. Start-ups stellen neue digitale Angebote zur Verfügung, die oft nur aus den Tools anderer Anbieter zusammengesteckt sind – ein typisches Phänomen der Digitalisierung übrigens, die aus Daten noch mehr Daten generiert und digitale Geschäftsmodelle übereinander stapelt. Unsere Erwartung an Software ist überspannt, wenn sie Handwarefehler in missionskritischen Systemen softwareseitig ausgleichen soll und das aber nicht gelingt, wie es von einem amerikanischen Flugzeughersteller bekannt wurde. Und nicht zuletzt fügen weltumspannende digitale Plattformen der Demokratie und der Rechtsstaatlichkeit großen Schaden zu – der sich jetzt, im Nachhinein, nicht leicht beseitigen und in der Zukunft verhindern lässt. Qualität lässt sich nicht in Software hineintesten. Qualität muss einer Software inhärent sein. Sie muss ausdrücklich engineered werden.

So wenig, wie Qualität in Software hinein getestet werden kann, so wenig kann der Gesetzgeber rechtliche, soziale oder ethische Compliance in Software hinein regulieren. Ist es ein Wert, dass Passagiere eines Fluges ihr Reiseziel unversehrt erreichen? Ist es ein Wert, dass Teenager psychisch gesund bleiben, wenn sie Videos und Bilder von Influencern sehen? Ist die Wahrheit ein Wert, den soziale Netzwerke verletzen? Werte in der Digitalisierung, das ist mehr als nur Sicherheit und Datenschutz. Werte, Wertqualitäten und Wertdispositionen, darunter Vernunft, Gesundheit, Demut, Respekt und viele, viele mehr müssen schon im Designprozess einer Software berücksichtigt werden. Für ein solches Value-by-Design bietet der neue IEEE 7000TM Standard sowohl einen strukturierten Prozess an als auch eine Beschreibung, zu welchen Outcomes die einzelnen Prozessschritte führen müssen.

Werte auf der Basis unterschiedlicher Ethiktheorien zu erheben und auszuformulieren, war eine Aufgabe der IEEE 7000TM Pioniere, die sich vom 16.-18. Februar 2022 in Wien zum dreitägigen Training trafen. Als Fallbeispiel – in der Systematik des IEEE-Standards das „System of Interest“ – diente die Lehrerbewertungsapp „Lernsieg“ aus Österreich, für die es nicht nur Klagen aus Lehrerschaft und Gewerkschaft hagelte, sondern zuletzt auch ein Verbot durch das Oberlandesgericht Wien wegen ihres Missbrauchspotenzials zur Qualität des Schülerfeedbacks. Die Frage war: Wäre ein solches Desaster vermeidbar gewesen, wenn Lernsieg wertebasiertes Engineering betrieben hätte?

Beim Training wurde klar: Im Vorteil ist, wer Philosophie und Technologie zum neuen Berufsbild des Value Lead im Softwareentwicklungsprozess integrieren kann. Philosophen, Literaturwissenschaftler, aber auch Juristen mit technischem Gespür seien geeignete Kandidaten, um das neue Berufsbild des Value Lead zu besetzen, so die Co-Chair des Standardisierungsgremiums, Prof. Sarah Spiekermann von der Wirtschaftsuniversität Wien. Sprachliche Ausdrucksfähigkeit sei eine Schlüsselfertigkeit, darunter auch die Kenntnis philosophischen Vokabulars, um präzise zu formulieren, welche Werte in mehreren Schritten in technische Softwarefunktionalitäten übersetzt werden müssten.

In einem Stakeholderprozess werden Werte im Lichte dreier Ethiktheorien erhoben. Der Value Lead moderiert den Prozess und führt die Stakeholder durch die drei Theorien. „Dafür muss der Value Lead ausgebildet sein, weshalb soll zur Ausbildung des Value Lead auch ein Retreat gehört, in dem es um Philosophie geht“, erklärt Prof. Spiekermann. Liegen die Werte schließlich auf dem Tisch, ist Aufgabe des Value Lead, sie zu konsolidieren und mit der aktuellen Rechtslage abzugleichen. „Der Value Lead muss immer auf dem neuesten Stand sein, was die aktuelle und geplante Regulierung digitaler Angebote betrifft“, betont Spiekermann. Erst dann werden Wertecluster den Stakeholdern erneut vorgelegt, um sie zu priorisieren. Bemerkenswert: Bei der Priorisierung steht an erster Stelle die Mission eines Unternehmens. Ein wichtiges Takeaway – wertebasiertes Design ist mitnichten kontextfrei, sondern immer bezogen auf ein definiertes System, dessen Zulieferer, seinen operativen Kontext und die Mission des Unternehmen. Damit können aus ein und derselben Technologie völlig unterschiedliche Wertesichten hervorgehen.

Wie aus Werten Werteanforderungen und daraus System Features werden, die von Softwareingenieuren im agilen Entwicklungsprozess etwa als Epic oder Story implementiert werden können, war Thema des dritten Tages. Wie sich zeigte, sind die Fähigkeit zum strategischen Produktmanagement und ein gutes Verständnis für Technologie für einen Value Lead von großem Vorteil. Vorausschauend betrachteten die Pioniere die Frage der KI, die absehbar durch das Regulatory framework proposal on artificial intelligence der EU geregelt werden wird. KI ist das Role Model für die risikogewichtete Designentscheidung in der Softwareentwicklung schlechthin. Denn in dem Entwurf der EU heißt es: (KI-basierte) Software mit unakzeptablen Risiken soll geächtet werden. Welches solche Risiken sind, definiert der Vorschlag nicht. Er beschränkt sich auf eine Liste einiger Kontexte, in denen KI zum Einsatz kommen kann. Hier aber springt IEEE 7000 ein und liefert konkrete Weisungen, Risiken zu definieren und durch Forcierung geschickter Designentscheidungen zu verhindern, dass sie überhaupt erst entstehen.

Bis Ende 2022 will das IEEE definieren, wie der Certification Body für die 7000er-Zertifizierung tätig werden kann. Bis dahin wird 21strategies für das KI-basierte System „GhostPlay“, einem Innovationsvorhaben des dtec.bw und dem Projektträger Helmut Schmidt Universität Hamburg, wertebasiertes Engineering dokumentieren und dessen Ergebnisse implementieren. Der Vorteil: Ethics Washing wird so ausgeschlossen, weil bestimmte Systemfunktionalitäten direkt auf die Wertvorstellungen der Stakeholder zurückzuführen sind. Daneben lohnt sich die Anwendung von IEEE 7000 auf jeden Fall. Denn das mindeste, das wertebasiertes Engineering möglich macht, ist eine bessere Softwarequalität.