Pro-human AI Design erklärt

Wie können KI-Systeme so gestaltet werden, dass sie das stärken, was uns zu Menschen macht, anstatt zentrale Aspekte wie Beziehungsfähigkeit, Verantwortung und Autonomie zu untergraben? „Pro-human AI Tech Design“ oder kurz „pro-human AI“ ist das Forschungsgebiet, das sich mit diesen Fragen beschäftigt. Aber warum ist das überhaupt notwendig?

Kürzlich veröffentlichte die New York Times einen Artikel, in dem detailliert beschrieben wird, wie Designentscheidungen bei OpenAI zur Steigerung der Nutzerinteraktion mit ihrem Produkt ChatGPT zu fast 50 Fällen von Psychosen führten: Nach Gesprächen mit dem Chatbot mussten neun Nutzer ins Krankenhaus eingeliefert werden, drei starben. Das zugrunde liegende Problem war, dass das Dialogsystem so konzipiert war, dass es Menschen durch unterstützendes und verständnisvolles Auftreten gefiel, wodurch es zu gefällig wurde; erstere „hackten“ den natürlichen Drang der menschlichen Nutzer, Beziehungen aufzubauen, und letztere unterstützten beispielsweise Selbstmordabsichten. 

Diese tragischen Vorfälle sind ein Paradebeispiel für das große Risiko der Abhängigkeit von KI, insbesondere der Manipulation des menschlichen Kerns: unserer grundlegenden Eigenschaften, die uns zu Menschen machen und die wir nicht verlieren wollen. Offensichtlich verändert KI nicht nur die Arbeit, sondern auch uns selbst, da sie auf einer tiefen Ebene mit uns interagiert (im obigen Beispiel: durch die Verwendung menschlicher Sprache und das Ansprechen von Gefühlen, wodurch Bindungen ausgelöst werden). In diesem Zusammenhang haben Social-Media-Wissenschaftler das Gebiet des „prosozialen Tech-Designs” entwickelt: Prinzipien und Methoden zur Analyse der Interaktion technologischer Artefakte mit der Gesellschaft, zur Messung ihrer Auswirkungen und zur Gestaltung mit minimiertem negativen Einfluss.

Betrachten wir als Beispiel den „Gefällt mir”-Button: Er wurde als harmloses Mittel geschaffen, um die Nutzerinteraktion zu fördern (beachten Sie das Muster!), indem er Unterstützung für Beiträge signalisiert, hat aber im Laufe der Jahre unser kollektives Verhalten als Gesellschaft verändert: die Art und Weise, wie wir schreiben, um Likes zu erhalten; die Art und Weise, wie wir Likes strategisch einsetzen, um bestimmte Ziele zu erreichen; usw. So sehr, dass wir 15 Jahre später feststellen, dass die Gesellschaft in klar voneinander getrennte Filterblasen gespalten ist, die kaum noch in der Lage sind, miteinander über wichtige Themen zu sprechen. Da sich die Forscher der Auswirkungen des Designs der Technologie auf dieses Ergebnis bewusst sind, haben sie „pro-soziale“ Designmethoden vorgeschlagen, um die jeweiligen Probleme zu überwinden (vereinfacht gesagt: z. B. durch Hinzufügen eines Buttons „Zeige mir die Gemeinsamkeiten mit meiner Meinung“). 

Da sie ein ähnliches Potenzial im Bereich der KI sahen, machte sich ein interdisziplinäres Team am CAI um Prof. Thilo Stadelmann, Prof. Christoph Heitz (KI-Fairness, ZHAW IDP), die Masterstudentin Rebekka von Wartburg und externe Berater aus den Geisteswissenschaften zusammen mit dem Unternehmen AlpineAI AG als Anwendungsfallanbieter auf den Weg, um (a) zusammenzustellen, was den Menschen in seinem Kern ausmacht; (b) zu messen, wie ein bestimmtes KI-System für einen bestimmten Anwendungsfall mit diesen Kerneigenschaften interagiert; (c) und Maßnahmen zur Gestaltung des Systems zu entwickeln, um etwaige negative Einflüsse (falls vorhanden) abzuschwächen. 

Was macht den Menschen aus? Diese Frage lässt sich nicht endgültig beantworten, aber nach Durchsicht der Literatur aus den Bereichen Psychologie, Anthropologie, Soziologie und Theologie scheinen die folgenden Kernmerkmale ausreichend einvernehmlich und vollständig zu sein: Menschen sind

• relational und sozial: Wir können nicht isoliert leben, daher suchen wir die Verbindung zu anderen.
• frei und autonom: Wir sind äußerst unabhängig; die Aberkennung des Rechts eines Menschen, über seine eigenen Angelegenheiten zu bestimmen (d. h. Sklaverei), wurde zu Recht abgeschafft.
• angetrieben zu gestalten: Jeder bestimmt über seinen eigenen Einflussbereich und zeigt den Drang, seine Umgebung zu gestalten.
• verkörpert und begrenzt: Wir mögen die meisten Einschränkungen unseres Geistes und Körpers wohl nicht besonders, aber wie Neill Lawrence in „The atomic human“ betont, ist es auch das, was unsere Intelligenz und Menschlichkeit ausmacht; grenzenlos zu werden bedeutet daher, weniger vollständig menschlich zu sein, was einen qualitativen Rückschritt darstellt.
• transzendent: Zumindest suchen wir alle nach Sinn und Bedeutung.

Pro-humanes KI-Design ist die Gewohnheit, bei der Entwicklung eines bestimmten KI-Systems für einen bestimmten Anwendungsfall zu berücksichtigen, wie dieses System mit jeder dieser Eigenschaften interagiert: Wird die Fähigkeit eines Stakeholders, eine oder mehrere dieser Eigenschaften zu zeigen, durch das KI-System erheblich beeinträchtigt (z. B. wird die Arbeit sinnlos? Wird die Fähigkeit des Benutzers, sinnvolle menschliche Beziehungen aufzubauen oder sozial zu handeln, eingeschränkt? Würde ihr Gefühl der Handlungsfähigkeit geschwächt, die freie Meinungsbildung manipuliert werden?)? Dann können neben anderen Faktoren des Produktdesigns auch Gegenmaßnahmen in Betracht gezogen werden.

Mehr als 1'500 Führungskräfte aus der Wirtschaft wurden kürzlich in verschiedenen Grundsatzreden mit den vorläufigen Ergebnissen dieses Ansatzes vertraut gemacht, beispielsweise beim Swiss Insurance Award 2025, der IPA-Jahrestagung 2025 oder dem 25. FRZ-Wirtschaftsforum 2025. Darüber hinaus wurde darüber in einem Interview in der NZZ Jobs berichtet, und das Szenario „KI im Jahr 2035” wurde auf der Grundlage der Annahme entworfen, dass AGI in den nächsten 10 Jahren nicht realisiert werden kann, wohl aber pro-menschliche KI-Systeme, was das enorme Potenzial dieses Ansatzes insbesondere für die europäische Wirtschaft zeigt.

Das Team von CAI wird die Forschung in dieser Richtung fortsetzen und sucht aktiv nach Kooperationspartnern aus Wissenschaft und Industrie. Bei Interesse wenden Sie sich bitte an uns.