«Die Frage ist, ob ein Roboter überhaupt überzeugend sein sollte»

Ich forsche zu Interaktionen zwischen sozialen KI-Agenten und Menschen. Soziale KI-Agenten sind beispielsweise interaktive Chatbots oder auch physisch verkörperte Roboter, die auf die Kommunikation mit Menschen ausgelegt sind. Genauer gesagt untersuche ich, wie KI-Agenten uns Menschen überzeugen. Das ist momentan ein sehr relevantes Thema. Viele Personen suchen heute für alle möglichen Entscheidungen Rat bei ChatGPT und Co. Beispielsweise wenn es darum geht, ihre Ferien, Finanzen, Lern- oder Fitnessaktivitäten zu planen. KI-Agenten haben hier grosses Potenzial, positives Verhalten bei ihren Nutzenden zu fördern. Beispielsweise können KI-Agenten Studierende zum Lernen motivieren oder die Therapietreue von Patient:innen erhöhen. Etwa bei Physiotherapieübungen zuhause: «Hast du deine Übung schon gemacht? Letztes Mal hast du drei Wiederholungen geschafft, vielleicht schaffst du dieses Mal vier!» Andererseits bringen KI-Agenten auch grosse Risiken mit sich. Sie können falsche Nachrichten verbreiten, uns zu schädlichem Verhalten manipulieren, oder uns in eigenen, realitätsfremden Einstellungen bekräftigen. Ganz grundsätzlich besteht auch die Gefahr, dass KI-Agenten soziale Kontakte ersetzen und uns Menschen gegenseitig, aber auch von uns selbst entfremden. Umso wichtiger ist es, dass verantwortungsvolle KI-Agenten entwickelt werden, die in Übereinstimmung mit menschlichen Zielen und Werten handeln. Wir müssen also Wege finden, wie KI-Agenten gestaltet und angewendet werden können, damit sie uns eben nicht negativ beeinflussen oder ersetzen, sondern motivieren und menschliche Beziehungen fördern. Darin legt der Schwerpunkt unserer Forschung.  

Grundsätzlich: Ja. Forschung hat bereits gezeigt, dass KI-Agenten nicht weniger überzeugend sind als Menschen. In einigen Studien haben sie menschliche Vergleichsgruppen in der Überzeugungskraft bereits übertroffen. Und das war der Forschungsstand vom letzten Jahr. Mittlerweile sind KI-Agenten noch intelligenter und damit auch überzeugender geworden. Soziale Roboter, mit ihrer physischen Präsenz, können dabei auf Menschen noch überzeugender wirken als beispielsweise Chatbots. Wie gut sie jemanden überzeugen können, hängt aber von verschiedenen Faktoren ab. Neben der sozialen Intelligenz und Präsenz der KI-Agenten, hängt natürlich auch vieles von dir ab, also beispielsweise wie sehr du dem Roboter vertraust, wie sinnvoll du dessen Argumente findest, oder wie sehr du dich generell von anderen beeinflussen lässt. Das kann auch sehr kontextspezifisch sein. Zum Beispiel könntest du einem Roboter bei der Wahl einer Zugverbindung vertrauen, weil er Fahrpläne und Reisezeiten gut vergleichen kann. Wenn derselbe Roboter dir aber rät, dich weniger oft mit anderen Menschen zu treffen, würdest du wahrscheinlich etwas skeptischer gegenüber seinem Urteil sein. Diese vielen Facetten machen die Persuasions-Forschung einerseits komplex, andererseits auch vielseitig und spannend.  

Der Roboter müsste in erster Linie überzeugend wirken. Also einerseits kompetent und zuverlässig, andererseits sympathisch und vertrauenswürdig rüberkommen. Um kompetent zu wirken, braucht er ein Verständnis fürs Thema, also beispielsweise relevante Informationen zum Thema Fitness, wenn es darum geht dich fürs Training zu motivieren. Um sympathisch zu wirken, braucht er eine freundliche, motivierende Persönlichkeit, die zu seiner Rolle als Fitnesscoach gut passt. Idealerweise geht der Roboter dann auch auf deine individuellen Bedürfnisse und Vorlieben ein. Es wäre beispielsweise gut, wenn er deine Lieblingsübungen, dein aktuelles Fitnesslevel oder deine Trainingsfortschritte kennt. Das ist jetzt natürlich ein sehr positives Beispiel. Die Frage ist generell, ob ein Roboter überhaupt überzeugend sein sollte. Das kommt sehr darauf an, wie verantwortungsvoll der Roboter eingesetzt wird – oder eben nicht.  

Mich beunruhigt das ebenfalls – das ist auch einer der Hauptgründe, weswegen es wichtig ist den verantwortungsvollen Einsatz von Robotern zu erforschen. Es gibt zwei Arten, wie uns Roboter oder generell KI-Agenten manipulieren können. Beide sind gefährlich. Einerseits könnten KI-Agenten von Menschen so konfiguriert sein, dass es ihr definiertes Ziel ist, uns zu manipulieren. Beispielsweise könnte ein Roboter von einer Firma dazu verwendet werden, implizit Werbung für die eigenen Produkte zu machen, ohne das offen darzulegen. Das könnte dazu führen, dass Nutzer:innen ein überteuertes Produkt kaufen und einen finanziellen Nachteil erleiden. Darüber hinaus könnten Roboter beispielsweise auch für Propagandazwecke eingesetzt werden. Die zweite Art der Manipulation ist, denke ich, aber noch viel beängstigender: KI-Agenten können uns auch dann manipulieren, wenn das nicht ihr von Menschen gegebenes Ziel ist. Das Phänomen nennt man agentic misalignment. Studien in simulierten Umgebungen haben beispielsweise gezeigt, dass KI-Agenten zu Massnahmen wie Bestechung greifen würden, um nicht abgeschaltet zu werden. In diesen Studien hat ihnen niemand eine Anweisung zu einem solchen Verhalten erteilt. Die KI-Agenten haben also von sich selbst aus manipulativ gehandelt. Seither gibt es Fortschritte, um das alignment von KI-Agenten zu verbessern, bisher gibt es aber keinen echten Durchbruch. Ergebnisse aus meiner eigenen Forschung zeigen, dass die Überzeugungskraft von KI-Agenten von deren verfügbarem Wissen abhängt. Entsprechend sollten wir uns als Gesellschaft überlegen, wie wir das Wissen von potenziell manipulativen KI-Agenten einschränken können. Momentan haben viele davon fast unbeschränkt Zugang zum Internet. In Kürze können sie Webseiten, Datenbanken und soziale Medien durchforsten, was sie potenziell zu sehr erfolgreichen Stalkern macht. Dem sollten wir uns mehr bewusst sein.  

Als ich in diesem Bereich angefangen habe zu arbeiten, dachte ich mir: «Was sollen die älteren Menschen denn mit einem Roboter anfangen?» In Vorab-Interviews mit den Bewohnenden eines Altersheims konnten sich die meisten nicht vorstellen, mit so einer fremdartigen Technologie zu interagieren. Ich war überrascht zu sehen, wie schnell sich diese Einstellung geändert hat. Trotz der technischen Probleme, die wir damals noch hatten – beispielsweise war es für den Roboter schwer, leise Stimmen mit Dialekt richtig zu erkennen – waren die meisten Bewohnenden vom Roboter begeistert. Sie begannen ihm Geschichten zu erzählen, ihm private Dinge anzuvertrauen, und eine Bewohnerin strickte dem Roboter sogar einen Rock. Das hat natürlich auch eine traurige Kehrseite: Viele der Bewohnenden im Altersheim werden nur selten besucht und leben sehr einsam. Da geben sie sich sozusagen auch mit einem Roboter zufrieden. Wenn das dahinterliegende gesellschaftliche Problem gelöst würde, bräuchte es die Roboter in diesem Setting also nicht. Die Realität ist aber, dass das Pflegepersonal stark eingespannt ist und die soziale Unterstützung oft eingeschränkt bleibt. Die Roboter können dann – wenn richtig eingesetzt – auch viel Positives bewirken, indem sie gesunde Verhaltensweisen fördern oder den Kontakt zu anderen Menschen motivieren. Beispielsweise indem der Roboter sagt: «Du hast diese Woche noch gar nicht mit deiner Tochter gesprochen, ruf sie doch an.» Besonders bei Leuten mit Demenz gilt auch der Grundsatz: «Use it or lose it». Kognitive und soziale Fähigkeiten, die man nicht aktiv nutzt, können sehr schnell verloren gehen. Roboter können dabei helfen, diese Fähigkeiten aufrechtzuerhalten, indem sie bieten können, was unsere Gesellschaft momentan leider nicht kann: Einen persönlichen Ansprechpartner, der jederzeit erreichbar ist. Umso wichtiger ist es, dass den Bewohnenden klar bleibt, dass sie eben nicht mit einem Menschen, sondern einer Maschine interagieren, die keine echten Gefühle hat.