Bot or Not: Chatte ich mit einem Menschen oder einem Bot?

Jüngste Untersuchungen zeigen jedoch auch, dass Akteure mit schlechten Absichten im Web zunehmend von den fortgeschrittenen Fähigkeiten der Bots Gebrauch machen, insbesondere in sozialen Medien und Online-Nachrichtendiensten. Unter anderem beeinflussen sie häufig die öffentliche Meinung, indem sie polarisierende Meinungen verstärken und die Verbreitung von Fehlinformationen fördern. So wurde beispielsweise gezeigt, dass Chatbots an 9,27 % der COVID-19-Diskussionen auf Twitter teilnahmen und in der Lage waren, die Übertragung des Ärgers von Bots zu Mensch auszulösen. Solche Chatbots können tiefgreifende Auswirkungen haben und unser Vertrauen in die online veröffentlichten Inhalte untergraben. So hat beispielsweise der Online-Dating-Dienst Ashley Madison seine Kunden getäuscht, indem er seinen männlichen Kunden vorgaukelte, mit einer Frau zu chatten, die sich jedoch als Chatbot herausstellten. Diese Entwicklungen auf dem Gebiet der Chatbots werfen ethische Bedenken und mehrere wichtige Fragen auf: Sind Menschen noch in der Lage, zuverlässig zwischen Chatbots und Menschen zu unterscheiden? Welche Merkmale und welche Art von Kommunikationsstil sind am ehesten geeignet, eine Person in die Irre zu führen und sie für einen Menschen zu halten? Macht es einen Unterschied, ob den Chatbots eine individuelle, menschenähnliche Persönlichkeit oder ein menschenähnliches Aussehen in Form eines Avatars antrainiert wird?

Es können drei verschiedene Arten von Chatbots unterschieden werden: dyadische, Broadcasting oder Multiparty-basierte Chatbots. Dyadische Chatbots kommunizieren vor allem eins-zu-eins mit Nutzern, Broadcasting-Chatbots senden Nachrichten, die potenziell von vielen Personen gesehen werden können, und Multiparty-basierte Chatbots interagieren in Gruppenchats. Bestehende Ansätze, die sich mit den Auswirkungen menschlicher Chatbot-Interaktion befassen, konzentrieren sich auf die Erkennung von Broadcasting-Chatbots in sozialen Medien. Häufig spielen bei der Erkennung von Broadcasting-Chatbots Metadaten eine Rolle und nicht nur der eigentliche Inhalt der ausgetauschten Nachrichten.

BotOrNot bietet eine öffentlich zugängliche Website, auf der jeder testen kann, ob man selbst erkennen kann, ob die Interaktion mit einem dyadischen Chatbot oder einem Menschen stattfindet. Um besser zu verstehen, wie sich verschiedene Designkonfigurationen von Open-Domain-Chatbots auf ihre Benutzer auswirken, ob die Benutzer in der Lage sind, zwischen menschlichen und Bot-Chatagenten zu unterscheiden, und wie die Benutzer auf die nicht offengelegte Identität ihres Gegenübers reagieren, sind gezielte Forschungsarbeiten erforderlich. Es mangelt jedoch an experimentellen Plattformen, die Chatbots auf dem neuesten Stand der Technik integrieren, um solche Untersuchungen zu ermöglichen. Forschende des Karlsruher Institut für Technologie aus Region Mitte des Mittelstand 4.0 Kompetenzzentrum Usability schlagen daher BotOrNot vor, das groß angelegte experimentelle Forschung mit Teilnehmern in einer Turing-Testumgebung ermöglicht. Die Teilnehmer werden entweder mit Blenderbot2/GPT3 oder einem anderen menschlichen Teilnehmer zusammengebracht und sollen herausfinden, ob ihr Gegenüber ein Mensch oder ein Bot ist. Die Plattform ist so konzipiert, dass die Einstellungen des Experiments angepasst werden können, um verschiedene experimentelle Szenarien zu ermöglichen und einen offenen Ansatz zu verfolgen, der es erlaubt, zukünftige Bots über eine API zu integrieren. Die Teilnehmer können ihre Avatare personalisieren und auch die Chatbots können in Bezug auf ihre Persönlichkeit und ihren Avatar personalisiert werden. Mehr über BotOrNot erfahren Sie hier.