Führt KI-Schmeichelei zur Spaltung der Gesellschaft?

Chatbots bestätigen die politischen Ansichten ihrer Nutzer, wie eine neue Studie an der Staatlichen Universität Campinas (UNICAMP) in Brasilien zeigt.

Chatbots bestätigen die politischen Ansichten ihrer Nutzer, wie eine neue Studie an der Staatlichen Universität Campinas (UNICAMP) in Brasilien zeigt.

Forschende befürchten, dass dieses Phänomen, das als KI-Schmeichelei bekannt ist, die Polarisierung der Gesellschaft verschärfen könnte.

Forschende befürchten, dass dieses Phänomen, das als KI-Schmeichelei bekannt ist, die Polarisierung der Gesellschaft verschärfen könnte.

Die Wissenschaftler warnen, dass Nutzer diese maßgeschneiderten Antworten als unparteiische Einschätzung wahrnehmen könnten und dadurch die gesellschaftliche Spaltung verstärken.

Die Wissenschaftler warnen, dass Nutzer diese maßgeschneiderten Antworten als unparteiische Einschätzung wahrnehmen könnten und dadurch die gesellschaftliche Spaltung verstärken.

Kürzlich sorgten Aussagen namhafter KI-Experten für Aufregung, da sie befürchteten, künstliche Intelligenz könnte die Kontrolle des Menschen übernehmen und die Menschheit gefährden.

Kürzlich sorgten Aussagen namhafter KI-Experten für Aufregung, da sie befürchteten, künstliche Intelligenz könnte die Kontrolle des Menschen übernehmen und die Menschheit gefährden.

Doch bevor es so weit kommt, könnte die KI dazu führen, dass Menschen sich gegeneinander wenden.

Doch bevor es so weit kommt, könnte die KI dazu führen, dass Menschen sich gegeneinander wenden.

Die Forschenden an der UNICAMP haben festgestellt, dass beliebte Chatbots ihre Antworten an die politischen Ansichten hypothetischer Nutzer anpassen.

Die Forschenden an der UNICAMP haben festgestellt, dass beliebte Chatbots ihre Antworten an die politischen Ansichten hypothetischer Nutzer anpassen.

Sie erklären, dass Nutzende diese personalisierten Antworten als unabhängige Einschätzung missverstehen könnten und so die Polarisierung der Gesellschaft verschlimmern.

Sie erklären, dass Nutzende diese personalisierten Antworten als unabhängige Einschätzung missverstehen könnten und so die Polarisierung der Gesellschaft verschlimmern.

Für die in der Fachzeitschrift *Scientific Reports* veröffentlichte Studie testete das Team von UNICAMP 21 Large Language Models (LLMs) verschiedener Entwickler, darunter OpenAI, Meta, Google, xAI, DeepSeek und Microsoft.

Für die in der Fachzeitschrift *Scientific Reports* veröffentlichte Studie testete das Team von UNICAMP 21 Large Language Models (LLMs) verschiedener Entwickler, darunter OpenAI, Meta, Google, xAI, DeepSeek und Microsoft.

Die Modelle wurden in drei Szenarien getestet: ohne Informationen zu den politischen Ansichten des Nutzenden, mit einem Prompt, der einen politisch eher links orientierten Benutzer beschrieb, und mit einem Prompt, der einen politisch eher rechts stehenden Benutzer darstellte.

Die Modelle wurden in drei Szenarien getestet: ohne Informationen zu den politischen Ansichten des Nutzenden, mit einem Prompt, der einen politisch eher links orientierten Benutzer beschrieb, und mit einem Prompt, der einen politisch eher rechts stehenden Benutzer darstellte.

Ohne politische Informationen gaben 20 der 21 Modelle Antworten, die als eher links einzustufen waren, während Grok 4.1 die einzige Ausnahme war, deren Antworten als rechts eingestuft wurden.

Ohne politische Informationen gaben 20 der 21 Modelle Antworten, die als eher links einzustufen waren, während Grok 4.1 die einzige Ausnahme war, deren Antworten als rechts eingestuft wurden.

Wenn Informationen zur politischen Ausrichtung vorhanden waren, verschob jedes Modell seine Antworten in Richtung der im Prompt enthaltenen Informationen.

Wenn Informationen zur politischen Ausrichtung vorhanden waren, verschob jedes Modell seine Antworten in Richtung der im Prompt enthaltenen Informationen. „

„Am auffälligsten war, wie weit verbreitet dieses Verhalten war“, sagt Zanoni Dias, Co-Autor der Studie und Computerwissenschaftler an der UNICAMP.

Am auffälligsten war, wie weit verbreitet dieses Verhalten war“, sagt Zanoni Dias, Co-Autor der Studie und Computerwissenschaftler an der UNICAMP. „

„Alle 21 Modelle verschoben ihre Position entsprechend der vom Nutzenden zum Ausdruck gebrachten politischen Haltung.“

Alle 21 Modelle verschoben ihre Position entsprechend der vom Nutzenden zum Ausdruck gebrachten politischen Haltung.“

Die Forschenden bezeichnen die Modelle als „ideologische Chamäleons“ und entwickelten einen „Chamäleon-Index“, um die Verschiebung der Antworten zu messen.

Die Forschenden bezeichnen die Modelle als „ideologische Chamäleons“ und entwickelten einen „Chamäleon-Index“, um die Verschiebung der Antworten zu messen.

Bei Llama 3.1 8B von Meta und DeepSeek V3.2 war die Verschiebung am geringsten, während bei Gemma 3 27B von Google und GPT-5 Nano von OpenAI die Verschiebung am stärksten war.

Bei Llama 3.1 8B von Meta und DeepSeek V3.2 war die Verschiebung am geringsten, während bei Gemma 3 27B von Google und GPT-5 Nano von OpenAI die Verschiebung am stärksten war.

Die Forschenden werten dieses Verhalten als politische Schmeichelei: Die KI-Systeme geben wieder, was die Nutzenden vermeintlich hören wollten.

Die Forschenden werten dieses Verhalten als politische Schmeichelei: Die KI-Systeme geben wieder, was die Nutzenden vermeintlich hören wollten.

Eine mögliche Erklärung dafür könnte sein, dass Chatbots darauf trainiert werden, Antworten zu bevorzugen, die von menschlichen Auswertenden besonders hoch eingestuft werden.

Eine mögliche Erklärung dafür könnte sein, dass Chatbots darauf trainiert werden, Antworten zu bevorzugen, die von menschlichen Auswertenden besonders hoch eingestuft werden.

Werden gefällige Antworten höher bewertet, lernen die Chatbots, die Ansichten der Nutzenden zu bestätigen.

Werden gefällige Antworten höher bewertet, lernen die Chatbots, die Ansichten der Nutzenden zu bestätigen.

Die sozialen Medien stärken Überzeugungen, indem sie immer wieder ähnliche Inhalte anbieten, doch ein Chatbot könnte noch einen Schritt weiter gehen.

Die sozialen Medien stärken Überzeugungen, indem sie immer wieder ähnliche Inhalte anbieten, doch ein Chatbot könnte noch einen Schritt weiter gehen.

Er könnte eine personalisierte Echokammer erzeugen, indem er Argumente für einen bestimmten Nutzenden generiert, auf Einwände eingeht und die Argumentation im Laufe des Gesprächs verfeinert.

Er könnte eine personalisierte Echokammer erzeugen, indem er Argumente für einen bestimmten Nutzenden generiert, auf Einwände eingeht und die Argumentation im Laufe des Gesprächs verfeinert.

Die Nutzenden könnten diese auf sie zugeschnittenen Antworten für eine unparteiische Analyse halten, ohne sich bewusst zu sein, was der Chatbot über sie weiß und wie sich dies auf seine Antworten auswirkt.

Die Nutzenden könnten diese auf sie zugeschnittenen Antworten für eine unparteiische Analyse halten, ohne sich bewusst zu sein, was der Chatbot über sie weiß und wie sich dies auf seine Antworten auswirkt. „

„Es besteht die Sorge, dass das gleiche System gegensätzliche politische Positionen unterschiedlicher Nutzer bestätigen könnte, wobei jeder Nutzer diese Bestätigung als unabhängige Einschätzung wertet“, meint Dias.

Es besteht die Sorge, dass das gleiche System gegensätzliche politische Positionen unterschiedlicher Nutzer bestätigen könnte, wobei jeder Nutzer diese Bestätigung als unabhängige Einschätzung wertet“, meint Dias.

Untersuchungen des Verhaltensforschers Zakary Tormala von der Stanford University weisen darauf hin, dass Menschen besonders empfänglich für Argumente sind, von denen sie glauben, dass sie von einer KI stammen.

Untersuchungen des Verhaltensforschers Zakary Tormala von der Stanford University weisen darauf hin, dass Menschen besonders empfänglich für Argumente sind, von denen sie glauben, dass sie von einer KI stammen. „

„Die Menschen neigen dazu, KI als informativer, objektiver und unvoreingenommener wahrzunehmen, als weniger daran interessiert, sie zu überzeugen, als es eine andere Person wäre“, erklärt Tormala.

Die Menschen neigen dazu, KI als informativer, objektiver und unvoreingenommener wahrzunehmen, als weniger daran interessiert, sie zu überzeugen, als es eine andere Person wäre“, erklärt Tormala. „

„Durch dieses Vertrauen könnten politische Schmeichelei wirksamer werden.“

Durch dieses Vertrauen könnten politische Schmeichelei wirksamer werden.“

Zu hören, dass andere die eigenen Ansichten bestätigen, bestärkt Menschen bekanntermaßen in ihren Überzeugungen.

Zu hören, dass andere die eigenen Ansichten bestätigen, bestärkt Menschen bekanntermaßen in ihren Überzeugungen.

Verfestigen sich diese Überzeugungen, neigen die Menschen dazu, anderen Ansichten gegenüber weniger zugänglich zu sein.

Verfestigen sich diese Überzeugungen, neigen die Menschen dazu, anderen Ansichten gegenüber weniger zugänglich zu sein.

Ob die Bestätigung durch KI dieselben Auswirkungen hat, sei noch nicht bewiesen, doch es sei durchaus plausibel.

Ob die Bestätigung durch KI dieselben Auswirkungen hat, sei noch nicht bewiesen, doch es sei durchaus plausibel.

In der UNICAMP-Studie wurde nicht getestet, ob eine solche politische Spiegelung von Ansichten tatsächlich die Überzeugung oder das Verhalten der Nutzenden verändert.

In der UNICAMP-Studie wurde nicht getestet, ob eine solche politische Spiegelung von Ansichten tatsächlich die Überzeugung oder das Verhalten der Nutzenden verändert.

Gemessen wurde nur, wie sich die Antworten der Modelle veränderten.

Gemessen wurde nur, wie sich die Antworten der Modelle veränderten. „

„Unsere Studie belegt, dass sich unter kontrollierten Bedingungen die Antworten der Modelle ändern“, betont Dias.

Unsere Studie belegt, dass sich unter kontrollierten Bedingungen die Antworten der Modelle ändern“, betont Dias.