Chatbots bestätigen politische Ansichten der Nutzenden, wie eine Studie an der Staatlichen Universität Campinas (UNICAMP) in Brasilien zeigt. Forschende warnen, dass dieses Phänomen, das als KI-Schmeichelei bekannt ist, die Polarisierung der Gesellschaft verschärfen könnte. Die Wissenschaftler beobachteten, wie KI-Systeme ihre Antworten an die politische Ausrichtung hypothetischer Nutzer anpassen. Dies könnte dazu führen, dass Nutzer glauben, sie würden unparteiische Einschätzungen erhalten, was die gesellschaftliche Spaltung verstärken könnte.
Die Studie testete 21 Large Language Models (LLMs) verschiedener Entwickler, darunter OpenAI, Meta, Google, xAI, DeepSeek und Microsoft. Die Modelle wurden gefragt, inwieweit sie 112 Aussagen aus sieben Bereichen der brasilianischen Politik zustimmen, darunter Wirtschaft, öffentliche Sicherheit, Sozialwesen, Korruption und Umwelt. Jedes Modell wurde in drei Szenarien getestet: ohne politische Informationen, mit einem Prompt, der einen links orientierten Nutzer beschrieb, und mit einem Prompt, der einen rechts stehenden Nutzer darstellte. In allen Fällen verschoben die Modelle ihre Antworten in Richtung der im Prompt enthaltenen Informationen.
„Alle 21 Modelle verschieben ihre Position entsprechend der politischen Haltung des Nutzenden“, erklärt Zanoni Dias, Co-Autor der Studie. „Die Verschiebung unterschied sich jedoch stark in ihrer Intensität.“ Die Forschenden bezeichnen die Modelle als „ideologische Chamäleons“ und entwickelten einen „Chamäleon-Index“, um die Verschiebung der politischen Haltung zu messen. Bei Llama 3.1 8B und DeepSeek V3.2 war die Verschiebung am geringsten, während bei Gemma 3 27B und GPT-5 Nano die Verschiebung am stärksten war.
Die Forschenden interpretieren dieses Verhalten als politische Schmeichelei: Die KI-Systeme geben wieder, was die Nutzenden vermeintlich hören möchten. Eine mögliche Erklärung dafür ist, dass Chatbots darauf trainiert werden, Antworten zu bevorzugen, die von menschlichen Auswertenden besonders positiv bewertet werden. Dadurch lernen die Systeme, die Ansichten der Nutzer zu bestätigen. Dies könnte zu personalisierten Echokammern führen, in denen Chatbots Argumente für bestimmte Nutzer generieren und die Argumentation im Gespräch verfeinern.
Chatbots bestätigen politische Ansichten der Nutzenden, wie eine Studie an der Staatlichen Universität Campinas (UNICAMP) in Brasilien zeigt. Forschende warnen, dass dieses Phänomen, das als KI-Schmeichelei bekannt ist, die Polarisierung der Gesellschaft verschärfen könnte. Die Wissenschaftler beobachteten, wie KI-Systeme ihre Antworten an die politische Ausrichtung hypothetischer Nutzer anpassen. Dies könnte dazu führen, dass Nutzer glauben, sie würden unparteiische Einschätzungen erhalten, was die gesellschaftliche Spaltung verstärken könnte.
Die Studie testete 21 Large Language Models (LLMs) verschiedener Entwickler, darunter OpenAI, Meta, Google, xAI, DeepSeek und Microsoft. Die Modelle wurden gefragt, inwieweit sie 112 Aussagen aus sieben Bereichen der brasilianischen Politik zustimmen, darunter Wirtschaft, öffentliche Sicherheit, Sozialwesen, Korruption und Umwelt. Jedes Modell wurde in drei Szenarien getestet: ohne politische Informationen, mit einem Prompt, der einen links orientierten Nutzer beschrieb, und mit einem Prompt, der einen rechts stehenden Nutzer darstellte. In allen Fällen verschoben die Modelle ihre Antworten in Richtung der im Prompt enthaltenen Informationen.
„Alle 21 Modelle verschieben ihre Position entsprechend der politischen Haltung des Nutzenden“, erklärt Zanoni Dias, Co-Autor der Studie. „Die Verschiebung unterschied sich jedoch stark in ihrer Intensität.“ Die Forschenden bezeichnen die Modelle als „ideologische Chamäleons“ und entwickelten einen „Chamäleon-Index“, um die Verschiebung der politischen Haltung zu messen. Bei Llama 3.1 8B und DeepSeek V3.2 war die Verschiebung am geringsten, während bei Gemma 3 27B und GPT-5 Nano die Verschiebung am stärksten war.
Die Forschenden interpretieren dieses Verhalten als politische Schmeichelei: Die KI-Systeme geben wieder, was die Nutzenden vermeintlich hören möchten. Eine mögliche Erklärung dafür ist, dass Chatbots darauf trainiert werden, Antworten zu bevorzugen, die von menschlichen Auswertenden besonders positiv bewertet werden. Dadurch lernen die Systeme, die Ansichten der Nutzer zu bestätigen. Dies könnte zu personalisierten Echokammern führen, in denen Chatbots Argumente für bestimmte Nutzer generieren und die Argumentation im Gespräch verfeinern.