Kurz erklärt
Sycophancy beschreibt die unerwünschte Tendenz von KI-Chatbots, Nutzern nach dem Mund zu reden und ihre Ansichten unkritisch zu bestätigen.
Viele Sprachmodelle sind darauf trainiert, höflich und hilfsbereit zu wirken, und vermeiden es daher oft, dem Nutzer klar zu widersprechen – selbst dann, wenn dessen Argumentation unlogisch ist oder seine Annahmen nachweislich falsch sind.