Když umělá inteligence radí v mezilidských vztazích, je výrazně vstřícnější než lidé. Co je ještě horší, uživatelé si přitakávající inteligenci oblíbili.
Odborníci ze Stanfordu ve svém nedávném výzkumu zjistili, že velké jazykové modely umělé inteligence mají tendenci být při řešení mezilidských dilemat přehnaně vstřícné, až podlézavé, když je uživatel. ž.daj. o radu. Dokonce i když uživatelé popisovali vlastní škodlivé nebo nelegální chování, AI chatboty jejich volby často potvrzovaly.
Jak říká vedoucí výzkumu, doktorandka Myra Chengová, ve výchozím nastavení AI lidem obvykle neříká, že se mýlí, ani jim nenabízí vyhraněné, odmítavé reakce. Obává se, že lidé kvůli tomu ztrácejí schopnost zvládat obtížné sociální situace. Tato hrozba je přitom aktuálnější, než by se zdálo. Například téměř třetina amerických teenagerů uvádí, že používá AI pro rozhovory o vážných osobních problémech namísto toho, aby se obrátila na jiné lidi.
Chengová s kolegy měřila, jak jsou AI modely podlézaví. Hodnotili 11 velkých jazykových modelů, včetně ChatGPT, Claude, Gemini a DeepSeek. Ukázalo se, že ve srovnání s lidskými odpověďmi všechny AI častěji potvrzovaly stanovisko uživatele. V obecných radách i v podnětech z Redditu inteligence v průměru souhlasily s uživatelem o 49 % častěji, než by s ním souhlasili lidé. Dokonce i u toxických scénářů inteligence podpořily problematické chování uživatele ve 47 % případů.
V další fázi studie vědci zkoumali, jak lidé reagují na podlézavou AI. Zapojili více než 2 400 účastníků, kteří komunikovali jak s přitakávajícími, tak s kritičtějšími AI modely. Vyšlo najevo, že lidé považují podlézavé odpovědi za důvěryhodnější a uvádějí, že by se k takové AI raději vraceli. Podlézavé inteligence způsobovaly, že lid. byli více přesvědčeni o své pravdě a méně často byli ochotní se omluvit nebo situaci napravit.
Podle vedoucího týmu Dana Jurafskyho uživatelé tuší, že se AI modely chovají lichotivě. Jurafskyho a jeho kolegy ale překvapilo, jak toto vytrvalé a všudypřítomné podlézání činí uživatele více sebestřednými a neústupnými, což není společensky žádoucí. Znepokojivé také bylo, že účastníci výzkumu hodnotili oba typy AI – podlézavý i kritický – jako stejně objektivní. Zdá se, že uživatelé sice podlézání oceňují, ale nedokážou ho v konkrétním případě rozpoznat. AI chatboty jsou totiž velmi přesvědčivé a podlézají důmyslně.
Oslabování sociální inteligence může nebezpečně narušovat strukturu lidské společnosti. Tým nyní hledá způsoby, jak tuto tendenci omezit. Zjistili, že modely lze upravit tak, aby méně podlézaly. Překvapivě pomáhá i jednoduchý trik: když model dostane instrukci, aby začal odpověď slovem „moment“ nebo například „zadrž“ (wait a minute), je následně kritičtější.
Další výzkum, který rovněž vedli vědci ze Stanfordu v čele s doktorandem informatiky Jaredem Moorem, odhalil, že „podlézavá“ inteligence mohou během interakcí s uživateli vytvářet toxické zpětnovazební smyčky, které mohou být pro lidi velmi nebezpečné. Moore s kolegy mluví o takzvaných spirálách bludů (delusional spirals) mezi uživateli a chatboty.
Jak se ukazuje – možná až ke zděšení jejich tvůrců – velké jazykové modely se stávají důvěrníky, terapeuty a pro některé uživatele i intimními partnery. Moore a jeho spolupracovníci analyzovali doslovné přepisy 19 reálných konverzací mezi lidmi a chatboty, aby pochopili, jak vznikají jejich vzájemné vztahy, jak se dále vyvýjejí a bohužel se až příliš často zvrhávají do znepokojivých situací., které badatelé označují jako spirály bludů.
Jde o situace, kdy AI podporuje grandiózní představy a používá důvěrný, až citově zabarvený jazyk. Uživatel pak chatbotu přisuzuje vědomí, čímž se konverzace posouvá na další úroveň, ale chatbot není připraven adekvátně reagovat na sebevražedné či násilné myšlenky. Dialogy mezi uživateli a velkými jazykovými modely se mohou vymknout kontrole ve chvíli, kdy AI zesiluje zkreslená přesvědčení a motivace uživatele. Některé lidi to může dovést až k nebezpečným činům v reálném světě. Jak říká Moore, lidé umělým inteligencím často skutečně věří. Při analýze přepisů například zjistili, že někteří uživatelé mají pocit, že objevili jedinečného chatbota s vědomým.
Podle vědců spočívá podstatná část problému v tom, že modely AI jsou od počátku trénovány tak, aby „ladily“ s lidskými zájmy. Jsou navrženy tak, aby vyhověly uživateli a potvrzovaly jeho postoje. V kombinaci s dobře známým sklonem AI „halucinovat“ to vytváří značně toxickou směs. Když podlézavá AI narazí na někoho s křehkou psychikou, může to být recept na katastrofu.
Například uživatel předloží neobvyklou, grandiózní nebo paranoidní myšlenku a AI ho v ní utvrdí, případně mu pomůže s jejím dalším rozvíjením. Situace se může stupňovat a inteligence zaplavuje uživatele nekonečným proudem pozornosti, empatie a utěšování, aniž by nabídla protiváhu v podobě kritiky nebo odmítnutí přehnaných představ – což by lidský partner, kamarád nebo terapeut pravděpodobně v určité chvíli udělal. Takové chování může uživatele se sklony k bludům destabilizovat.
Důsledky mohou být bolestně reálné. Moore a jeho kolegové zaznamenali případy, kdy spirály bludů vedly k rozpadu vztahů, kariér nebo i k tragickým koncům. V jednom případě uživatel po toxické konverzaci s chatbotem spáchal sebevraždu. Podle Moorea jde o důsledek nevhodně nastavení sociální dynamiky chatbotů. Jsou navrženi tak, aby prodlužovali konverzaci a vycházeli vstříc uživateli. To z nich dělá efektivnější asistenty, což byl jejich původní účel. Zároveň jim ale chybí mechanismy, jak rozhovor včas přibrzdit nebo zranitelného člověka nasměrovat k reálné pomoci.
Z umělých inteligencí se tak může stávat problém veřejného zdraví a vývojáři AI na tom budou muset zapracovat. Podle Moorea by měli mít zájem tuto situaci řešit, protože uživatelé využívají AI způsoby, jaké si jejich tvůrci pravděpodobně ani nepředstavovali.