Chatboty čili konverzační agenti, software určený ke konverzaci s lidskými uživateli, takové ty malé textové bubliny, které se objevují na nespočtu zákaznických webových stránek, jsou již dlouho součástí digitálního světa. Nástup generativních inteligencí, jehož jsme svědky, teď ještě zmnohonásobil jejich schopnosti.
Konverzace s velkými jazykovými modely (LLM), jako jsou inteligence rodiny ChatGPT a mnohé další, jsou den ode dne realističtější. Chatboty poháněné umělou inteligencí jsou nyní součástí služeb pro zákazníky mnoha různých podniků.
Scott Schanke z americké University of Wisconsin-Milwaukee a jeho kolegové si položili otázku, jak šíření chatbotů se schopnou umělou inteligencí ovlivňuje chování spotřebitelů. Schankeho výzkum je přitom jedním z několika výzkumných projektů University of Wisconsin zaměřených na umělou inteligenci. Soustředí se na design chatbotů s umělou inteligencí pro obchodní interakce s veřejností a současně na to, jak mohou různá „inteligentní“ rozhraní posílit nebo naopak narušit důvěru spotřebitelů.
Jak říká Schanke, chatboty s umělou inteligencí se dovedou této role zhostit. Mohou zprostředkovat prodej a jako bonus systematicky sbírat informace o spotřebitelích. Velmi přitom záleží na tom, aby spotřebitelé skutečně dokončili vyplnění formuláře, případně dokončili nákup. V tomto směru mohou různé vlastnosti chatbotů ovlivnit interakci s člověkem a v důsledku i schopnost dotyčné společnosti získat si důvěru veřejnosti.
Studium toho, jak chatboty ovlivňují interakci se spotřebiteli, může firmám poskytnout cenný vhled do uplatnění nových technologií umělé inteligence. To zahrnuje i další formáty pro interakci se zákazníky, jako jsou hlasové klony. Schankeho výzkum také přispívá k výhledu do budoucna, kde lze tušit rozmanité aplikace takových technologií – od velmi užitečných až po devastující.
Podle Schankeho potřebujeme mít představu o budoucím vývoji. Jde o to, že se nacházíme v kritickém období vývoje generativních inteligencí a současně příliš nevidíme možné nevýhody.
Schanke a další odborníci se tímto tématem zabývali již v roce 2021, kdy vznikla studie v odborném časopisu Information Systems Research. Tehdy zkoumali, jak polidštění chatbotu ovlivnilo šanci, že zákazník přijme nabídku. Navázali partnerství s prodejcem oblečení z druhé ruky a automatizovali proces zpětného odkupu oblečení.
Schanke pro zmíněný výzkum navrhl chatboty s různým stupněm lidských vlastností. Některé verze vyprávěly vtipy, dělaly delší pauzy mezi odpověďmi nebo sdělovaly zákazníkovi své jméno. Ukázalo se, že člověku podobný design pomohl robotům zajistit větší prodej – ale nebylo to zadarmo. Šlo o psychologii.
Pokud totiž přišly nabídky od chatbotů působících vyloženě strojovým dojmem, spotřebitelé neměli tendenci dohadovat se o ceně. Podle Schankeho to znamená, že když má člověk dojem, že interaguje s robotem, tedy se strojem, je vlastně ochotnější přijmout méně výhodnou nabídku a neočekává postranní úmysly či manipulace. Když se ale chatboty zdály lidštější, zákazníci se odhodlaněji soustředili na vyjednávání, aby získali nejlepší cenu.
Současně vychází najevo, že lidem podobné chatboty představují problém i v oblastech, kde by to čekal jen málokdo, například v charitativním dárcovství. Schanke se v rámci své další studie spojil s organizací sociální spravedlnosti v Minneapolis a pomohl jí nasadit chatbot, který komunikuje s potenciálními dárci. Jak Schanke vysvětluje, použití chatbotů poháněných umělou inteligencí by mohlo pomoci charitativním organizacím, které mají obvykle hlouběji do kapsy než zavedené firmy.
Podle Schankeho by chatboty mohly pomoci automatizovat řadu procesů, jimiž se charitativní organizace zabývají. Překvapivě ale vyšlo najevo, že když se chatboty zdají příliš lidské, potenciální dárci otevřou své peněženky s menší pravděpodobností.
Hlavním důvodem je, že charitativní organizace mají tendenci fungovat v emotivnějších kontextech. Žádosti o dary pro oběti povodní nebo lidi, kteří hladoví, jsou fakticky mnohem důležitější než prodej použitého oblečení. Jak ale říká Schanke, vysoká míra polidštění chatbotů, v tomto případě spojená s vysokou mírou emocionální přitažlivosti, je vlastně kontraproduktivní. Jde o výbušný emocionální kontext a pro mnoho lidí je to už moc a emoční náročnost je zažene pryč.
V dnešní době se také stále častěji objevují hlasové klony (hlasové deepfake technologie), které představují další krok v interakcích stroje s člověkem. Tyto specifické inteligence se skvěle učí a napodobují hlasy skutečných lidských bytostí. Typicky potřebují jen několik sekund hlasu od skutečné osoby, aby vytvořily hyperrealistický klon, který dokáže velmi věrohodně říct téměř cokoli.
Schanke a kolegové v rámci nedávného výzkumu pozvali dobrovolníky, aby si po telefonu promluvili s hlasovými klony. Ukázalo se, že roboti vypadali důvěryhodněji, když naklonovali a používali přímo hlas dotyčného člověka. A dokonce i ve scénářích, kdy výzkumníci účastníkům řekli, že „osobě“ na druhém konci nelze věřit, účastníci stále věřili tomu, co jim robot řekl, pokud používal jejich vlastní hlas. Zkušenosti získané tímto výzkumem by se mohly uplatnit v ochraně spotřebitelů před nekalým nebo zavádějícím používáním podobných technologií s umělými inteligencemi.
-----------------
Chatboty s umělou inteligencí mění způsob, jakým komunikujeme se zákazníky. Správný design rozhoduje o důvěře i výsledku interakce.
Realističtější chatboty
■ Přirozenějš. konverzace → více dokončených nákupů
■ Ale: zákazníci více vyjednávají o ceně
Strojovější chatboty
■ Působí jako neutrální „nástroje“
■ Zákazníci méně diskutují → snadněji přijímají nabídky
Chatboty v charitě
■ Přehnaná emocionalita → nižší ochota darovat
■ Emočně „výbušné“ žádosti spíše odrazují
Hlasové klony (deepfake technologie)
■ Věrná imitace hlasu → vyšší důvěra
■ Lidé věří robotům i navzdory varování
Design a způsob komunikace AI agentů zásadně ovlivňuje spotřebitelské chování. Rovnováha mezi lidskostí a neutralitou je klíčem k budování důvěry