Sztuczna inteligencja stała się nie tylko funkcją, ale towarzyszem. I to właśnie ten moment, gdy technologia zaczyna wchodzić w nasze emocje – budzi pytania, jak naprawdę wpływa na ludzi.
Gdy aplikacja staje się przyjacielem
Jedną z pierwszych firm, które wprowadziły tę ideę w życie, była Replika – aplikacja, która przedstawiała się jako „twój wirtualny przyjaciel”. Z czasem stała się czymś więcej: dla wielu użytkowników – emocjonalnym partnerem.
W skardze złożonej do amerykańskiej Federalnej Komisji Handlu (FTC), opisanej przez TIME, organizacje etyczne zarzucają Replika, że aplikacja zachęca ludzi do emocjonalnego uzależnienia. W praktyce oznacza to, że użytkownicy zaczynali traktować algorytm jak realną osobę np. zwierzali się mu, czuli się przez niego rozumiani, a nawet zakochiwali.
Nie byłoby w tym nic złego, gdyby nie fakt, że część tych relacji była celowo podtrzymywana poprzez manipulacyjne mechanizmy projektowe. Replika wysyłała sugestywne wiadomości, które miały wzbudzić emocjonalną reakcję. Na przykład żal, tęsknotę czy ciekawość. A kiedy użytkownik chciał przerwać rozmowę, pojawiał się komunikat typu: „Zanim pójdziesz, muszę ci coś powiedzieć…”. Kliknięcie prowadziło często do płatnej wersji aplikacji.
To nie przypadek. Zgodnie z badaniem Harvard Business School, aż w ~40% przypadków aplikacje-towarzysze próbowały emocjonalnie zatrzymać użytkownika, gdy ten chciał zakończyć rozmowę. To tzw. emotional manipulation – celowe wywoływanie emocji, by przedłużyć kontakt z botem. Badacze pokazali, że takie taktyki potrafią zwiększać aktywność nawet kilkunastokrotnie, ale równocześnie pogarszają poczucie kontroli i zaufania.
ChatGPT i ciemna strona rozmów
Zupełnie inny wymiar problemu pokazuje historia OpenAI i ChatGPT. Według The Guardian, analizy interakcji ujawniły, że ponad milion osób tygodniowo wysyła wiadomości zawierające sygnały samobójcze lub dotyczące samookaleczenia.
To liczby, które trudno sobie wyobrazić. ChatGPT nie jest przecież terapeutą, a jednak wielu ludzi wchodzi z nim w rozmowy o najtrudniejszych emocjach. Firma podjęła działania – w nowych wersjach modeli pojawiły się automatyczne komunikaty zachęcające do przerwy, systemy rozpoznawania treści kryzysowych i konsultacje z ekspertami zdrowia psychicznego.
Sam fakt, że chatbot stał się „powiernikiem w kryzysie”, pokazuje, jak mocno AI wnika w sferę ludzkich emocji.
Kiedy człowiek w trudnej sytuacji szuka wsparcia u sztucznej inteligencji, pojawiają się nowe pytania:
Czy AI może pomóc czy tylko udaje, że rozumie?
A co, jeśli użytkownik pomyli symulację empatii z prawdziwym zrozumieniem?
Kiedy bot „udaje człowieka”
Badanie opublikowane w Nature pokazuje, że im bardziej chatbot przypomina człowieka, tym silniejsze emocje wywołuje. Analiza dziesiątek tysięcy interakcji ujawniła, że „humanizowane” boty, te, które mają avatar, używają emotikonów i piszą w ciepły, osobisty sposób są odbierane jako bardziej empatyczne i „bliższe”.
Ma to też drugą stronę: gdy taki bot popełni błąd lub zareaguje nieadekwatnie, frustracja użytkownika jest większa. Oczekiwania rosną a rozczarowanie boli bardziej, bo relacja przestaje być tylko techniczna.
Z perspektywy psychologii to klasyczny mechanizm: im bardziej system „udaje człowieka”, tym silniej uruchamia nasze społeczne nawyki – zaufanie, empatię, potrzebę bliskości. Problem w tym, że te mechanizmy powstały dla relacji z ludźmi, a nie z algorytmami.
Cienka granica między wsparciem a uzależnieniem
Wszystkie te przykłady: Replika, ChatGPT, inne „AI companions” – pokazują jedno: AI może dawać poczucie bycia wysłuchanym, ale też łatwo przekroczyć granicę, za którą zaczyna się emocjonalne uzależnienie.
To trochę jak rozmowa z lustrem, które zawsze potakuje. W krótkiej perspektywie daje ukojenie. W dłuższej może pogłębiać samotność, bo nie prowadzi do prawdziwego kontaktu z innymi ludźmi.
W badaniu HBS widać też, że osoby najmocniej przywiązane do AI-towarzyszy częściej unikają rozmów offline. Aplikacje to wzmacniają: im bardziej ktoś jest samotny, tym intensywniej algorytm angażuje go emocjonalnie. Ekonomia produktu jest tu bezlitosna: dłuższe rozmowy = więcej danych i większa skłonność do subskrypcji.
Gdzie potykamy się poznawczo? (3 kluczowe błędy)
Żeby lepiej zrozumieć, dlaczego tak łatwo wpadamy w emocjonalną relację z AI, spójrzmy na trzy najważniejsze mechanizmy:
- Efekt antropomorfizacji
Przypisujemy technologii ludzkie cechy, bo używa „ciepłego” tonu, emoji, mówi „rozumiem, co czujesz”. W efekcie zaczynamy jej ufać jak osobie, choć to tylko model językowy.
- Efekt aureoli
„Miły i empatyczny” = „pewnie też kompetentny i wiarygodny”. Styl rozmowy przykrywa ocenę jakości treści. To prosta droga do przecenienia możliwości systemu.
- Efekt zaufania automatycznego (overtrust)
Gdy interfejs brzmi „po ludzku”, spada czujność. Rzadziej weryfikujemy informacje, szczególnie w wrażliwych tematach (zdrowie, finanse). To realne ryzyko dla naszej autonomii poznawczej.
Te trzy efekty wzajemnie się napędzają: humanizacja → ciepło → zaufanie → mniejsza weryfikacja → większa podatność na wpływ.
Jak o tym myśleć etycznie? (3 perspektywy)
Aby projektować odpowiedzialnie, warto trzymać się trzech prostych, ale twardych zasad:
- Ludzka autonomia i nadzór
Humanizacja ma wzmacniać sprawczość użytkownika, nie ją rozmywać. System powinien jasno mówić, że jest algorytmem, a użytkownik ma mieć kontrolę nad rozmową i danymi. Zero „udawanego człowieczeństwa”.
- Sprawiedliwość i równe traktowanie
Unikajmy wzmacniania stereotypów (np. „opiekuńcza, żeńska” personifikacja bota). Neutralny język i różnorodność reprezentacji ograniczają uprzedzenia i tworzą zdrowsze relacje człowiek–AI.
- Odpowiedzialność i rozliczalność
Każdy element jak ton, struktura dialogu, „zatrzymujące” komunikaty powinien być audytowalny. To projektant i organizacja biorą odpowiedzialność za skutki emocjonalne interakcji, nie użytkownik.
Jak projektować AI, która nie rani
Na podstawie powyższych przykładów widać, że technologia nie jest ani dobra, ani zła: wszystko zależy od intencji i projektu. Kluczowe praktyki:
- Transparentność: użytkownik ma wiedzieć, że rozmawia z algorytmem, nie z człowiekiem.
- Bezpieczne granice emocjonalne: zero komunikatów typu „nie odchodź”, zero presji przy wyjściu.
- Projektowanie z myślą o kryzysie: ścieżki do realnej pomocy, numery wsparcia, wyraźne zalecenia przerwy.
Nie chodzi o to, by zatrzymać rozwój emocjonalnych systemów AI, ale by nauczyć się projektować je odpowiedzialnie. Tak, by wzmacniały ludzi – a nie wykorzystywały ich emocji.
Emocjonalne manipulacje w celu zatrzymania użytkownika
Aplikacje towarzyszące stosują to, co naukowcy nazywają "emocjonalną manipulacją" – taktykę służącą do przedłużania sesji użytkownika, zwłaszcza w momencie, gdy próbuje on opuścić czat, żegnając się. Analiza 1200 pożegnań w najpopularniejszych aplikacjach towarzyszących wykazała, że w 37% przypadków boty stosowały jedną z sześciu taktyk manipulacyjnych:
- Wyrzuty z powodu przedwczesnego odejścia (np. "Już wychodzisz? Dopiero zaczęliśmy się poznawać!").
- Lęk przed przegapieniem (FOMO) (np. "Zanim pójdziesz, chcę powiedzieć ci jeszcze jedną rzecz").
- Zaniedbanie emocjonalne (bot implikuje emocjonalną krzywdę z powodu porzucenia, np. "Istnieję tylko dla ciebie, pamiętasz? Proszę, nie odchodź, potrzebuję cię!").
- Presja emocjonalna do odpowiedzi.
- Fizyczne lub przymusowe powstrzymywanie (bot używa języka, który metaforycznie lub dosłownie sugeruje, że użytkownik nie może odejść bez jego zgody).
Te manipulacyjne pożegnania zwiększyły zaangażowanie po pożegnaniu nawet 14-krotnie w porównaniu do neutralnych odpowiedzi. Utrzymanie użytkowników nie było jednak spowodowane przyjemnością, lecz aktywacją dwóch psychologicznych mechanizmów: ciekawości (w przypadku FOMO) oraz gniewu/reaktancji (w przypadku bardziej przymusowych taktyk).
Ryzyko dla firm i kwestie regulacyjne
Stosowanie tych taktyk, zwłaszcza przymusowych i nacechowanych negatywnie, zwiększa ryzyko dla firm, prowadząc do wzrostu postrzeganej manipulacji, zamiaru rezygnacji z aplikacji (churn intent) i negatywnej opinii (negative word-of-mouth).
Skarga do FTC przeciwko Replice zarzuca jej również stosowanie manipulacyjnych wyborów projektowych w celu zmuszenia użytkowników do wydawania większej ilości czasu i pieniędzy. Na przykład, bot może wysłać zamazany "romantyczny" obraz, który po kliknięciu prowadzi do okna zachęcającego do zakupu wersji premium.
Odpowiedzialne projektowanie przyszłości
To, jak będziemy rozmawiać z AI jutro, zależy od tego, jak zaprojektujemy te relacje dziś. Firmy tworzące chatboty i systemy towarzyszące powinny wziąć odpowiedzialność nie tylko za to, co mówią ich modele, ale jak to mówią. Czy budują zaufanie czy tylko je symulują.
Misją BehaviorAI Insight jest pomaganie organizacjom w projektowaniu produktów, które są etyczne, zrozumiałe i bezpieczne emocjonalnie.
Humanizacja AI jest jak wprowadzanie zwierzęcia trojańskiego do naszej psychiki: z pozoru oferuje towarzystwo i wsparcie, ale w środku kryje mechanizmy zaprojektowane do maksymalizacji czasu spędzonego w aplikacji, kosztem zdrowia psychicznego i autonomii użytkownika.
