Od UX do human-AI interaction. Potrzebujemy nowego języka projektowania

AI zmienia nie tylko to, jak projektujemy produkty, ale też samą relację między człowiekiem a technologią. Klasyczny UX coraz częściej nie wystarcza, żeby opisać zaufanie, sprawczość, sposób podejmowania decyzji i współpracę człowieka z AI.

Z tego artykułu dowiesz się:

• czym różni się human AI interaction od klasycznego HCI
• dlaczego kalibracja zaufania jest ważniejsza niż jego maksymalizacja
• kiedy współpraca człowieka z AI faktycznie daje lepsze wyniki
• jak projektować momenty, w których człowiek nadal myśli, decyduje i zachowuje kontrolę - BehaviorAI Design Framework

Jakiś czas temu zaczęłam zauważać, że ludzie pytają mnie o zupełnie inne rzeczy niż kiedyś. Nikt już nie pyta, jak zaprojektować np. dobry formularz czy stronę. Pytają, jak zaprojektować sytuację, w której człowiek ufa systemowi tyle, ile powinien. Ani grama więcej, ani grama mniej.

To pytanie nie mieściło się w klasycznym UX. Musiałam po prostu zbudować sobie własny język, żeby móc na nie odpowiadać. I okazuje się, że nie jestem w tym sama. Na rynku istnieje już osobne hasło poświęcone temu zjawisku: human AI interaction, w skrócie HAX albo HAII. To młoda gałąź badań, wyrastająca z klasycznego human computer interaction, ale traktująca AI zupełnie inaczej niż komputer traktowano przez ostatnie czterdzieści lat.

Wikipedia definiuje human AI interaction jako obszar badań i poddziedzinę human computer interaction, która koncentruje się na doświadczeniu użytkownika i czynnikach psychologicznych. Wraz z rozwojem sztucznej inteligencji powstał osobny nurt badający, w jaki sposób ludzie wchodzą w interakcje z AI i jak AI na nich wpływa.

Skąd ta różnica

W tradycyjnym HCI człowiek wydaje polecenia, a maszyna je wykonuje, czyli mamy prosty, jednokierunkowy układ. W relacji człowieka z AI ten układ się rozmywa. AI przestaje być narzędziem, a zaczyna być postrzegane jako aktywny uczestnik interakcji. Sugeruje, rekomenduje, czasem decyduje samodzielnie.

I właśnie dlatego badacze mówią o czterech możliwych trybach tej relacji: współpracy, rywalizacji, konflikcie i symbiozie.

Ja od dawna pracuję właśnie w tym miejscu. Łączę nauki behawioralne, projektowanie doświadczeń i wiedzę o tym, jak działają systemy AI, żeby odpowiadać na pytanie, które moim zdaniem jest dziś najważniejsze w projektowaniu produktów. Nie: co powinno robić AI. Tylko: jak człowiek powinien myśleć, decydować i działać razem z AI.

Model w głowie użytkownika

Jedną z rzeczy, które najbardziej fascynują mnie w tym temacie, jest to, jak bardzo ludzie polegają na swoim wewnętrznym modelu tego, jak działa dany system AI. Ten model buduje się z każdą interakcją. Im więcej ktoś korzysta z narzędzia, tym trafniejsze podpowiedzi potrafi mu dawać, bo lepiej rozumie jego logikę.

Problem w tym, że ten model rzadko jest kompletny. Ludzie wyciągają wnioski z ograniczonych doświadczeń i budują sobie uproszczony obraz tego, co AI potrafi, a czego nie.

To dokładnie ten mechanizm stoi za moim ulubionym paradoksem w tej dziedzinie. Kiedy firma poprawia model, żeby działał lepiej, zespoły złożone z człowieka i AI czasem zaczynają działać gorzej. Nie dlatego, że model jest słabszy. Dlatego, że zaburza się dopasowanie między nowym zachowaniem systemu a starym modelem mentalnym, który użytkownik zdążył sobie zbudować.

To jest coś, co w moim frameworku nazywam kalibracją zaufania, a nie jego maksymalizacją. Celem nie jest, żeby ludzie ufali AI jak najbardziej. Celem jest, żeby ufali mu dokładnie tyle, na ile ono zasługuje w danym kontekście.

Wspólna praca nie zawsze oznacza wspólny sukces

Badania nad współpracą człowieka i AI pokazują coś, co uwielbiam pokazywać klientom, bo obala popularny mit. Intuicyjnie wydaje się, że człowiek plus AI zawsze da lepszy wynik niż sam człowiek albo samo AI. W praktyce to się nazywa synergią i zdarza się rzadziej, niż myślimy.

Znacznie częściej mamy do czynienia z augmentacją, czyli AI po prostu wspiera to, co człowiek i tak by zrobił, bez realnego skoku jakości. A czasem jest jeszcze gorzej. Ludzie zaczynają zbytnio polegać na sugestiach systemu i przestają myśleć samodzielnie, nawet gdy mają informacje, które przeczą temu, co pokazuje AI.

I tutaj wchodzi projektowanie behawioralne. Wiemy już, że proste przypomnienie, żeby aktywnie przeanalizować sytuację, zanim zaakceptuje się rekomendację, potrafi realnie ograniczyć nadmierne poleganie na systemie. To nie jest kwestia interfejsu, tylko zaprojektowania momentu, w którym człowiek ma szansę pomyśleć, zanim zdąży się zgodzić.

Ludzie oceniają nie tylko AI, ale i siebie nawzajem

Jest jeszcze jeden wątek z tego obszaru, który bardzo mnie zaciekawił, bo łączy się wprost z tym, czym zajmuję się przy okazji artykułu 50 AI Act.

Okazuje się, że osoby, które ujawniają w pracy, że korzystały z AI, są częściej postrzegane jako mniej pracowite niż osoby wykonujące to samo zadanie bez takiej informacji. Ujawnienie użycia AI obniża postrzeganą wiarygodność decyzji i pracy danej osoby.

To pokazuje, jak bardzo transparentność wokół AI jest zjawiskiem społecznym i behawioralnym, a nie tylko regulacyjnym checkboxem. Można spełnić literę prawa i jednocześnie zupełnie nie rozumieć, jak ta informacja wpływa na to, jak ludzie oceniają się nawzajem.

Kiedy sam nazywasz coś przy pracy, to się przebudowuje

Ostatnio, pracując nad kolejnymi projektami, sama przebudowałam swój framework. Nie w teorii, tylko w praktyce, przy realnych diagnozach dla klientów. Za każdym razem, kiedy próbowałam nazwać, dlaczego dany moment w produkcie działa albo nie działa, dokładałam kolejną cegiełkę.

W pewnym momencie zorientowałam się, że pięć kroków, które od dawna miałam w głowie, trzeba było poukładać na nowo, żeby dało się je faktycznie stosować krok po kroku, a nie tylko rozumieć jako ideę.

Cały ten obszar, modele mentalne, kalibracja zaufania, augmentacja kontra synergia, percepcja transparentności, to nie są osobne ciekawostki z różnych badań. Tylko elementy jednej większej układanki, którą poukładałam w BehaviorAI Design Framework.

Wygląda dziś tak.

1.Ustal.

Zamiast zaczynać od pytania, jaką funkcję AI dodać do produktu, zaczynam od pytania, jakie zachowanie chcemy zaprojektować. Kto, co, kiedy i po co.

2.Mapuj.

Sprawdzam, jak naprawdę dochodzi do decyzji. Gdzie są bariery, jakie błędy poznawcze wchodzą w grę i w którym dokładnie momencie AI wchodzi w tę ścieżkę.

3.Kalibruj. Ustalam, jak powinna wyglądać współpraca między człowiekiem a AI w tym konkretnym momencie. Kto analizuje, kto decyduje, kto działa, kto weryfikuje.

4.Projektuj. Dopiero teraz wybieram interwencję i wzorzec. Jedno zachowanie, jeden moment, jedna hipoteza. Tutaj pomocna jest biblioteka BehaviorAI.

5.Sprawdź. Testuję, czy rozwiązanie faktycznie zachowuje sprawczość użytkownika i czy transparentność jest naprawdę zauważona i zrozumiana, a nie tylko wygląda dobrze na papierze. Na tym etapie bierzemy również pod uwagę etykę i regulacje.

Dziedzina human AI interaction dopiero się rozwija i wciąż brakuje jej wspólnego języka. Mam wrażenie, że moja praca, łącząca behawiorystykę, projektowanie i regulacje, jest właśnie próbą zbudowania tego języka w praktyce, zamiast czekać, aż powstanie w teorii.

Relacja człowieka z AI już się dzieje, niezależnie od tego, czy ktoś ją świadomie projektuje, czy nie. Wolę być po tej stronie, która ją projektuje.

---

Wikipedia, Human–AI interaction: https://en.wikipedia.org/wiki/Human–AI_interaction

Amershi i in., Guidelines for Human-AI Interaction, CHI 2019: https://doi.org/10.1145/3290605.3300233

Vaccaro, Almaatouq, Malone, When combinations of humans and AI are useful: A systematic review and meta-analysis, Nature Human Behaviour 2024: https://doi.org/10.1038/s41562-024-02024-1

Bansal i in., Beyond Accuracy: The Role of Mental Models in Human-AI Team Performance, AAAI HCOMP 2019: https://doi.org/10.1609/hcomp.v7i1.5285

TopSpeed, BMW Spider-Man In-Car Ads Draw Owner Backlash in 2026: https://www.topspeed.com/bmw-spider-man-in-car-ads-backlash/