Czym różni się human-AI interaction od klasycznego UX
Human-AI interaction różni się od klasycznego UX tym, że system przestaje być narzędziem wykonującym polecenia, a staje się aktywnym uczestnikiem interakcji. W tradycyjnym human-computer interaction człowiek wydaje polecenie, a maszyna je wykonuje. Układ jest jednokierunkowy i deterministyczny.
W relacji z AI ten układ się rozmywa. System sugeruje, rekomenduje, czasem decyduje samodzielnie. Badacze opisują cztery możliwe tryby tej relacji: współpracę, rywalizację, konflikt i symbiozę. Żaden z nich nie mieści się w pytaniu, czy przycisk jest w dobrym miejscu.
Zmieniło się przez to samo pytanie, które zadają zespoły produktowe. Nikt już nie pyta, jak zaprojektować dobry formularz. Pytają, jak zaprojektować sytuację, w której człowiek ufa systemowi dokładnie tyle, ile powinien. Ani grama więcej, ani grama mniej.
Czym jest model mentalny użytkownika AI i dlaczego bywa błędny
Model mentalny to wewnętrzne wyobrażenie użytkownika o tym, jak działa dany system AI, budowane z każdej kolejnej interakcji. Im dłużej ktoś korzysta z narzędzia, tym trafniejsze polecenia potrafi formułować, bo lepiej rozumie jego logikę.
Ten model rzadko jest kompletny. Ludzie wyciągają wnioski z ograniczonej liczby doświadczeń i budują uproszczony obraz tego, co system potrafi, a czego nie.
Stąd bierze się paradoks, który dobrze pokazuje istotę tej dziedziny. Kiedy firma poprawia model, zespół złożony z człowieka i AI potrafi zacząć działać gorzej. Nie dlatego, że system jest słabszy, tylko dlatego, że rozjeżdża się dopasowanie między nowym zachowaniem systemu a starym modelem mentalnym użytkownika. Ulepszenie modelu bez uwzględnienia tego dopasowania może więc obniżyć skuteczność całego zespołu.
Dlaczego kalibracja zaufania jest ważniejsza niż jego maksymalizacja
Kalibracja zaufania oznacza projektowanie produktu tak, żeby użytkownik ufał systemowi AI proporcjonalnie do jego rzeczywistej wiarygodności w danym kontekście. Celem nie jest, żeby ludzie ufali AI jak najbardziej.
Za duże zaufanie prowadzi do przyjmowania wyników, których nikt nie zweryfikował. Za małe prowadzi do porzucenia narzędzia i powrotu do starego sposobu pracy. Obie sytuacje kosztują, choć koszt tej pierwszej ujawnia się później i bywa dużo wyższy.
Kalibracja zaufania jest trzecim krokiem BehaviorAI Design Framework i w praktyce oznacza decyzję, w którym momencie system ma działać samodzielnie, a w którym zatrzymać się i poczekać na człowieka.
Kiedy współpraca człowieka i AI faktycznie daje lepsze wyniki
Synergia, czyli sytuacja, w której zespół człowieka i AI osiąga lepszy wynik niż każde z nich osobno, zdarza się rzadziej, niż zakłada się w firmach. Metaanalizy badań nad współpracą człowieka i AI pokazują, że częstszym rezultatem jest augmentacja, czyli wsparcie tego, co człowiek i tak by zrobił, bez realnego skoku jakości.
Bywa też gorzej. Użytkownicy zaczynają nadmiernie polegać na sugestiach systemu i przestają myśleć samodzielnie, nawet gdy dysponują informacjami, które przeczą rekomendacji.
Projektowanie behawioralne ogranicza ten efekt. Przypomnienie skłaniające do samodzielnej analizy przed zaakceptowaniem rekomendacji realnie zmniejsza nadmierne poleganie na systemie. To nie jest kwestia wyglądu interfejsu, tylko zaprojektowania momentu, w którym człowiek ma szansę pomyśleć, zanim zdąży się zgodzić.
Jak ujawnienie użycia AI wpływa na ocenę pracownika
Ujawnienie, że w pracy korzystało się z AI, obniża postrzeganą wiarygodność decyzji i pracowitość danej osoby. Ta sama praca oceniana jest gorzej, jeśli towarzyszy jej informacja o użyciu sztucznej inteligencji.
Ma to bezpośrednie znaczenie dla artykułu 50 AI Act, który nakłada obowiązek informowania użytkownika o kontakcie z AI. Przepis wymaga poinformowania, ale nie rozstrzyga, jak ta informacja zadziała społecznie. Firma może spełnić literę prawa i jednocześnie nie rozumieć, jak wprowadzone przez nią oznaczenie zmienia sposób, w jaki ludzie oceniają siebie nawzajem.
Transparentność wokół AI jest więc zjawiskiem behawioralnym i społecznym, nie tylko regulacyjnym punktem do odhaczenia.
Pięć kroków BehaviorAI Design Framework
BehaviorAI Design Framework to metoda, która prowadzi zespół produktowy od ogólnego celu do jednej testowalnej decyzji projektowej w pięciu krokach.
1. Ustal. Punktem wyjścia nie jest pytanie, jaką funkcję AI dodać do produktu, tylko jakie zachowanie chcemy zaprojektować. Kto, co, kiedy i po co.
2. Mapuj. Odtwarzamy, jak naprawdę dochodzi do decyzji. Gdzie są bariery, jakie błędy poznawcze wchodzą w grę i w którym dokładnie momencie AI wchodzi w tę ścieżkę.
3. Kalibruj. Ustalamy, jak ma wyglądać współpraca człowieka z AI w tym konkretnym momencie. Kto analizuje, kto decyduje, kto działa, kto weryfikuje.
4. Projektuj. Dopiero teraz wybieramy interwencję i wzorzec. Jedno zachowanie, jeden moment, jedna hipoteza. Na tym etapie korzystamy z biblioteki wzorców BehaviorAI.
5. Sprawdź. Testujemy, czy rozwiązanie zachowuje sprawczość użytkownika i czy transparentność została faktycznie zauważona i zrozumiana, a nie tylko dobrze wygląda w dokumentacji. Tu uwzględniamy też etykę i wymogi regulacyjne.
Dlaczego ten język dopiero powstaje
Human-AI interaction jest dziedziną młodą i wciąż nie ma ustalonego słownika. Modele mentalne, kalibracja zaufania, augmentacja kontra synergia i percepcja transparentności nie są osobnymi ciekawostkami z różnych badań, tylko elementami jednej układanki.
Relacja człowieka z AI już się dzieje, niezależnie od tego, czy ktoś ją świadomie projektuje. Wolę być po tej stronie, która ją projektuje.
Najczęstsze pytania
Czym jest human-AI interaction?To poddziedzina human-computer interaction badająca doświadczenie użytkownika i czynniki psychologiczne w kontakcie z systemami AI. Różni się od klasycznego HCI tym, że traktuje AI jako aktywnego uczestnika interakcji, a nie narzędzie wykonujące polecenia.
Czym jest kalibracja zaufania do AI?To projektowanie produktu tak, żeby zaufanie użytkownika odpowiadało rzeczywistej wiarygodności systemu w danym kontekście. Zarówno nadmierne, jak i zbyt niskie zaufanie prowadzi do gorszych decyzji.
Czy człowiek plus AI zawsze daje lepszy wynik niż człowiek albo AI osobno?Nie. Badania pokazują, że synergia zdarza się rzadko, a częstszym rezultatem jest augmentacja lub nadmierne poleganie na systemie, które obniża jakość decyzji.
Czym jest BehaviorAI Design Framework?To autorska metoda projektowania warstwy behawioralnej produktów AI, złożona z pięciu kroków: Ustal, Mapuj, Kalibruj, Projektuj, Sprawdź.
Jak artykuł 50 AI Act łączy się z projektowaniem behawioralnym?Artykuł 50 wymaga poinformowania użytkownika o kontakcie z AI, ale nie gwarantuje, że komunikat zostanie zauważony i zrozumiany. Sprawdzenie tego wymaga narzędzi behawioralnych, nie prawnych.
Źródła
Wikipedia, Human–AI interactionAmershi i in., Guidelines for Human-AI Interaction, CHI 2019Vaccaro, Almaatouq, Malone, When combinations of humans and AI are useful, Nature Human Behaviour 2024Bansal i in., Beyond Accuracy: The Role of Mental Models in Human-AI Team Performance, AAAI HCOMP 2019
