Jedną z najbardziej wpływowych postaci w tej dziedzinie jest Daniel Kahneman, psycholog, laureat Nagrody Nobla, którego badania nad błędami poznawczymi i szumem decyzyjnym rzucają nowe światło na to, jak projektować bardziej odpowiedzialne i wiarygodne systemy AI.
Od psychologii do sztucznej inteligencji
Korzenie współczesnej AI sięgają psychologii. W 1949 roku Donald Hebb zaproponował teorię uczenia się, w której połączenia między komórkami nerwowymi wzmacniają się, gdy są aktywne jednocześnie. To założenie stało się inspiracją dla pierwszych modeli uczenia maszynowego. Frank Rosenblatt, również psycholog, zbudował perceptron - pierwszy sztuczny neuron uczący się na podstawie danych. A w latach 80. David Rumelhart, wspólnie z Geoffreyem Hintonem i Ronaldem Williamsem, rozwijał mechanizm tzw. propagacji wstecznej, który umożliwił trenowanie głębokich sieci neuronowych. Co ciekawe, w 2024 roku Hinton został za to wyróżniony Nagrodą Nobla w dziedzinie fizyki.
To pokazuje, jak głęboko psychologia zakorzeniona jest w technologicznym DNA AI. Ale historia nie kończy się na strukturze modeli. Psychologia oferuje coś jeszcze ważniejszego - zrozumienie ludzkiego myślenia i jego ograniczeń.
Kahneman, wyjaśnienia i złudzenia
Daniel Kahneman udowodnił, że ludzie często tworzą "wyjaśnienia" swoich decyzji, które nie mają nic wspólnego z rzeczywistymi procesami decyzyjnymi. Często są to racjonalizacje post hoc, czyli narracje budowane po fakcie, by decyzja wydawała się logiczna.
W jednym z najbardziej znanych badań pokazano, że sędziowie wydają bardziej surowe lub łagodne wyroki w zależności od... pory dnia i poziomu głodu. Sami byli przekonani, że kierują się wyłącznie literą prawa.
To ważna lekcja dla projektantów AI. Jeśli wymagamy, by systemy sztucznej inteligencji "wyjaśniały" swoje decyzje, możemy skończyć z równie złudnymi i mylącymi narracjami jak u ludzi. Informatyk Edward Lee ostrzega, że pozorne wyjaśnienia z AI mogą być równie złudne co te ludzkie, a ich przejrzystość może być tylko iluzją.
Szum – cichy wróg spójności i przewidywalności
W książce Noise. A Flaw in Human Judgment, Kahneman i współautorzy (Olivier Sibony i Cass Sunstein) skupiają się na zjawisku szumu poznawczego, czyli losowej zmienności w ocenach i decyzjach, która nie wynika z uprzedzeń, ale z przypadkowych czynników.
Bias (stronniczość) to błąd systematyczny - decyzje są przewidywalnie błędne w określonym kierunku. Noise (szum) natomiast to brak spójności - decyzje są błędne, ale każda inaczej. Szum może być niezauważalny, ale jego wpływ jest ogromny.
Trzy główne rodzaje szumu według Kahnemana:
- Szum poziomu (level noise) różni ludzie systematycznie oceniają te same przypadki bardziej surowo lub łagodnie. Na przykład jeden lekarz częściej przepisuje leki niż inny, mimo że mają podobne dane wejściowe.
- Szum wzorca (pattern noise) różne osoby stosują różne wzorce oceny. Nawet jeśli są w tej samej "średniej", ich decyzje różnią się w zależności od cech konkretnego przypadku.
- Szum okazjonalny (occasion noise) ten sam człowiek podejmuje różne decyzje w zależności od nastroju, pogody, pory dnia, zmęczenia.
Przykłady z praktyki:
- Rekruterzy oceniają identyczne CV inaczej w poniedziałek rano niż w piątek po południu.
- Lekarze diagnozują inaczej w zależności od pory dnia i liczby wcześniej obsłużonych pacjentów.
- W systemach ocen pracowniczych dwaj menedżerowie oceniają tych samych pracowników w zupełnie inny sposób.
Szum w danych uczących i projektowaniu AI
W kontekście AI, szum staje się szczególnie istotny z dwóch powodów:
- Szum w danych wejściowych - AI uczy się na podstawie danych, które pochodzą z ludzkich decyzji. Jeśli te decyzje są pełne szumu (a są), system może uczyć się błędnych wzorców.
- Szum w działaniu modelu - jeśli algorytm jest podatny na losowe zmiany wyników przy tych samych danych wejściowych (np. z powodu losowo inicjalizowanych wag, różnych ścieżek przetwarzania), to sam staje się źródłem szumu.
To rodzi ważne pytania etyczne i projektowe:
- Czy AI powinno naśladować ludzi, skoro ludzie są podatni na szum?
- Jak ograniczyć wpływ szumu w danych treningowych?
- Czy bardziej pożądana jest spójność (brak szumu), czy elastyczność?
W wielu dziedzinach – jak medycyna, prawo, rekrutacja czy scoring kredytowy - redukcja szumu może prowadzić do sprawiedliwszych i bardziej przewidywalnych decyzji.
Inteligencja refleksyjna, metapoznanie i AI przyszłości
Kahneman był również pionierem w rozróżnieniu myślenia szybkiego (system 1) i refleksyjnego (system 2). Obecnie badacze AI pracują nad modelami, które nie tylko podejmują decyzje, ale też potrafią je analizować i oceniać. To krok w stronę metapoznania, czyli "myślenia o myśleniu".
Nowe narzędzia, jak test ARC-AGI opracowany przez Françoisa Cholleta, mają mierzyć zdolność AI do rozwiązywania nowych problemów, bez wcześniejszego treningu, czyli sprawdzają inteligencję płynną. To cecha typowo ludzka, którą AI dopiero zaczyna naśladować.
