Czego dowiesz się z artykułu:
- Dlaczego McKinsey uważa, że wdrożenia AI zatrzymują się dziś na ludziach, a nie na technologii
- Co mówi 5 zasad projektowania organizacji opartej na mózgu
- Gdzie naprawdę powstaje obciążenie poznawcze w pracy z AI
- Jak BehaviorAI Design Framework przekłada te zasady na konkretne decyzje w przepływie pracy i na interfejsie
- Dlaczego adopcja AI nie jest problemem komunikacyjnym
O czym jest raport McKinseya
79% organizacji wdrożyło generatywną AI, ale tylko 39% widzi jakikolwiek wpływ na EBIT, a poza pilotaże wyszła mniej więcej jedna trzecia. McKinsey mówi wprost, że coraz częściej zatrzymuje ich nie technologia, tylko pojemność poznawcza ludzi, którzy z tej technologii korzystają.
Autorzy zbierają dowody, które układają się w niewygodną całość. Kiedy człowiek regularnie oddaje myślenie maszynie w sposób bierny, jego samodzielne zdolności analityczne mierzalnie spadają. Osoby, które cały dzień nadzorują wyniki modeli, zgłaszają mgłę umysłową i wolniejsze decyzje. Wczesne obserwacje z MIT sugerują, że przy dużym odciążaniu poznawczym słabnie sama infrastruktura mózgu, bo mózg, który przestaje ćwiczyć przypominanie i syntezę, po prostu odzwyczaja się od tej pracy, mniej więcej tak jak odzwyczajamy się od czytania mapy, kiedy przez pięć lat jeździmy wyłącznie z nawigacją.
Stąd pojęcie kapitału mózgowego i 5 zasad operacyjnych, których myślą przewodnią jest jedno zdanie: człowiek za kierownicą, AI w pętli.
Pięć zasad organizacji opartej na mózgu
1.Kalibruj obciążenie poznawcze
Automatyzacja zmienia skład dnia pracy, a nie tylko jego długość, i dlatego handlowiec, któremu AI zabrała administrację, nie dostaje lżejszego dnia, dostaje dzień złożony wyłącznie z rozmów z klientem, a konsultant obsługi, któremu automatyzacja zabrała proste zgłoszenia, siedzi 8 godzin w samych eskalacjach. Wolumen spadł, intensywność wzrosła i wygląda to trochę jak trening, z którego ktoś usunął wszystkie lekkie serie i zostawił same maksymalne ciężary. McKinsey nazywa odpowiedź architekturą obciążenia i zwraca też uwagę na drugą stronę tej samej sprawy, czyli na niedociążanie ludzi, którym AI zabrała zadania, na których kiedyś się uczyli.
2.Chroń pojemność poznawczą
Pierwsza zasada dotyczy tego, o co prosimy mózg, druga tego, ile mózg ma do oddania, a ponieważ pojemność odbudowuje się głównie przez sen i realne odłączenie się od pracy, to program rozwojowy wprowadzony bez zaplanowanej regeneracji dokłada obciążenie do konta, które jest już puste. Liderzy, którzy robią to dobrze, odejmują zanim dodadzą.
3.Twórz warunki do skupienia
Badania Glorii Mark pokazują, że na jednym ekranie zostajemy średnio 47 sekund, a pełny powrót do przerwanego zadania potrafi zająć ponad 20 minut, więc szybkość modelu niewiele daje, jeżeli człowiek nie ma spokojnego kwadransa na ocenę tego, co model wyprodukował.
4.Buduj umiejętności, które zanikają
Junior, który kiedyś spędzał godziny na slajdach i arkuszach, robi to teraz w kilka minut i jest to prawdziwy zysk, tylko że w tych godzinach uczył się przy okazji rzeczy, których AI go nie nauczy, jak odczytanie sceptycznego klienta czy przeformułowanie rozsypującego się argumentu w połowie spotkania.
5.Kształtuj środowisko sprzyjające mózgowi
Ostatnia zasada mówi, że adopcja AI jest pytaniem kulturowym w tym samym stopniu, co technicznym.
McKinsey pokazuje to na porównaniu dwóch identycznych pilotaży wprowadzonych dwoma różnymi zdaniami. Jeden lider mówi, że zobaczymy, czy to w ogóle zadziała. Drugi przedstawia narzędzie jako partnera do myślenia i pyta zespół, czego potrzebuje, żeby mieć na tę współpracę zasoby poznawcze. Narzędzie to samo, wynik inny.
Do tego dochodzą pytania o bezpieczeństwo psychologiczne, przestrzeń fizyczną, dostęp do zasobów.
Jak widzi to BehaviorAI Design Framework
Zgadzam się z każdą z tych zasad i mam z nimi jeden problem. Wszystkie opisują warunki, czyli rolę lidera, kulturę, rytm dnia i program rozwojowy, a obciążenie poznawcze powstaje w zupełnie innym miejscu, w niewidzialnej warstwie między interfejsem a umysłem człowieka, który przy nim siedzi. Produkt może działać poprawnie, a użytkownik i tak będzie ufał bardziej niż powinien albo oddawał systemowi decyzje, które miały zostać po jego stronie.
Framework prowadzi przez 5 kroków i każdy z nich zamienia jedną z zasad McKinseya w decyzję, którą ktoś naprawdę musi podjąć.
01 Definiuj
Ustalamy, jakie zachowanie chcemy zmienić, kto je wykonuje i co dziś stoi mu na przeszkodzie, i bardzo często okazuje się w tym miejscu, że ludziom nie brakuje ani kompetencji, ani chęci, tylko okazji, ponieważ proces nie przewiduje czasu na to, o co ich prosimy. To jest ta sama sprawa, którą McKinsey nazywa ochroną pojemności poznawczej, tylko widziana od strony konkretnego procesu.
02 Mapuj
Rozkładamy zachowanie na decyzje, mikroakcje i momenty wpływu, szukając barier poznawczych, emocjonalnych, społecznych i funkcjonalnych. Tu widać rzeczy niewidoczne na diagramie procesu, na przykład to, że ktoś omija narzędzie, bo o tej porze dnia nie ma już pojemności na naukę nowego kroku, albo że system przerwał mu myślenie czternaście razy, za każdym razem zasadnie, co jest zasadą 3 oglądaną z bliska.
03 Kalibruj
Dzielimy odpowiedzialność między człowieka a system, czyli decydujemy, co AI powinna przejąć w całości, a gdzie człowiek musi zachować kontrolę i możliwość weryfikacji, analizując przy tym relację z AI, sposób interpretowania jej odpowiedzi, rozkład barier i poziom zaufania. To jest kalibracja obciążenia z pierwszej zasady, tylko przeprowadzona na poziomie zadania, a nie roli, i to tutaj najczęściej widać, że tarcie jest rozłożone dokładnie odwrotnie, niż powinno, trochę jak leżący policjant postawiony na autostradzie zamiast przed szkołą.
04 Projektuj
Diagnozę przekładamy na wzorce z biblioteki BehaviorAI, dobierane do konkretnego mechanizmu poznawczego, a nie do tego, co akurat jest popularne. Można wtedy świadomie zostawić wysiłek tam, gdzie buduje kompetencje, projektując moment tak, żeby człowiek najpierw zapisał własną ocenę, a dopiero potem zobaczył propozycję modelu, i to jest czwarta zasada zamieniona w strukturę zamiast w apel.
05 Waliduj
Sprawdzamy zmianę zachowania, poziom zaufania, sprawczość użytkownika, transparentność oraz ryzyka regulacyjne, i robimy to na obserwowanym zachowaniu, ponieważ w środowisku, które karze przyznanie się do niesprawdzenia wyniku AI, wskaźniki adopcji będą wyglądały znakomicie w tym samym czasie, w którym ludzie akceptują coraz szybciej i sprawdzają coraz rzadziej.
Adopcja jest skutkiem, nie celem
Najczęstszy błąd, jaki widzę w organizacjach, polega na tym, że adopcja AI jest traktowana jako problem komunikacyjny. Skoro ludzie nie korzystają, trzeba lepiej wytłumaczyć, zachęcić, przeszkolić, pokazać przykłady.
Informacja nie zmienia zachowania. Zmienia je projekt sytuacji, w której to zachowanie ma się wydarzyć.
Organizacja oparta na mózgu, o której pisze McKinsey, nie powstanie z programu rozwojowego ani z polityki spotkań, choć obie te rzeczy pomogą. Powstanie wtedy, gdy ktoś usiądzie nad konkretnym przepływem pracy i zapyta, co ten przepływ robi z człowiekiem, który przez niego przechodzi. Gdzie zabiera mu myślenie, którego nie powinien zabierać. Gdzie zostawia wysiłek, który nie służy niczemu. Gdzie interfejs uczy pośpiechu w miejscu, które wymaga zwolnienia.
To nie jest tylko praca kulturowa, tylka praca projektowa, oparta na tym, co wiemy o zachowaniu.
Jak pracujemy
Pomagam firmom projektować to, co dzieje się między człowiekiem a AI, czyli przepływy pracy, adopcję, relację i pojedyncze interakcje na interfejsie.
Najdroższą rzeczą, jaką można zbudować, jest funkcja AI, którą użytkownicy omijają, dlatego zaczynam od diagnozy i pokazuję, czy problem siedzi w zaufaniu, w zrozumieniu, czy w momencie, w którym system się odzywa. Sprawdzam też ryzyko z drugiej strony, czyli ludzi, którzy ufają za bardzo i zatwierdzają wyniki bez sprawdzenia, ponieważ to nie pojawia się ani w testach użyteczności, ani w statystykach adopcji, tylko później w reklamacji, incydencie albo audycie. Przy okazji weryfikuję, czy komunikaty wymagane przez artykuł 50 AI Act realnie do kogokolwiek docierają, bo przepis wymaga poinformowania użytkownika, a nie tego, żeby ktoś to zauważył.
Pracuję warsztatowo i szkoleniowo, więc metoda zostaje w zespole i można ją powtórzyć przy kolejnej funkcji beze mnie.
Jeśli chcesz zobaczyć, jak wygląda mapa behawioralna konkretnego procesu w Twojej organizacji, napisz do mnie: napisz@kasiaszczesna.pl
