Gospodarka cyfrowa jest coraz silniej kształtowana przez subtelne manipulacje znane jako „ciemne wzorce” (dark patterns), które mają na celu wpływanie na wybory konsumenckie dla zysków korporacyjnych. Te powszechne praktyki stały się głęboko zakorzenione w krajobrazie cyfrowym, a firmy odwrotnie inżynierują zasady „szturchańców” (nudges) z ekonomii behawioralnej Daniela Kahnemana. Pierwotnie stworzone po to, by pomagać ludziom podejmować lepsze decyzje by zamiast tego służyły ich własnym interesom finansowym. To wypaczenie zasad ekonomii behawioralnej w celu napędzania zysków platform i e-commerce znajduje się obecnie pod ostrą obserwacją prawodawców na całym świecie a Australia może być kolejnym krajem, który podejmie działania.
Ciemne wzorce manipulują konsumentami bezpośrednio np. poprzez dosprzedaż lub nakłanianie do bardziej opłacalnych dla firm decyzji albo pośrednio, poprzez utrudnianie rezygnacji z usług. Służą również do tzw. „przechwytywania danych”, które można następnie spieniężyć. Chandni Gupta, zastępczyni dyrektora generalnego Consumer Policy Research Centre (CPRC), wpływowego think tanku, ostrzega, że ta praktyka jest tak powszechna, iż większość młodych dorosłych nigdy nie doświadczyła internetu wolnego od takich manipulacji. Co więcej, sztuczna inteligencja (AI) niesie ogromne ryzyko „wzmocnienia” tych praktyk, czyniąc ciemne wzorce jeszcze bardziej wyrafinowanymi i trudniejszymi do wykrycia.
Od perswazji do przymusu: czym są ciemne wzorce?
W istocie, ciemne wzorce subtelnie kierują konsumentów ku decyzjom, które bardziej przynoszą korzyść firmom niż samym użytkownikom. Choć niektórzy mogą argumentować, że to po prostu element marketingu, przekonywanie ludzi do zakupu rzeczy, których niekoniecznie potrzebują - ciemne wzorce wykraczają poza perswazję, zbliżając się do oszukańczych praktyk.
Przykłady ciemnych wzorców obejmują:
- Utrudnianie rezygnacji z subskrypcji;
- Podstępne pozyskiwanie zbyt dużej ilości danych osobowych;
- Wprowadzające w błąd techniki cenowe, np. stosowanie kolorów kojarzących się z promocjami;
- Wzmacnianie lęku przed przegapieniem okazji (FOMO) poprzez techniki sztucznego ograniczania dostępności;
- Zachęcanie do subskrypcji z automatycznym odnawianiem, bez wyraźnej zgody użytkownika.
Gupta podkreśla różnicę między perswazją a przymusem: „Co użytkownik chciał zrobić, a co ostatecznie zrobił? I właśnie w tej luce mieszczą się ciemne wzorce”. Dotyczy to sytuacji, w których użytkownik zamierza anulować subskrypcję, ale zostaje nakłoniony do jej „wstrzymania” lub ostatecznie rezygnuje z rezygnacji i nadal płaci.
Przykłady rynkowe i studium przypadku StubHub
Kilka znanych firm już spotkało się z reakcją regulatorów z powodu stosowania ciemnych wzorców, w tym LinkedIn, Amazon, TikTok, Meta i Epic Games. Federalna Komisja Handlu (FTC) w USA nałożyła na Epic Games grzywnę w wysokości 245 mln dolarów i nakazała zwrot 72 mln dolarów za „wprowadzanie w błąd” użytkowników przy zakupach w grach oraz umożliwienie dzieciom nieświadomego obciążania kart rodziców poprzez „nieintuicyjne, niespójne i mylące układy przycisków”. Amazon i Uber również są na celowniku FTC za utrudnianie rezygnacji z subskrypcji lub rzekome wprowadzanie użytkowników w błąd przy automatycznym odnawianiu usług.
Znaczący przykład wpływu ciemnych wzorców na zyski pochodzi z platformy sprzedaży biletów StubHub. Firma przeprowadziła testy A/B na milionach klientów: połowie pokazywano pełną cenę biletu wraz z opłatami od razu, a drugiej połowie tylko cenę podstawową, z dodatkami doliczanymi później.Wyniki były uderzające:
- Grupa, która widziała „tańszą” cenę podstawową, wydawała średnio o 21% więcej;
- Byli o 14% bardziej skłonni do zakupu.
W związku z tym StubHub został pozwany przez Dystrykt Kolumbii, który twierdzi, że obywatele zapłacili ponad 118 milionów dolarów w ukrytych opłatach. Raport CPRC szacuje, że jeśli takie wzorce byłyby stosowane w całym biznesie StubHub, mogłoby to oznaczać 372 miliony dolarów dodatkowych kosztów rocznie dla klientów, lub równoważny wzrost przychodów. W szerszej skali w całym e-commerce i platformach - globalny roczny wpływ manipulacji wyborami może sięgać setek miliardów, a nawet bilionów dolarów.
Krajobraz regulacyjny: działania globalne i powiązania z prywatnością
Rządy i regulatorzy na całym świecie mobilizują się, by ograniczyć stosowanie ciemnych wzorców. Ich podejścia różnią się - od klasyfikowania ich jako oszustwa po integrowanie z ogólnymi przepisami o nieuczciwych praktykach handlowych.
- Unia Europejska (UE): Akt o usługach cyfrowych (DSA), który wszedł w życie w zeszłym roku, wyraźnie odnosi się do ciemnych wzorców. Nakłada na firmy obowiązek oceny ryzyka manipulacji w projektach UX i zapewnienia organom dostępu do swoich architektur wyboru – pod groźbą wysokich kar liczonych od globalnych przychodów. Komisja Europejska wszczęła postępowania lub zażądała informacji od gigantów takich jak Meta, Google, Microsoft, Apple i Amazon na podstawie DSA. Inne regulacje, jak dyrektywa o nieuczciwych praktykach handlowych, Akt o danych, zaktualizowane RODO i Akt o rynkach cyfrowych również obejmują aspekty ciemnych wzorców.
- Stany Zjednoczone (USA): Wprowadzono przepisy „Click to Cancel”, które zapewniają, że rezygnacja z subskrypcji nie może być trudniejsza niż jej aktywacja. Jak wspomniano, FTC działa przeciwko Epic Games, Amazonowi i Uberowi.
- Australia: Rząd Australii zobowiązał się do zakazania nieuczciwych praktyk biznesowych, wyraźnie wskazując ciemne wzorce jako cel działań. Duży nacisk kładziony jest również na powiązanie z reformą ustawy o prywatności (Privacy Act), której druga faza właśnie się rozpoczyna. Australijska Komisja ds. Konkurencji i Konsumentów (ACCC) w pełni popiera te propozycje i chce, by obejmowały także relacje B2B. Zwraca też uwagę na manipulacje poza środowiskiem cyfrowym, jak etykiety cenowe w supermarketach przypominające specjalne oferty.
Sztuczna inteligencja: wzmacniacz ciemnych wzorców
Rozwój AI otwiera nowy rozdział w historii ciemnych wzorców, czyniąc je hiperspersonalizowanymi i trudniejszymi do wykrycia lub zakwestionowania. Można mieć obawy do zdolności AI do „trafiania do konsumentów w ich najsłabszym punkcie” i personalizacji komunikacji aż do momentu, gdy użytkownik „kliknie tak”. Przykładowo, generatywne podsumowania AI w wyszukiwarkach mogą zamazywać granice między reklamą a wiarygodnym źródłem. Problem dotyczy też interfejsów niewizualnych, jak boty głosowe, gdzie wykrycie ciemnych wzorców będzie jeszcze trudniejsze.
Kluczowym zagrożeniem jest to, że jeśli ciemne wzorce zostaną wbudowane w proces treningu modeli AI, mogą być niemożliwe do usunięcia bez rozpoczęcia od nowa a tym samym dużo trudniejsze do zidentyfikowania przez regulatorów. Ta dynamiczna natura, w przeciwieństwie do statycznych i widocznych elementów jak liczniki ograniczonej dostępności, wymaga od regulatorów poszerzenia narzędzi do „zaglądania pod maskę” działań firm.
Przygotowanie do zmian: apel do firm
Lepiej przygotować się na nadchodzące regulacje, egzekwowanie prawa i konieczność rekompensat, zamiast czekać na kary. W tym podejściu jest potencjalny zysk dla firm, które z wyprzedzeniem przebudują swoje projekty UX, stawiając dobro użytkownika w centrum. Choć niektóre firmy mogą się obawiać utraty przychodów na rzecz mniej etycznej konkurencji, badania CPRC dotyczące pułapek subskrypcyjnych pokazują, że „90% Australijczyków chętnie wróciłoby do systemu lub platformy, gdyby łatwo było z niej zrezygnować”. To sugeruje, że istnieje realny biznesowy sens w tworzeniu „doskonałego doświadczenia” klienta, zamiast zatrzymywania go siłą.
CPRC proponuje również nowe stanowisko: Design Accountability Officer (DAO) podkreślając, że zaufanie powinno stać się podstawową postawą firm. Regulatorzy z kolei są zachęcani do pójścia dalej: wprowadzenia ogólnokrajowego zakazu nieuczciwych praktyk biznesowych, przepisów szczegółowo dotyczących ciemnych wzorców, zwiększenia uprawnień egzekucyjnych, obowiązku rekompensaty oraz kasowania nieuczciwie pozyskanych danych. Zaleca się również, aby firmy udostępniały wyniki testów A/B jako dowód braku intencjonalnej manipulacji.
Niektóre instytucje już działają np. holenderski Urząd ds. Konsumentów i Rynków (ACM) opracował zautomatyzowany detektor ciemnych wzorców do wykrywania wprowadzających w błąd liczników dostępności i przeskanował 30 000 stron internetowych pod kątem zgodności. To połączenie proaktywnego egzekwowania prawa i obowiązku otwarcia projektów UX do kontroli może zapoczątkować systemowe zmiany jeszcze przed pełnym wejściem nowych przepisów w życie.
