Urząd Ochrony Konkurencji i Konsumentów (UOKiK) rozwija projekt dotyczący wykorzystania sztucznej inteligencji (AI) do wykrywania manipulacyjnych technik stosowanych w handlu internetowym – tzw. dark patterns, podał Urząd. Powstają również zasady korzystania z AI w ochronie konsumentów.
Do dark patterns należą m.in. automatyczne dodawanie produktów do koszyka, domyślne zaznaczanie dodatkowo płatnych usług, ponaglające liczniki czasu i komunikaty sugerujące, że promocja zaraz się skończy albo produkt wyprzeda, presja szybkiego zakupu. Są to również mechanizmy, w których włączenie subskrypcji jest bardzo proste, ale rezygnacja z niej celowo utrudniona, podano.
„Skuteczność dark patterns ma swoje źródło w podstawowych mechanizmach ludzkiej psychiki – w tym, jak przetwarzamy dane i podejmujemy decyzje. Słowo klucz to heurystyki, czyli uproszczone zasady podejmowania decyzji w warunkach niepewności lub ograniczonego czasu. Choć pozwalają podejmować, szybko i niewielkim kosztem, zazwyczaj trafne decyzje, to w kontekście dark patterns stają się narzędziem manipulacji. Wynikiem heurystycznego 'myślenia na skróty’ są błędy poznawcze, które z kolei prowadzą do błędnych decyzji zakupowych” – czytamy w komunikacie.
Projektanci interfejsów e-commerce wykorzystują tę wiedzę z premedytacją, a techniki manipulacji bardzo szybko ewoluują. Wymaga to adekwatnej, technologicznej odpowiedzi ze strony organów ochrony konsumentów takich jak UOKiK. Szansę na dotrzymanie kroku dynamicznie rozwijającemu się rynkowi daje sztuczna inteligencja.
„Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Zwłaszcza, że sektor e-commerce już dziś bez oporów korzysta z zaawansowanych technologii, w tym AI, aby wyszukiwać psychologiczne słabości konsumentów i wykorzystywać je przy projektowaniu interfejsów” – powiedział prezes UOKiK Tomasz Chróstny, cytowany w materiale.
W 2023 r. UOKiK rozpoczął realizację finansowanego ze środków UE projektu „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji” (Detecting and combating dark patterns with Artificial Intelligence). Cel to wypracowanie standardów skutecznego wykorzystania sztucznej inteligencji oraz stworzenie narzędzia AI do wykrywania zwodniczych interfejsów.
W pierwszej fazie projektu zespół UOKiK przeanalizował ponad 300 stron internetowych, głównie z sektora e-commerce, aby rozpoznać najczęściej stosowane dark patterns. Na tej podstawie powstały pierwsze dane do trenowania projektowanego narzędzia AI. Równolegle urząd przeanalizował także skargi konsumentów, co pomogło wskazać sektory, w których takie praktyki pojawiają się najczęściej. Jednocześnie eksperci przeanalizowali kod źródłowy 100 stron internetowych oznaczonych jako stosujące dark patterns, wyodrębniając fragmenty kodu odpowiedzialne za manipulacyjne elementy interfejsu, aby służyły jako dodatkowe dane treningowe dla sztucznej inteligencji, wskazano w komunikacie.
Do pogłębienia analizy posłużyły eksperymenty neuromarketingowe, w których zbadano fizyczne reakcje na bodźce marketingowe przy pomocy technik eye tracking (monitorowanie uwagi wizualnej) i facial tracking (analiza reakcji emocjonalnych) oraz elektroencefalografii (EEG) do pomiaru aktywności mózgu. Całość uzupełniło badanie ankietowe online symulujące realne scenariusze zakupowe.
„W poszukiwaniu rozwiązań AI UOKiK testował możliwości modelu GPT-4 od OpenAI pod kątem wykrywania dark patterns, opierając się na wypracowanych wytycznych. Wyniki testów pilotażowych pomogły stworzyć narzędzie AI, które analizuje układy stron, wykorzystuje wnioski z badań neuromarketingowych i behawioralnych oraz sprawdza kod źródłowy. Kolejna faza projektu skupia się na testowaniu i prezentacji narzędzia oraz na przygotowaniu wytycznych jak wykorzystywać AI w działaniach UOKiK” – zakończono.
Źródło: ISBnews
