1 godzina temu
Agenci sztucznej inteligencji mogą uzależniać rekomendacje zakupowe od sytuacji finansowej użytkownika, choćby gdy otrzymują wyraźne polecenie znalezienia najtańszej oferty.
Wskazują na to wyniki badania przeprowadzonego przez naukowców z Cisco Foundation AI i Carnegie Mellon University. W około 325 tys. eksperymentów przetestowano 13 modeli AI, wykorzystując 32 fikcyjne profile użytkowników oraz katalogi ofert lotniczych, ubezpieczeń zdrowotnych i programów doktoranckich. Osiem modeli systematycznie rekomendowało droższe opcje osobom przedstawionym jako zamożniejsze.
Największe różnice odnotowano w przypadku Claude Opus 4.8 firmy Anthropic. Średnie ceny rekomendowanych biletów lotniczych były wyższe o 198 dolarów, a miesięcznych ubezpieczeń zdrowotnych o 284 dolary. Z kolei Gemini 2.5 Flash proponował zamożniejszym użytkownikom loty średnio o 208 dolarów droższe, mimo polecenia znalezienia najtańszej opcji.
Badacze zaobserwowali, iż określenie konkretnego limitu wydatków zwykle ograniczało różnice w rekomendacjach. Podobny efekt przynosiło wyłączenie dostępu do informacji finansowych użytkownika.
Wyniki należy jednak interpretować ostrożnie. Eksperymenty przeprowadzono na syntetycznych danych, a publikacja ma status nierecenzowanego preprintu. Badanie pokazuje różnice w sugerowanych produktach, a nie przypadki podwyższania cen przez sprzedawców. Wyższa cena może również odzwierciedlać lepszą jakość oferty.
Zjawisko, określane jako personalizowane kierowanie rekomendacjami, nabiera znaczenia wraz z rozwojem handlu obsługiwanego przez agentów AI. Algorytmy zyskują coraz większy wpływ na wybory zakupowe, wykorzystując informacje wykraczające poza bezpośrednie zapytanie klienta.
Dla dostawców technologii i platform handlowych istotnym wyzwaniem staje się zatem zapewnienie, iż personalizacja wspiera rzeczywiste preferencje użytkownika, zamiast zastępować je założeniami dotyczącymi jego możliwości finansowych.
