2 godzin temu
Holenderski urząd ochrony danych nałożył na Ubera 825 mln euro kary za sposób, w jaki platforma wykorzystywała automatyczne systemy do zawieszania kont kierowców — sprawa pokazuje, iż automatyzacja decyzji biznesowych staje się w Europie coraz większym ryzykiem regulacyjnym.
Według Autoriteit Persoonsgegevens Uber w latach 2018–2022 podejmował wobec części europejskich kierowców decyzje wyłącznie automatycznie. Systemy mogły czasowo blokować konta przy podejrzeniu oszustwa, a według regulatora również trwale je dezaktywować w związku z niskimi ocenami klientów. Kierowcy mieli przy tym nie otrzymywać wystarczających informacji o działaniu mechanizmu ani odpowiedniej możliwości interwencji człowieka.
Kara jest drugą najwyższą nałożoną dotąd na podstawie RODO, po 1,2 mld euro dla Meta z 2023 roku. Uber zapowiada odwołanie. Firma twierdzi, iż sankcja jest nieproporcjonalna, a trwałe usunięcie konta nie następowało bez kontroli człowieka. Obecne procedury mają również umożliwiać kierowcom kwestionowanie zawieszeń.
Spór ma znaczenie wykraczające poza platformy przewozowe. RODO ogranicza możliwość podejmowania wyłącznie przez algorytm decyzji, które istotnie wpływają na człowieka. W określonych przypadkach wymagane są zabezpieczenia, w tym możliwość ludzkiej interwencji i zakwestionowania decyzji.
Dla firm oznacza to, iż automatyzacja procesów kadrowych, wykrywania nadużyć, kredytowania czy zarządzania kontraktorami nie jest już wyłącznie projektem technologicznym. Sposób zaprojektowania kontroli człowieka, uzasadnienia decyzji i procedury odwoławczej może mieć bezpośredni wpływ na ryzyko finansowe przedsiębiorstwa. Sprawa Ubera może dodatkowo zachęcić europejskich regulatorów do dokładniejszego sprawdzania systemów, które automatycznie decydują o dostępie ludzi do pracy i dochodu.
