8 miesięcy temu
Nie tak dawno wybuchła wrzawa i skandal, gdy tuż po swej premierze Gemini, bot AI firmy Google, okazał się skażony algorytmami otwarcie dyskryminującymi osoby białe i otwarcie fałszować historię, byle tylko promować czarnych. Skaza ta niestety nie ogranicza się do tego przypadku. Również Firefly, bot autorstwa firmy Adobe, nie jest wolny od ideologicznego nowotworu – dodajmy, pomimo starań.
Jak wykazały przeprowadzone z wykorzystaniem Firefly testy, także i to narzędzie zwraca rażąco fałszywe odpowiedzi. Fałszywe oczywiście tylko w jedną stronę: przedstawiając wydarzenia historyczne czy osiągnięcia myśli jako dokonania czarnych (oraz czasem innych grup etnicznych).
Nawet tam, gdzie pytający otwarcie poprosił o przedstawienia osób o białej skórze, dostawał wyniki skażone filtrem „różnorodności i inkluzywności”. Pojęcia te, warto pamiętać, to w j. angielskim eufemizmy oznaczające dyskryminację białych, zwłaszcza mężczyzn, i uprzywilejowywanie czarnych/kolorowych.
Jak wynika z oświadczenia firmy Adobe, jej bot projektowano z założeniem dostarczania „komercyjnie bezpiecznych wyników, które nie powielają szkodliwych, rasistowskich stereotypów”. Stąd też efekty pracy bota filtrowane są przez software’owe sito, które rzeczone stereotypy ma wychwytywać.
Jakimś cudem jednak stereotypy w jedną stronę są uważane za bardziej „szkodliwe”, zaś walka z nimi tak jakoś zawsze oznacza sztuczne faworyzowanie czarnych i umniejszanie białych. Można by to uznać za drobnostkę, warto jednak uzmysłowić sobie, jaki wrzask i wściekłość ze strony pewnych grup i środowisk politycznych podniosłyby się, gdyby ten stosunek odwrócono.
Odpryski ideologicznej dżumy
Oddając sprawiedliwość, trzeba jednak zaznaczyć, iż Adobe i tak starała się uniknąć otwartego i pełnego pogardy rasizmu Google’a. Bot Firefly był trenowany wyłącznie z wykorzystaniem zdjęć, do których Adobe ma prawa – w jaskrawym kontraście do Gemini czy ChatGPT, których właściciele, na co dzień zapiekle walczący z piractwem komputerowym, w swoim przypadku uznali je za dopuszczalne.
Adobe ma też opinię firmy odmiennej pod względem kultury korporacyjnej. W przeciwieństwie do wspomnianego giganta jest ona jakoby wolna od spazmów lewicowego, ideologicznego szału i atmosfery strachu, które – jak wynika z wielu relacji – ma przenikać tego ostatnią. Adobe zastosowało po prostu uchodzące za „standardowe” zabezpieczenia przeciw politycznie zapalnym wynikom.
Co, swoją drogą, wiele mówi o etycznej i intelektualnej kondycji tego, co uznaje się dziś za „standard” w dziedzinie walki ze sereotypami. Firma zadeklarowała, iż do Firefly wprowadzi poprawki, i zachęca do zgłaszania jej feedbacku w przypadku niezgodnych z prawdą efektów pracy bota.
