Prawo nie nadąża za oszustwami typu deepfake AI, a będzie tylko gorzej

Onfido donosi o ogromnym wzroście liczby ataków typu deepfake, ponieważ rządy ścigają się z nowymi potencjalnymi zagrożeniami

Joe Biden deepfake robocalls, Taylor Swift deepfake porn, uruchomienie Sora: w ciągu ostatnich kilku tygodni byliśmy świadkami coraz bardziej destrukcyjnych skoków rozpowszechnienia generatywnych narzędzi algorytmicznych znanych jako sztuczna inteligencja. Wraz z gwałtownym przyspieszeniem pojawia się wzburzenie, a zaniepokojeni regulatorzy układają politykę tak szybko, jak to tylko możliwe. W UE i Wielkiej Brytanii niektóre przepisy już obowiązują lub są bliskie ich wprowadzeniu. A ustawodawcy północnoamerykańscy szybko zbliżają się do regulacji. Mimo to, biorąc pod uwagę szybkość, z jaką sprawy się rozwijają, może to nie być wystarczająco szybkie.

Dyskusje na temat społecznego wpływu deepfake'ów AI zawsze były podszyte alarmem, ale w ostatnich tygodniach dyskurs zdecydowanie wkroczył na terytorium "nie mów, że cię nie ostrzegaliśmy". Dostawcy usług biometrycznych i identyfikatorów cyfrowych, prawodawcy i setki ekspertów z różnych dziedzin wymachują wielką flagą, która mówi, że technologia deepfake wyprzedza wysiłki zmierzające do jej uregulowania i kontrolowania jej wykorzystania do złośliwych celów, a czas na rozwiązanie problemu nadszedł wczoraj.

Onfido odnotowuje 3000% wzrost liczby deepfake'ów do oszukańczego onboardingu

Na blogu Onfido, Aled Owen, dyrektor ds. polityki globalnej w firmie zajmującej się tożsamością cyfrową, mówi, że podczas gdy deepfake pornograficzne zdjęcia celebrytów podniosły alarm, istniejące i rozwijające się przepisy muszą zarzucić szerszą sieć.

"Podczas gdy wielu polityków i organów regulacyjnych rozważa kolejne kroki w celu rozwiązania problemu deepfake'ów, prawodawstwo musi pójść o krok dalej niż tylko zajęcie się wulgarnymi obrazami" – pisze Owen. Jego lista zagrożeń, które wymagają rozważenia legislacyjnego, obejmuje rozprzestrzenianie się dezinformacji, zwłaszcza w kontekście wyborów; oraz większa erozja zaufania do rzeczywistości.

"Niektórzy eksperci przewidują, że nawet 90 procent treści online może zostać wygenerowanych syntetycznie w ciągu kilku lat" – mówi, ostrzegając przed wielopoziomową rzeczywistością, w której niecertyfikowane informacje stają się ogniem, który sam się podsyca.Twierdzi on, że nawet certyfikacja nie pomoże w odróżnieniu prawdziwego filmu z obraźliwym komentarzem polityka, który chce utrzymać w tajemnicy, a deepfake'iem, który robi to samo. Albo jeśli babcia dzwoni z prośbą o 500 dolarów, jak pogodzić nieufność zasianą przez deepfake'i audio z szansą, że naprawdę potrzebuje pomocy?

Oszustwa i oszustwa związane z tożsamością cyfrową to trzeci poważny problem, na który Owen zachęca prawodawców. Biometryczne deepfake'i są wykorzystywane do otwierania nielegalnych kont bankowych, oszukiwania pracowników i pozwalania oszustom podszywać się pod członków rodziny, przyjaciół lub współpracowników w potrzebie. "W Onfido zaobserwowaliśmy 3000-procentowy wzrost liczby deepfake'ów w ramach prób oszukańczego onboardingu kont" – mówi Owen.

Jest to problem, który dotknie wszystkich.

Stany forsują przepisy dotyczące pornografii

Rządy zdają sobie z tego sprawę, nawet jeśli mechanizmy polityki nie są wystarczająco płynne, aby dostosować się do tak szybkiej ewolucji technologii. Ustawodawcy w Minnesocie, Kentucky i Georgii forsują przepisy wymierzone w deepfake'i i generatywną sztuczną inteligencję. Spodziewane są sprzeciwy ze strony grup zajmujących się prawami do prywatności. Ale z opóźnieniem w działaniu w walce z zagrożeniem, które rośnie z dnia na dzień, ustawodawcy w dużej mierze zgadzają się z przedstawicielem stanu Minnestoa, Zackiem Stephensonem, który powiedział legislaturze stanowej, że "deepfake'i są tutaj, ludzie je robią i musimy być bardzo realni w tym, jak się nimi zajmujemy".

Zgodnie z ustawą Minnesoty HF3625, kandydaci skazani za przestępstwa deepfake musieliby stracić nominację lub urząd. Ustawa Senatu Kentucky 131 to walka mająca na celu deepfake'i, ale stosowana tylko do partii politycznych, kampanii i kandydatów; W raporcie WUKY, filii NPR, senator Gex Williams mówi, że "absolutnie, pozytywnie, nie powstrzyma to nikogo z nas przed byciem przedmiotem deepfake'ów w naszych kampaniach". Ustawa Senatu Georgii nr 392 uznaje za przestępstwo, klasyfikowane jako ingerencja w wybory, tworzenie treści audiowizualnych typu deepfake, mających na celu wpłynięcie na wynik wyborów; kara obejmuje wysokie grzywny i karę więzienia. Spanikowany sponsor ustawy, senator John Albers, ostrzega, że "to dzieje się w czasie rzeczywistym. To się wydarzy w tym cyklu wyborczym, jakiego nigdy wcześniej nie widzieliśmy".

Według artykułu w Atlanta Civic Circle, który cytuje Axios, "na dzień 7 lutego w ponad 40 stanowych legislaturach złożono łącznie 407 projektów ustaw związanych ze sztuczną inteligencją, w porównaniu z 67 projektami ustaw rok temu".

List otwarty nazywa deepfake'i "ogromnym zagrożeniem dla ludzkiego społeczeństwa"

W każdym z wymienionych powyżej stanów incydent z robocallem Bidena w New Hampshire był skłaniający do zastanowienia się, co dokładnie jest stawką w kontrolowaniu tej technologii. Ale wstrząsy wtórne odbiły się echem daleko poza salami rządowymi. Werdykt dotyczy listu otwartego podpisanego przez ponad 300 ekspertów m.in. z dziedzin technologii, sztucznej inteligencji, etyki cyfrowej, bezpieczeństwa dzieci, rozrywki i środowisk akademickich, który wyraża poparcie dla trwających wysiłków legislacyjnych i "zawiera kluczowe zalecenia dotyczące pociągnięcia do odpowiedzialności całego łańcucha dostaw deepfake".

"Potrzeba praw biometrycznych staje się coraz bardziej oczywista, gdy widzimy, jak łatwo można wykorzystać twoją podobiznę do nikczemnych celów" – mówi dr Joy Buolamwini, założycielka Ligi Sprawiedliwości Algorytmicznej i sygnatariuszka listu. Andrew Critch, badacz z Uniwersytetu Kalifornijskiego w Berkeley i główny autor listu, jest jeszcze bardziej pilny: "Deepfake'i są ogromnym zagrożeniem dla społeczeństwa ludzkiego i już teraz wyrządzają coraz większe szkody jednostkom, społecznościom i funkcjonowaniu demokracji. Potrzebujemy natychmiastowych działań, aby zwalczyć rozprzestrzenianie się deepfake'ów".

"Jesteśmy w samym środku technologicznego wyścigu zbrojeń między twórcami deepfake'ów a wykrywaczami deepfake'ów" – mówi Aled Owen z Onfido. "Solidna technologia wykrywania deepfake'ów będzie miała kluczowe znaczenie dla wdrożenia skutecznego prawodawstwa. W tym celu przepisy muszą nie tylko chronić ofiary, ale także umożliwiać innowacje i właściwe przepływy danych, zgodne z przepisami o ochronie danych, aby umożliwić rozwój najnowocześniejszych rozwiązań w zakresie wykrywania deepfake'ów opartych na sztucznej inteligencji.