Kontrowersja w jednym z zakątków Internetu pokazuje, z jakimi zagrożeniami możemy się wkrótce zetknąć.
Atrioc to pseudonim Brandona Ewinga
Sztuczna inteligencja (AI) przebiła się wreszcie do świadomości głównego nurtu. Narzędzia takie jak ChatGPT fascynują laików swoją potęgą i rozległością wiedzy, podnosząc wycenę firmy OpenAI do prawie 30 miliardów dolarów i wywołując liczne memy na temat ostatecznego zastąpienia ludzi przez chatboty.
Najwyższy czas, ponieważ zwiększa to prawdopodobieństwo, że całe społeczeństwa będą prowadzić szersze rozmowy na temat ogromnego potencjału, jak również namacalnych zagrożeń związanych z tym, że narzędzia AI staną się częścią głównego nurtu. Nic nie ilustruje tego lepiej niż skandal, który wybuchł w zeszłym tygodniu i który wywołał burzę w świecie streamingu gier wideo.
Historia zaczyna się od streamera z Twitcha, który nazywa się Atrioc. Twitch to platforma live-streamingowa, która koncentruje się przede wszystkim na grach wideo i zawodach e-sportowych. Według niektórych szacunków ma około 140 milionów użytkowników miesięcznie (twórcy treści lub streamerzy często mają zarówno darmowe, jak i płatne opcje abonamentowe dla swoich zwolenników), z których wielu to nastolatkowie i dwudziestolatkowie.
Atrioc to pseudonim Brandona Ewinga, streamera z Kalifornii, który ma prawie 320.000 obserwujących na platformie i dodatkowo 115.000 na Twitterze. Skandal rozpoczął się, gdy podczas wielogodzinnego streamu Atrioc na ułamek sekundy wyłączył się z głównego okna swojego komputera. Nagranie wideo ze streamu zostało później umieszczone w serwisie, a uważni widzowie, którzy je przeglądali, zauważyli, że w jednym z okien, które ukazało się po odłączeniu karty, znajdowała się strona internetowa, na której sprzedawano pornografię typu deepfake.
Deepfakes to generowane przez sztuczną inteligencję zdjęcia i filmy wideo, które transponują czyjąś podobiznę na istniejące media, tworząc w ten sposób głębszą formę fałszerstwa, mającą na celu oszukanie widzów. Być może widzieli Państwo takie wersje, w których Barack Obama lub Tom Cruise wydają się mówić rzeczy, których nie powiedzieli w rzeczywistości.
Podobne fałszerstwa istnieją od dawna w Internecie, ale uczenie maszynowe i sztuczna inteligencja, które analizują i syntetyzują muskulaturę twarzy i ruchy, ton głosu i inne ludzkie formy ekspresji, mogą tworzyć o wiele bardziej przekonujące podróbki. W sieci można znaleźć wiele przykładów deepfake’ów polityków i celebrytów, którzy wypowiadają podburzające lub nieprawdziwe stwierdzenia, a w miarę rozwoju technologii mają one ogromny potencjał destrukcyjny w zakresie szerzenia dezinformacji.
Innym popularnym zastosowaniem AI deepfakes w ciemnych zakamarkach Internetu jest wykorzystanie tej technologii do tworzenia pornografii poprzez transpozycję wizerunków zwykłych ludzi lub celebrytów na istniejące media pornograficzne, tworząc filmy i obrazy przedstawiające ich podczas aktów seksualnych.
Atrioc najwyraźniej korzystał z serwisu subskrypcyjnego do tworzenia pornografii typu deepfake. Co więcej, okazało się, że zakupione przez niego zdjęcia były deepfake’ami innych streamerek, które znał i z którymi współpracował, w tym streamerki o imieniu Maya Higa i innej, której pseudonim to Pokimane.
Pokimane odpowiedziała na tę sagę zwięzłym tweetem: Przestańcie seksualizować ludzi bez ich zgody.
Higa natomiast zamieściła dłuższe oświadczenie, w którym porównała swoje deepfake’i do napaści seksualnej, której doświadczyła w 2018 r. i która trafiła w sedno natury tej nowej formy naruszenia, możliwej dzięki postępowi w dziedzinie AI.
W 2018 roku byłam nietrzeźwa na imprezie i bez mojej zgody zostałam wykorzystana do zaspokojenia seksualnego mężczyzny, napisała. Dzisiaj setki mężczyzn wykorzystują mnie do zaspokojenia seksualnego bez mojej zgody. Świat nazywa moje doświadczenie z 2018 roku gwałtem. Świat debatuje nad ważnością mojego dzisiejszego doświadczenia. Debata na temat naszych doświadczeń jako kobiet toczy się, co nie jest szokujące, wśród mężczyzn. Żadna z Was nie powinna się przejmować ani słuchać tego, co jakikolwiek męski streamer mówi o naszych odczuciach.
Higa powiedziała, że jej głównym zainteresowaniem jest ochrona przyrody i zbieranie pieniędzy na schronisko dla zwierząt, które założyła w wieku 22 lat, a w ciągu trzech lat streamowania na Twitchu nie stworzyła żadnych treści seksualnych.
Mimo to moja twarz została skradziona, aby mężczyźni mogli zrobić ze mnie obiekt seksualny, który będą mogli wykorzystać dla siebie – dodała. Jeśli ktoś nie uważa, że to wielka sprawa, że MOJE IMIĘ znajduje się w nagłówkach gazet, gdzie tysiące ludzi komentuje seksualizację MOJEGO CIAŁA wbrew MOJEJ WOLI, to sam jest problemem. Ta sytuacja sprawia, że czuję się obrzydliwa, bezbronna, mam mdłości i czuję się pogwałcona – a wszystkie te uczucia są mi aż za dobrze znane. To nie jest Pana debata. Proszę przestać się tak zachowywać.
Atrioc, streamer, o którym mowa, opublikował na Twitterze pisemne oświadczenie, w którym przeprosił za swoje zachowanie: Przede wszystkim chciałbym przeprosić Mayę i Pokimane. Obydwoje znaleźliście się na zrzucie ekranu, który obiegł internet. Wciągnięto w to Wasze imiona i zseksualizowano Was wbrew Waszej woli. Obie odniosłyście sukces w tej branży pomimo wszystkich rażących, bezpodstawnych seksistowskich prób zranienia lub zamordowania Waszego charakteru w przestrzeni zdominowanej przez mężczyzn. A teraz ja jestem kolejnym facetem na tej długiej liście.
Dodał, że zamierza wycofać się z działalności streamingowej i finansować wysiłki kobiet, które pracują nad usunięciem pornografii przedstawiającej je w Internecie w sposób nieseksowny, a także potępił zwolenników, którzy próbowali go uniewinnić w mediach społecznościowych. W łzawym wideo na Twitchu wraz ze swoją partnerką powiedział, że jest głęboko zażenowany swoim postępowaniem i że jego działania były jednorazowe i nie stanowiły wzorca zachowania. Powiedział, że kategoria zachowania polegająca na tworzeniu i konsumowaniu deepfake porn jest obrzydliwa. Opisał, że jego zainteresowanie sztuczną inteligencją wywołało zainteresowanie deepfake’ami i że to doprowadziło do tego, że kliknął na reklamę deepfake’owej pornografii, co doprowadziło do incydentu.
Przypadek Atrioca jest jednym z kilku ostatnich przypadków oskarżeń o molestowanie seksualne wśród wysoko postawionych streamerów, które przebijają się przez zdominowaną przez mężczyzn branżę, której publiczność często bywa toksyczna wobec kobiet. Mizkif, streamer na Twitchu, który ma 2 miliony obserwujących na Twitchu i prawie 650 tysięcy na Twitterze, na krótko przerwał transmisję i przeprosił po zarzutach, że zbagatelizował przeżycia jednej ze streamerek, która została napastowana seksualnie.
Ale sam przypadek Atrioca pokazuje jeden aspekt wyzwań, jakie niesie ze sobą nieuchronne wejście AI do głównego nurtu świadomości publicznej i popkultury. Podczas gdy memetyzujemy o chatbotach zastępujących dziennikarzy i kwestionujemy dokładność danych, które wypluwają w odpowiedzi na nasze pytania, co jest symptomem dezinformacji i dezinformacji nękających dzisiejszy Internet, warto zastanowić się nad innymi aspektami tej dezorientującej technologii – wynalezieniem i rozprzestrzenianiem się nowych sposobów molestowania, napaści, przemocy i wiktymizacji. Jak zawsze, najbardziej ucierpią na tym kobiety.
Źródło: NLM
