Deepfake me, czyli o atrakcyjności, ale i niebezpieczeństwach nowych technologii na TNW Conference
Chris Ume, współzałożyciel Metapgysic i twórca sensacji TikTok, @deepTomCruise, połączył się na żywo ze zgromadzonymi widzami, by opowiedzieć o autentyczności w tworzeniu treści, o tym czy sztucznej inteligencji trzeba się obawiać czy można ją opanować, oraz o etyce hiperrealistycznych treści.
Posługując się kilkoma przykładami z własnych stworzonych treści, gdzie Tom Cruise „robi różne dziwne rzeczy”, i zwracając uwagę, że materiały te osiągnęły liczbę ponad 100 mln wyświetleń w sieci, zaznaczył, że ich głównym celem jest skierowanie uwagi na fenomen zjawiska, jakim jest deepfake, czyli technika obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji, by dowodzić o tym, co już jest możliwe i co jeszcze przed nami.
Ume pokazał po krótce jak wygląda przygotowanie takiego materiału, by stworzyć wiarygodny przekaz. Dwa miesiące zajęło, by, na przykładzie swojego odnoszącego największą popularność materiału, komputer przestudiował twarz gwiazdy filmowej, Toma Cruise’a, żeby aktor mający przejąć jego twarz stał się w najbardziej realistyczny sposób Tomem Cruisem. Pokazał również przykłady, gdzie deepfake używany jest w dubbingowaniu filmów, a w przypadku reklam, jak ich dubbing może ograniczyć konieczność ponownego nagrywania tych samych reklam dla kolejnych krajów, proces odmładzania osób, reedycja starych teledysków. Deepfake ma także stanowić przyszłość gamingu.
Przywołał kolejne efekty wykorzystywane w procesie: nakładanie twarzy, manipulację ustami, tworzenie syntetycznego głosu.
Tak jak w przypadku celebrytów może wydawać się to nieszkodliwą zabawą z osiągnięciami AI, już w przypadku polityków deepfake może jednak stać się niebezpieczną bronią. Padają pytania, czy można w takim razie prawnie ograniczyć wykorzystanie deepfake’ów ? Jak uwrażliwić dziennikarzy na niebezpieczeństwo? Ume stwierdził, że trudno mu odnieść się do tych wątpliwości, gdyż uważa się za twórcę a nie regulatora, niemniej stara sie zwrocic uwagę na potencjalne niebezpieczeństwa płynące z jego działalności.
Zauwazył on jednak, że nie można stosować treści realizowanych za pomocą technologii deepfake do użytku marketingowego bez uzyskania zgody osób zainteresowanych. Cała reszta nie wymaga zgody. Także sam Ume, twórca bazujący na postaci Toma Cruise’a dopiero niedawno przesłał wiadomość do managementu aktora z pytaniem, czy nie ma on nic przeciwko ich działalności. Stało się to dopiero wtedy, kiedy poczuli, że pewne rzeczy wymykają się już spod kontroli.