Złożona innowacyjna oszustwo z użyciem technologii deepfake niedawno wykorzystała imitację Elona Muska podczas transmisji na żywo na YouTube. Pięciogodzinny strumień obejmował zmanipulowany klip wideo Muska pozorującego popieranie fałszywej promocji kryptowaluty z użyciem sztucznej inteligencji do naśladowania jego głosu. Widzowie zostali poinstruowani o dokonaniu depozytu Bitcoinów, Ethereum lub Dogecoinów na określoną witrynę, z oszustwem obietnic podwójnego zwrotu wpłaconej kwoty.
To oszustwo z użyciem deepfake wzbudziło zainteresowanie na platformie, osiągając szczytową publiczność ponad 30 000 osób, chociaż wiarygodność tej liczby jest kwestią dyskusyjną ze względu na możliwość manipulacji botów. Oszuści zdobyli oficjalny znak weryfikacyjny kanału artystycznego dla konta @elon.teslastream, co może sugerować naruszenie konta.
Sytuacja uległa zmianie, gdy portal Engadget skontaktował się z Googlem, co skutkowało usunięciem zarówno wprowadzającego w błąd wideo, jak i powiązanego kanału na YouTube. Takie złośliwe wykorzystanie technologii deepfake nadaje się do wzrostu, pokazując niepokojący trend zwiększającej się wyrafinowania w oszustwach internetowych.
Co więcej, cyberprzestępcy często podają się za popularne osoby lub podmioty, takie jak firmy Tesli i SpaceX Muska, aby zwabić naiwnych użytkowników fałszywymi obietnicami nagród lub ekskluzywnymi ofertami. Te oszustwa stały się zbyt powszechne na wielu platformach społecznościowych, które ukierunkowują się na obserwatorów celebrytów i wykorzystują ich zaufanie w niegodziwych celach. Niedawny incydent z artystą nagranym 50 Centem, w którym jego konta użyto do innego oszustwa, podkreśla powszechne wyzwanie, z którym boryka się społeczność cyfrowa w zakresie bezpieczeństwa i dezinformacji.
Czym są deepfake i w jaki sposób są wykorzystywane w oszustwach?
Deepfake to hiperrealistyczne nagrania wideo lub audio, które wykorzystują sztuczną inteligencję i uczenie maszynowe do tworzenia fałszywej treści, która wygląda jak prawdziwa. Często są wykorzystywane w oszustwach do podszywania się pod znane postacie publiczne czy celebrytów, aby popierać oszukańcze schematy lub manipulować informacjami.
Jakie wyzwania stwarzają te oszustwa?
Oszustwa z użyciem deepfake stanowią poważne wyzwania zarówno dla osób prywatnych, jak i platform. Dla osób prywatnych główne wyzwania obejmują:
– Odróżnianie prawdy od fałszu, ponieważ deepfake potrafią być bardzo przekonujące.
– Ochronę przed stratami finansowymi i kradzieżą tożsamości.
– Radzenie sobie z negatywnymi emocjami spowodowanymi przez tego typu oszustwa.
Dla platform takich jak YouTube, wyzwania obejmują:
– Wykrywanie i usuwanie treści deepfake szybko.
– Ochronę integralności systemów weryfikacyjnych.
– Utrzymywanie zaufania użytkowników i zapobieganie rozprzestrzenianiu się dezinformacji.
Jakie kontrowersje wiążą się z technologią deepfake?
– Obawy etyczne: Deepfake mogą być używane w złych celach, takich jak tworzenie pornografii niezgody, oszustwa i kampanie dezinformacyjne o charakterze politycznym.
– Kwestie regulacyjne i prawne: Często prawo nie nadąża za szybkim postępem technologii, co pozostawia szarą strefę dotyczącą używania deepfake oraz karania za ich tworzenie i dystrybucję.
Zalety:
– W przeciwieństwie do tego, legalne wykorzystanie technologii deepfake obejmuje postępy w filmie i rozrywce, gdzie podobizny aktorów mogą być wykorzystane pośmiertnie lub w celu efektów odmładzających, a także w usługach tłumaczenia języka, zapewniającym naturalne synchronizowanie warg.
Wady:
– Dla ogółu społeczeństwa głównymi wadami są potencjalne oszustwa, jak to było w przypadku oszukańczego nadawania na żywo z udziałem Elona Muska, i szersze podważenie zaufania wizualnym i audiowizualnym mediom.
Dla tych, którzy chcą dowiedzieć się więcej o deepfake i cyberbezpieczeństwie, zalecamy odwiedzenie wiarygodnych źródeł, takich jak Centrum Cyberbezpieczeństwa Australii lub Federalne Biuro Śledcze. Zawsze należy zweryfikować legalność jakiegokolwiek internetowego interesu lub nagrody, zwłaszcza jeśli jesteśmy proszeni o wpłatę kryptowaluty lub innych funduszy.