Dość często możemy spotkać się z usługami określanymi mianem sztucznej inteligencji, w skrócie AI (od angielskiego sformułowania artificial intelligence). Biorąc pod uwagę ich obecne stadium rozwoju, mogą stanowić ważne narzędzie w rozwiązywaniu problemów. Od tłumaczy online, modeli językowych i generowania grafiki, po tworzenie muzyki i odrabianie zadań domowych  - AI wspiera wiele aktywności, które wcześniej wymagały dużego nakładu pracy.

Sztuczna inteligencja ma jednak swoje ciemne strony. Internetowi oszuści potrafią być dość kreatywni, dlatego nie może nas dziwić, że znaleźli sposoby na wykorzystanie AI dla własnych korzyści. Dalej w tekście omówimy krótko, w jakich miejscach możemy natrafić na ślady ich pomysłowości.

Zdjęcie jakie jest, każdy widzi

Zacznijmy od usług tworzenia obrazków. Istnieje wiele tego typu rozwiązań, a większość z nich opiera się na tworzeniu grafik na podstawie polecenia, które wpisujemy w konsoli usługi. Dla przykładu, jeśli wpiszemy polecenie "Kolorowy rysunek szarego zająca z marchewką" - najpewniej właśnie taki obrazek wygeneruje sztuczna inteligencja. Zazwyczaj AI daje nam kilka wariantów obrazka, które potem możemy do pewnego stopnia modyfikować dalszymi poleceniami.

Jednym z negatywnych zastosowań tego typu usług jest jednak tworzenie obrazków, których bohaterami są osoby publiczne. Oszuści wykorzystują je do siania fake newsów, zazwyczaj mających oczernić tych ludzi w oczach nieświadomych odbiorców.

Kilka tygodni temu publikowaliśmy tekst, w którym radziliśmy jak rozpoznać takie obrazki: Obrazki AI (poznan.pl). Streszczając go do głównej porady - szukajmy nietypowych elementów zdjęcia, wydających się nienaturalne lub nie na miejscu.

Utrwaleni na taśmie

Wiele oszustw internetowych wykorzystuje technologię manipulowania filmami, znaną jako deep fake. W bardzo dużym skrócie - polega ona na zmanipulowaniu nagrania jakiejś osoby w taki sposób, by wydawała się mówić coś innego, niż w rzeczywistości lub na nałożeniu obrazu twarzy jednej osoby na twarz innej.

Deep fake jest dość często wykorzystywany głównie w materiałach o zabarwieniu satyrycznym - co samo w sobie jest nieszkodliwe, o ile taki materiał jest wyraźnie oznaczony jako deep fake. Są jednak ludzie, którzy celowo rozpowszechniają tak zmanipulowane filmy, starając się sprawić wrażenie ich wiarygodności.

Ten rodzaj filmów jest wykorzystywany np. w tak zwanych "oszustwach na inwestycję" - w których osoba publiczna opowiada na filmie, że warto przelać swoje środki według instrukcji, co ma przynieść szybki zysk. Oczywiście jedynym, kto zyskuje na takim oszustwie, jest twórca deep fake'a.

Manipulacja deep fake jest też oczywiście wykorzystywana do siania dezinformacji. Dobrze przerobione nagranie polityka potrafi wzbudzić niemałą sensację w mediach, często luźno podchodzących do kwestii weryfikacji informacji. Właściwie przygotowany deep fake może też być podstawą do szantażowania wybranej osoby, szczególnie jeśli przedstawia ją w stosunkowo jednoznacznej sytuacji.

Uszy słyszą, prawda milczy

Kolejnym użytecznym rodzajem AI są programy pozwalające generować głos na podstawie nagrania wypowiedzi wybranej osoby lub w sposób w pełni automatyczny. Korzysta z nich między innymi przemysł filmowy i gamedev, gdzie AI jest w stanie znacznie przyspieszyć produkcję treści, przy okazji zmniejszając jej koszty.

Generowanie głosów przez AI idealnie dopełnia filmy deep fake, dodając do nich wiarygodną ścieżkę dźwiękową. Jest jednak używana także w wyjątkowo niebezpiecznym rodzaju oszustw. Przy pomocy AI, oszuści są w stanie wygenerować głos bardzo zbliżony do wypowiedzi bliskiej nam osoby. Zazwyczaj starają się wywołać w ten sposób silne emocje, by przekonać ofiarę do przekazania im pieniędzy. Zachęcamy do zapoznania się z bardzo dobrym opisem takiego oszustwa, opublikowanym niedawno na portalu Sekurak: Oszustwo przez telefon... (sekurak.pl).

Podsumowanie

Sztuczna inteligencja to jedna z tych technologii, których rozwój w najbliższych latach będzie postępował. Tym bardziej powinniśmy rozumieć, że z każdą szansą niesioną przez AI może pojawić się nowe zagrożenie. W dzisiejszym tekście omówiliśmy trzy rodzaje niebezpiecznych treści tworzonych właśnie przy pomocy sztucznej inteligencji.

Choć z jednej strony odradzamy bezkrytyczne podejście do technologii AI, nie chcemy przedstawiać jej jako jednoznacznie szkodliwej. Być może przy jej pomocy rozwiążemy wiele problemów, które na razie wydają się zbyt skomplikowane. Miejmy nadzieję, że wraz z rozwojem AI będzie szedł większy nacisk na bezpieczeństwo tej technologii.

Cykl porad o bezpieczeństwie w Internecie (i nie tylko) powstał z inicjatywy Biura Cyfryzacji i Cyberbezpieczeństwa Urzędu Miasta Poznania. Zachęcamy do obserwowania Infoteki (poznan.pl/infoteka), żeby nie przegapić kolejnych porad i wielu innych, ciekawych informacji z Poznania.

KS