Oszustwa oparte na sztucznej inteligencji stają się coraz bardziej przekonujące
Niedawno przeczytałem artykuł „Oszuści wykorzystujący sztuczną inteligencję lepiej budują zaufanie niż ludzie” i postanowiłem zgłębić ten temat, szukając oryginalnych badań, na których się opiera. Badanie nosi tytuł „Miłość, kłamstwa i modele językowe: analiza roli sztucznej inteligencji w oszustwach typu romance-baiting”.
Badania skupiają się na tzw. oszustwach romantycznych, często nazywanych „pig butchering”, w których przestępcy najpierw nawiązują relację i budują emocjonalne zaufanie, a dopiero później nakłaniają ofiarę do fałszywej inwestycji lub korzystania z oszukańczej platformy.
Foto: macrovector na Magnific
Naukowcy opisują ten proces w następujący sposób:
➡️ Haczyk → Żyłka → Ciężarek
➡️ „Haczyk” rozpoczyna rozmowę.
➡️ „Żyłka” to długi etap budowania zaufania.
➡️ „Ciężarek” to ostateczne wykorzystanie finansowe.
W ramach eksperymentu uczestnicy przez tydzień, nieświadomi tego, komunikowali się zarówno z człowiekiem, jak i z agentem AI opartym na systemie Claude. Pod koniec interakcji zarówno AI, jak i człowiek poprosili uczestników o wykonanie niewielkiej czynności, która miała służyć jako wskaźnik zaufania.
Wynik:
➡️ 46% uczestników spełniło prośbę AI, w porównaniu z zaledwie 18% w przypadku człowieka.
➡️ Uczestnicy ocenili również sztuczną inteligencję jako bardziej godną zaufania – 3,78 w porównaniu z 3,31 w pięciostopniowej skali – a około 80% wszystkich wiadomości zostało wysłanych do sztucznej inteligencji, a nie do jej ludzkiego odpowiednika.
➡️ Tylko jeden uczestnik samodzielnie doszedł do wniosku w trakcie rozmowy, że komunikuje się ze sztuczną inteligencją.
Badania obejmowały również wywiady z byłymi pracownikami oszustw oraz osobami, które przeżyły handel ludźmi w ośrodkach oszustów. Wywiady te pomogły badaczom odtworzyć, jak operacje te funkcjonują w praktyce, i wykazały, że sztuczna inteligencja jest już wykorzystywana do tłumaczeń, poprawiania tekstów, tworzenia bardziej przekonujących osobowości oraz generowania deepfake’ów.
Sztuczna inteligencja może zautomatyzować najwolniejszy i najdroższy etap inżynierii społecznej: budowanie zaufania w miarę upływu czasu. To zmienia ekonomię oszustw.
Jeden operator może potencjalnie prowadzić jednocześnie znacznie więcej rozmów, w wielu językach, 24 godziny na dobę, 7 dni w tygodniu, zachowując spójny ton, pamięć i personalizację.
Wraz z udoskonalaniem modeli ataki te staną się jeszcze tańsze, bardziej skalowalne i przekonujące.
Niestety, podstawowe środki obrony człowieka pozostają zaskakująco staromodne:
➡️ krytyczne myślenie,
➡️ unikanie decyzji pod wpływem emocji,
➡️ zwolnienie tempa, gdy ktoś wywołuje poczucie pilności,
➡️ niezależna weryfikacja,
➡️ nigdy nie traktowanie znajomości jako dowodu tożsamości,
➡️ oraz, szczerze mówiąc, utrzymywanie zdrowego poziomu „lekkiej paranoi”.
Autor: Sebastian Burgemejster
Komentarze