Sankcje FTC: sztuczna inteligencja

FTC ogłosiła propozycje ugód z firmami Cox Media Group, MindSift i 1010 Digital Works w związku z zarzutami, że firmy te wprowadzały klientów w błąd w sprawie usługi marketingowej opartej na sztucznej inteligencji, znanej pod nazwą „Active Listening”.

Link

Według FTC firmy te twierdziły, że usługa ta może wykorzystywać rozmowy rejestrowane z urządzeń inteligentnych konsumentów do kierowania reklam dostosowanych do lokalizacji, a także twierdziły, że konsumenci wyrazili zgodę na tego rodzaju targetowanie. FTC zarzuca, że oba twierdzenia były nieprawdziwe. Usługa nie wykorzystywała danych głosowych z rozmów konsumentów, a konsumenci nie wyrazili zgody na takie targetowanie.

Foto: freepik Magnific

Zgodnie z proponowanymi nakazami firmy mają zapłacić łącznie 930 000 dolarów: Cox Media Group ma zapłacić 880 000 dolarów, natomiast MindSift i 1010 Digital Works – po 25 000 dolarów każda. Środki te mają służyć zrekompensowaniu strat poniesionych przez poszkodowanych klientów CMG.

Dla mnie ta sprawa jest ważna z kilku powodów.

➡️ Pokazuje ona, że jest to ryzyko związane z przestrzeganiem przepisów i zarządzaniem ryzykiem w zakresie technologii (TPRM).

Jeśli firma twierdzi, że jej produkt wykorzystuje sztuczną inteligencję, zaawansowane algorytmy, inteligentne targetowanie, analizę behawioralną lub analizę danych w czasie rzeczywistym, twierdzenia te muszą być dokładne, udokumentowane i możliwe do wyjaśnienia. Sztuczna inteligencja nie może być wykorzystywana jako „magiczna etykieta”.

➡️ Ta sprawa pokazuje, że oświadczenia dotyczące prywatności i zgody muszą być traktowane jako oświadczenia kontrolne. Stwierdzenie, że użytkownicy „wyrazili zgodę”, to nie tylko język marketingowy. Jest to faktyczne przedstawienie podstawy prawnej i zasad zarządzania przetwarzaniem danych.

FTC jasno stwierdziła: kliknięcie w obowiązkowe warunki korzystania z aplikacji nie oznacza automatycznie wyrażenia zgody na otrzymywanie wiadomości.

➡️ Sprawa ta przypomina, że ryzyko wprowadzenia w błąd nie ogranicza się wyłącznie do komunikatów skierowanych do konsumentów.

FTC zarzuciła firmom wprowadzanie w błąd potencjalnych klientów biznesowych poprzez wyolbrzymianie możliwości usługi. Ponadto firmom MindSift i 1010 Digital Works postawiono zarzut dostarczania firmie CMG „środków i narzędzi” służących do wprowadzania klientów w błąd za pośrednictwem materiałów marketingowych, prezentacji sprzedażowych oraz odpowiedzi na pytania klientów.

Podczas niedawnej konferencji Infosecurity Europe w Londynie na niemal każdym stoisku widziałem banery związane ze sztuczną inteligencją. Wiele produktów i usług prezentowano jako „oparte na sztucznej inteligencji”, „wykorzystujące sztuczną inteligencję” lub „wspierane przez sztuczną inteligencję”.

Właśnie dlatego podczas procesu zakupowego organizacje powinny zadać bardzo praktyczne pytanie:

☑️ Na ile jest to marketing — a na ile faktycznie odpowiada prawdzie?

W przypadku każdego produktu lub usługi nabywcy powinni przeprowadzić odpowiednią analizę due diligence w zakresie TPRM.

Autor: Sebastian Burgemejster