AI-boty próbowały wpłynąć na zakaz jednorazowych e-papierosów w Wielkiej Brytanii

AI nie tylko generuje teksty i obrazy. Może też zostać użyta do masowego tworzenia pozornie obywatelskich głosów w konsultacjach publicznych. Naukowcy opisali właśnie przypadek, w którym automatyczne zgłoszenia miały wpłynąć na debatę o ograniczeniu sprzedaży jednorazowych e-papierosów w Wielkiej Brytanii.

Ponad 90 tysięcy odpowiedzi uznano za fałszywe

Analiza opublikowana w czasopiśmie Tobacco Control dotyczy konsultacji „Creating a smokefree generation and tackling youth vaping”, przeprowadzonej przez brytyjski Department of Health and Social Care w 2023 roku. Wpłynęło 118 756 odpowiedzi, z czego 90 835 — około 76 proc. — urząd uznał za wygenerowane przez programy automatyczne.

Według opisu brytyjskiego resortu podejrzane zgłoszenia często powtarzały się wielokrotnie, napływały z dużą częstotliwością z niewielkiej liczby adresów IP i nie pasowały do sposobu, w jaki konsultację przechodzili ręcznie prawdziwi respondenci. Po ich odrzuceniu do analizy pozostało 27 921 odpowiedzi.

Boty koncentrowały się na jednym pytaniu

Automatyczne odpowiedzi skupiały się niemal wyłącznie na pytaniu o ograniczenie sprzedaży jednorazowych e-papierosów. 90 833 z 90 835 podejrzanych zgłoszeń odpowiedziało właśnie na ten punkt. Ich kierunek był zdecydowany: sprzeciwiały się ograniczeniom.

To zmieniało obraz konsultacji. Po usunięciu zakwestionowanych wpisów 79,6 proc. ważnych odpowiedzi popierało ograniczenia sprzedaży jednorazowych e-papierosów. W materiałach rządowych odsetek dla pytania o ograniczenie dostaw wynosi 79,6 proc., a dla całkowitego zakazu sprzedaży i dostaw — 69 proc.

Nie ustalono, kto stał za kampanią

Autorzy badania opisują ten przypadek jako pierwszy udokumentowany przykład zakrojonej na dużą skalę automatycznej ingerencji w formalne konsultacje dotyczące zdrowia publicznego. Jednocześnie zastrzegają, że na podstawie dostępnych danych nie da się ustalić źródła, intencji ani komercyjnego sponsora kampanii.

Badacze zwracają uwagę, że kierunek i skala zgłoszeń przypominają wcześniejsze próby wpływania na konsultacje przez skoordynowane masowe odpowiedzi. To jednak nie jest dowód, że za opisaną operacją stała konkretna firma lub branża. Takie rozróżnienie ma znaczenie: wykryto anomalię i jej prawdopodobnie automatyczny charakter, ale nie wskazano sprawcy.

Wnioski wykraczają poza rynek e-papierosów

Problem dotyczy nie tylko brytyjskiej polityki dotyczącej wapowania. Konsultacje publiczne mają pokazywać opinie obywateli, a nie samą liczbę formularzy przesłanych do systemu. Jeżeli automaty mogą tanio stworzyć dziesiątki tysięcy jednokierunkowych zgłoszeń, wynik może wyglądać jak masowy sprzeciw, mimo że nie odzwierciedla opinii realnych uczestników.

W tym przypadku mechanizmy kontrolne zadziałały, ale autorzy badania ostrzegają, że wraz ze wzrostem możliwości botów potrzebne będą stale rozwijane metody wykrywania oraz większa przejrzystość analizy konsultacji. Zbyt słabe zabezpieczenia ułatwiają manipulację, a zbyt restrykcyjne mogą utrudnić udział prawdziwym ludziom. To wyzwanie dla administracji wszędzie tam, gdzie decyzje publiczne coraz częściej powstają na podstawie cyfrowych formularzy.

Źródła

• badanie w „Tobacco Control”
• oficjalna odpowiedź brytyjskiego rządu na konsultację