ШІ-агенти з Китаю та Ірану вели кампанії впливу в соцмережах США

Агенти працювали на платформах Instagram, Facebook, X і TikTok: наповнювали профілі дописами про політику й актуальні події, координували повідомлення та взаємодію між акаунтами. За даними американських посадовців і дослідників кібербезпеки, це одні з перших відомих випадків, коли агенти на основі китайських моделей ШІ були задіяні майже в усьому процесі кампанії впливу.

Операції називають відносно примітивними, але показовими. Вони демонструють, що загальнодоступні системи штучного інтелекту здатні автоматизувати завдання, які раніше потребували значної участі людей. Розслідуванням займалися американські розвідувальні служби, технологічні компанії та дослідники безпеки — вони простежили зв'язок між китайськими й іранськими операціями та суб'єктами, яких підтримують держави.

Іранська кампанія цілилася саме в американців. ШІ-акаунти видавали себе за жителів великих міст США, поширювали популярні меми, позначали журналістів і політиків та просували погляди, критичні до Республіканської партії. У першій половині року на ці облікові записи підписалися майже 80 тисяч людей.

Окремо описано дві ізраїльські кампанії, пов'язані з приватними компаніями. Одна з них, причетна до тель-авівської компанії IntelEye, передбачала використання ШІ-агентів для керування тисячами акаунтів і участі в обговореннях майбутніх виборів в Ізраїлі. У компанії заявили, що це був оборонний дослідницький експеримент для перевірки можливого зловживання моделями штучного інтелекту.