Read in English
В мае 2025 года редакция израильского русскоязычного издания Newsru.co.il обратила внимание на многочисленные странные посты сразу на нескольких страницах в Facebook. Каждая публикация состояла из короткой биографии одной из жертв Холокоста, а также портрета. Оказалось, что снимки были сгенерированы с помощью ИИ, а подписи по большей части выдуманы. На этом примере «Проверено» рассказывает, как нейросети (и изъяны в программах монетизации Facebook) помогают жуликам зарабатывать на любителях истории и почему само устройство соцсетей не мешает таким махинациям, а поощряет их.
Редакцию Newsru.co.il заинтересовали фотографии детей, безупречно красивых и изящно одетых. Сомнений в том, что это работа нейросети, не было. Тогда журналисты решили проверить тексты публикаций и обнаружили, что они в большинстве случаев также были фальсифицированы. Как правило, в них использовались имена реальных жертв Холокоста из базы музея «Яд ва-Шем», но указанные в постах даты и места рождения, а также обстоятельства гибели были вымышленными. Кроме того, в эти посты были добавлены разные трогательные детали («играл с дедушкой в шахматы», «любила свою скрипку», «пела колыбельные брату» и т. д.), достоверность которых проверить если и возможно, то очень сложно.
Израильские журналисты в своём тексте не сообщили названия страниц, публиковавших подобный контент, но поделились этой информацией с «Проверено». Мы случайным образом выбрали несколько постов, проверили использованные в них фотографии с помощью ИИ-детекторов и убедились, что изображения были сгенерированы нейросетями. Подтвердились и другие выводы наших коллег о методах создания таких публикаций. Примечательно, что владельцы нескольких страниц могли опубликовать одно и то же изображение с разными подписями или, наоборот, проиллюстрировать одну и ту же историю разными портретами.
Более того, мы нашли несколько постов, в которых использовались реальные фотографии жертв Холокоста, ранее опубликованные музеем Аушвиц-Биркенау на своей странице в Facebook. Однако в таких случаях снимки также подвергались обработке с помощью ИИ.
22 мая, через два дня после выхода публикации Newsru.co.il, на странице музея Аушвиц-Биркенау появилось заявление, авторы которого выразили обеспокоенность в связи с публикацией вымышленных биографий и фотографий жертв Холокоста, созданных с помощью ИИ. Представители музея осудили такие действия, назвав их фальсификацией истории и подчеркнув, что это вредит памяти погибших. Заместитель пресс-секретаря музея Павел Савицкий отметил, что распространение подобных фейковых материалов может сыграть на руку отрицателям Холокоста: «Если появляются фальшивые жертвы, кто-то может заявить, что и всё остальное было выдумано».
В заявлении музея говорилось лишь об одной Facebook-странице с подобными материалами — 90's History. Редакция Newsru.co.il, как рассказали нам коллеги, изучала публикации трёх разных профилей. «Проверено» нашло почти полтора десятка аналогичных пабликов. Два из них («Код 4 5 0» и Ok 30) публикуют исключительно ИИ-посты о жертвах Холокоста, остальные (например, довольно популярные 90's History и Let’s Laugh) постят их вперемешку с другой информацией на исторические темы, часто тоже полностью или частично фальсифицированной с помощью нейросетей.
Сеть или нет?
Обнаруженные «Проверено» страницы исповедуют очень похожую контентную политику, что позволяет предположить связь между ними и централизованное управление. Это довольно распространённая практика, один из самых известных примеров которой — так называемые македонские фермы фейков. В 2016 году группа молодых людей из Македонии ежемесячно зарабатывала тысячи долларов, создавая и распространяя выдуманные новости в поддержку Дональда Трампа, тогда впервые баллотировавшегося в президенты США. Македонцы запустили десятки сайтов, где публиковали заметки с сенсационными заголовками и тем самым привлекли внимание американских пользователей соцсетей. Мотивация молодых людей была исключительно коммерческой: они не интересовались политикой США и просто зарабатывали на рекламе, но в результате ферма превратилась в глобальную площадку для дезинформации. Похожую (и снова македонскую) ферму фейков раскрыли в 2019-м — она занималась, помимо прочего, распространением теорий заговора.
Однако проведённый нами анализ не подтверждает эту гипотезу. Изучив информацию о страницах, время появления первых сгенерированных фотографий, цифровой след предполагаемых владельцев этих групп в Facebook и другие данные, мы пришли к выводу, что объединяет их не так много. Все страницы не единожды переименовывались, скорее всего, ранее управлялись другими администраторами, а часть, вероятно, была взломана и украдена у предыдущих владельцев. Так, уже упомянутая страница 90's History до конца марта 2024 года была профилем Управления государственного пожарного надзора штата Теннесси (там всё ещё доступен соответствующий контент), а другая, Sophia Brown, судя по оригинальному названию, — аккаунтом некоего проекта, связанного с фитнесом.
Две страницы (90's History и Historical Snapshots) якобы управляются американскими юридическими лицами Star Groups LLC и Being Master LLC соответственно. Владельцы профилей даже прошли верификацию Meta, хотя компании с такими названиями и адресами отсутствуют в бизнес-реестрах США (что вызывает большие вопросы к проверкам, которые проводит владеющая Facebook корпорация). Historical Snapshots, кстати, хоть и заявлена как принадлежащая американскому юрлицу, управляется из Мьянмы.
Другими страницами, как указано в их описании, управляют администраторы из самых разных стран — Австралии, Нигерии, Ирана и других. Менеджеры сразу нескольких страниц (например, попавшей в поле зрения наших израильских коллег Timeless Tales) — из Индии.
Тема Холокоста заинтересовала эти паблики в разное время, хотя настоящий вал подобных постов начался в конце апреля — начале мая 2025 года (возможно, это связано с тем, что в этом году израильский национальный День памяти жертв Холокоста и героев сопротивления выпал на 23 апреля). За редким исключением разными были и фотографии, и взятые из базы музея «Яд ва-Шем» имена жертв, и сгенерированные тексты. Иногда некоторые страницы публиковали одни и те же истории, но, скорее всего, работающие по схожей модели администраторы пабликов просто подворовывали посты друг у друга.
Так что все эти страницы — не часть единой сети, а независимые проекты, которые, судя по всему, существуют с одной-единственной целью: заработать.
Ничего личного, только деньги
На страницах, которые проанализировало «Проверено», ежедневно появляется от 10 до 50 постов. Вести проекты такого масштаба, даже если автоматизировать генерацию текстов и картинок, а также их публикацию, — полноценная работа, которой вряд ли занимаются исключительно ради идеи. Впрочем, про голый энтузиазм речь и не идёт, ведь администраторы страниц, судя по всему, попросту пользуются изъянами, которые есть у системы монетизации контента в Facebook. Хотя «Проверено» не может формально доказать, что изученные нами страницы участвуют в соответствующей программе соцсети (эта информация не публикуется в открытом доступе), об этом свидетельствуют многочисленные косвенные признаки.
Выручка Meta почти полностью формируется за счёт продажи рекламы в соцсетях с пользовательским контентом. Так, в 2024 году корпорация заработала $164,5 млрд, из которых более $160 млрд — это доходы от рекламы, размещаемой в лентах и сториз Facebook, Instagram и Threads, а также в Messenger и WhatsApp. Чтобы стимулировать пользователей создавать больше контента, который можно было бы «разбавить» дополнительными рекламными слотами, в августе 2017 года Meta стала делиться с ними доходами и запустила программу монетизации. Довольно долго она распространялась только на видео: сначала горизонтальные, а с 2022 года — ещё и короткие вертикальные. В 2023 году заработала программа Performance Bonus, которая поощряла авторов текстов и фотографий, а в октябре 2024-го все существовавшие на тот момент программы были объединены в единую систему Facebook Content Monetization beta. В том же 2024 году Meta выплатила создателям контента на Facebook $2 млрд.
Размер вознаграждения зависит от количества просмотров, комментариев, реакций и репостов каждой публикации. Эксперты утверждают, что в среднем за каждую такую единицу вовлечённости Facebook платит около $0,0065. При очень больших охватах вознаграждение может рассчитываться по более выгодной ставке, но основная масса создателей контента зарабатывает около $10–20 в день. Это очень мало для жителей развитых стран. Однако программа монетизации доступна в том числе на Филиппинах, в Индии, Колумбии, Таиланде, Индонезии и Мексике, где такой заработок может быть вполне привлекательным для небогатого населения, тем более если какой-нибудь из многочисленных постов выстрелит. Например, эта публикация 90's History про жертв Холокоста собрала 9600 лайков, почти 1270 комментариев и больше 970 репостов и могла принести администратору страницы около $77. Даже для жителей США или Западной Европы такие доходы, особенно при размещении сотен постов в месяц, могут оказаться неплохой прибавкой к зарплате.
Все страницы, изученные «Проверено», были зарегистрированы или переформатированы уже после запуска Performance Bonus. Для участия в программе монетизации необходимо получить приглашение от Facebook (либо напрямую, либо после подачи соответствующей заявки). Хотя соцсеть не раскрывает, по каким критериям выбирает страницы, получающие такое приглашение, известно, что большое внимание уделяется количеству подписчиков. Для Performance Bonus эксперты называли минимальным порогом 10 000 подписчиков, после введения Facebook Content Monetization beta его якобы снизили, но насколько — достоверно не известно. Вероятно, именно поэтому некоторые страницы, рассказывающие о жертвах Холокоста с помощью сгенерированных ИИ картинок и сфальсифицированных биографий, не создавались с нуля, а были, судя по всему, взломаны и украдены у предыдущих владельцев вместе с уже имеющейся базой подписчиков.
Нововведения в программе монетизации Facebook совпали по времени с бурным развитием нейросетей, которые стали доступны широкому кругу пользователей. Люди со всего мира получили возможность не только генерировать правдоподобные тексты и изображения, но и автоматизировать их публикацию в соцсетях и на сайтах, не обладая узкоспециальными навыками. Так, один пользователь Reddit писал в обсуждении Performance Bonus: «Я создал автоматизированную систему, которая с помощью ИИ генерирует уникальные изображения с вдохновляющими, мотивирующими и трогательными цитатами. Все изображения — оригинальные, и на них можно нанести ваш собственный водяной знак. Все цитаты взяты из постов, которые получили большой отклик в Facebook».
Стоимость создания подобного контента минимальная или даже околонулевая — значительное число моделей, способных генерировать более-менее «человеческие» посты, открыты, могут быть установлены на компьютер или в Google Cloud, а затем донастроены под любые задачи, от генерации и публикации постов в Facebook до рассылки фишинговых писем. Если пользователю лень хотя бы чуть-чуть разобраться в ИИ-сервисах, можно и вовсе воспользоваться наработками «коллег»: существуют сайты, на которых можно найти изображения, сгенерированные нейросетями, или промпты на разные темы, включая Холокост. Наконец, в распоряжении администраторов страниц, которые изучило «Проверено», — открытая база «Яд ва-Шем», из которой можно брать имена, а также страница музея Аушвиц-Биркенау, где ежедневно публикуются несколько постов о жертвах Холокоста. Эти посты легко проанализировать, выбрав в качестве образца для переделки те, что получили наибольший охват. Остаётся лишь переработать их по шаблону с помощью ИИ, добавить иллюстрацию, опубликовать и ждать лайков.
На рекламу тратиться тоже не нужно — алгоритм Facebook сам покажет посты большой аудитории. С 2019 года соцсеть последовательно и планомерно урезала охваты и функции по продвижению, доступные так называемым издателям (то есть редакциям медиа и владельцам сайтов, которые публиковали ссылки на свои материалы в Facebook), в угоду пользовательскому контенту, размещённому исключительно на самой платформе. Нынешний алгоритм работает так, что, если пользователь лайкнул, например, пост музея «Яд ва-Шем», вскоре в его ленте с высокой вероятностью появятся другие посты о жертвах Холокоста. Причём, скорее всего, это будет не публикация «Яд ва-Шем», даже если вы на него подписаны, а контент другой страницы или группы. В 2024 году глава Meta Марк Цукерберг говорил, что до 30% контента, который попадает в ленты пользователей Facebook, составляют посты страниц, на которые они не подписаны, но которые им порекомендовал алгоритм. Качество этого контента и его достоверность мало интересует менеджмент компании, если не возникает жалоб или скандалов.
Наконец, ставка на посты о жертвах Холокоста по-своему беспроигрышная. Люди более эмоционально реагируют на сочетание визуального образа с пронзительным текстом, особенно если речь идёт о трагедиях и детях, а сама тема срезонирует среди пользователей в странах, где работали лагеря смерти, проходили сражения Второй мировой войны, жили или живут большие еврейские общины. Бездумный скроллинг замедляется в нужном месте, оставляет след в виде лайка или комментария, а затем алгоритм услужливо начинает подсовывать в ленту и другие похожие посты.
Как жить дальше
Даже пока ИИ-контент в соцсетях ограничивался вдохновляющими цитатами или курьёзными картинками вроде «Креветочного Иисуса», его распространение в Facebook уже вызывало серьёзную обеспокоенность медиа и исследователей. Однако со временем менеджеры страниц в погоне за аудиторией стали проявлять редкую всеядность и генерировать всё, что может принести им подписчиков, лайки и репосты, а следовательно, и деньги через программы монетизации. Например, в феврале 2025 года техническая обозревательница Business Insider Кэти Нотопулос отмечала, что Facebook заполнен рецептами, которые составлены нейросетями. А осенью 2024 года телеканал CNN обращал внимание на созданные ИИ посты исторической тематики.
Историей интересуется множество людей — в англоязычном сегменте Facebook существует масса популярных тематических групп, на которые подписаны сотни тысяч человек. Вероятно, именно такие пользователи стали целевой аудиторией страниц, попавших в наш разбор (многие из них репостят свои публикации о жертвах Холокоста в профильных группах). Читатели активно реагируют на трогательные истории о детях — жертвах Холокоста и приносят создателям этих постов деньги.
Впрочем, пока одни якобы удовлетворяют свой интерес к истории, а другие на этом зарабатывают, иные пользователи могут использовать такой контент в своих (и далеко не всегда благих) целях. Ещё в 2024 году ЮНЕСКО опубликовало доклад, предупреждающий, что ИИ может представлять угрозу памяти о Холокосте. В докладе говорилось, что злоупотребление ИИ способно привести к распространению ложных и вводящих в заблуждение утверждений на эту тему — как из-за недостатков самих моделей, так и потому, что отрицатели Холокоста будут намеренно использовать их для создания контента, подтверждающего их точку зрения. Это, в свою очередь, может привести к росту антисемитизма и недопониманию одного из важнейших событий ХХ века.
Искусственным интеллектом злоупотребляют не только пользователи, паразитирующие на программах монетизации, но и те, кто рекламирует в соцсетях свои товары и услуги. Недавно фактчекеры из итальянского проекта Open заметили, что в Facebook и X стали вирусными снимки девушки, якобы воюющей в составе ВСУ и поэтому вынужденной со слезами на глазах встречать день рождения на фронте. Выяснилось, что изначально их опубликовали в профилях, рекламирующих интернет-магазины с футболками.
Проблема в том, что соцсети не заинтересованы в ограничении пользователей, распространяющих сгенерированную ИИ ложную информацию. Чем больше любого контента будет на платформах, тем больше времени на них будут проводить люди и, соответственно, тем больше будет возможностей показать им рекламу и на этом заработать. По некоторым оценкам, почти каждый четвёртый пост, опубликованный на Facebook с 2023 по ноябрь 2024 года, написан не живым человеком, а искусственным интеллектом, и с ноября 2022 года, когда был запущен ChatGPT, доля таких постов выросла в 4,3 раза. При этом по итогам прошлого года доход Meta (который, повторимся, почти полностью состоит из поступлений от рекламы) вырос на 22% по сравнению с показателями позапрошлого.
Под давлением общественности и политической конъюнктуры владельцы соцсетей могли вводить механизмы, которые сдерживали распространение недостоверной информации, в том числе сгенерированных ИИ текстов, фото и видео. Так, в своё время Meta в партнёрстве с независимыми фактчекинговыми организациями запустила программу проверки фактов, но в 2025 году (тоже по политическим соображениям) её свернула — пока что только на территории США, но вскоре она, вероятно, перестанет работать и в других странах. Программу, в которой были заняты сотни профессионалов из разных стран, планируют заменить на особые комментарии обычных пользователей по принципу Community Notes в соцсети X. В США эта система уже заработала, однако ни к одному из нескольких случайно выбранных «Проверено» вирусных постов о детях — жертвах Холокоста соответствующих примечаний добавлено не было. Даже позитивно настроенные в отношении такого подхода эксперты пишут о его уязвимостях перед троллями, скоординированными информационными атаками и обычными человеческими предубеждениями. Исследователи дезинформации и специалисты по проверке фактов и вовсе предостерегают: последствия этих изменений будут значительно более масштабными и угрожающими.
Пресс-служба Meta на момент публикации текста не ответила на просьбы «Проверено» о комментарии.
Фото на обложке: коллаж «Проверено», созданный с помощью Perplexity
Почитать по теме:
- Илья Бер. Fakebook. Что не так с решением Цукерберга отменить программу проверки фактов
- Павел Банников. Марк, Маск и свобода лжи
- Как фейковые обложки стали использовать в рекламе в Telegram и при чём здесь Дудь, Парфёнов и Ходорковский
Если вы обнаружили орфографическую или грамматическую ошибку, пожалуйста, сообщите нам об этом, выделив текст с ошибкой и нажав Ctrl+Enter.
