НАСТАЛ ВРЕМЯ ОТКАЗАТЬСЯ ОТ ПОСЛОВИЦЫ “Я ПОВЕРЮ В ЭТО, КОГДА УВИЖУ” И ПРИНЯТЬ ПОЗИЦИЮ “Я НЕ МОГУ ПОВЕРИТЬ СВОИМ ГЛАЗАМ”

         Возможности инструментов искусственного интеллекта выросли в тандеме с потенциальными угрозами, которые они представляют для нашего информационного пространства.

          В посте в социальной сети Truth от 18 марта 2023 года бывший Президент США Дональд Трамп написал, что ожидает ареста в следующий вторник. Последовала неделя неистовой болтовни в мейнстриме и социальных сетях в ожидании того, что может произойти дальше. Во время этого информационного вакуума сгенерированные искусственным интеллектом изображения, предполагающие арест бывшего президента, широко распространялись, возбуждая противников Трампа и приводя в ярость многих его сторонников. 31 марта большое жюри присяжных Манхэттена предъявило Трампу обвинение в сокрытии платежа, произведенного незадолго до выборов 2016 года, и во вторник, 4 апреля, ему было предъявлено обвинение в суде.

          До предъявления обвинения один набор изображений, сгенерированных с помощью искусственного интеллекта, созданных с помощью Midjourney и опубликованных Bellingcat в Twitter, был исследователь с открытым исходным кодом Элиот Хиггинс 20 марта набрал миллионы просмотров, распространившись на другие социальные платформы и множество новостных сайтов. Обстоятельства необычайной вирусности изображений и спорный политический и культурный характер их тематики могут послужить ориентиром для будущих приложений злонамеренной пропаганды, использующих изображения, сгенерированные искусственным интеллектом, и другие формы синтетических медиа.

      В декабре 2017 года появились некоторые из первых примеров использования средств массовой информации, созданных на основе искусственного интеллекта, в виде порнографии с искусственным интеллектом. В видеороликах “deepfake” замена лиц с помощью искусственного интеллекта изображала сходство знаменитостей без их согласия в откровенных сексуальных сценах. Эти артефакты были синтезированы из общедоступных наборов данных и запущены на оборудовании потребительского класса с открытым исходным кодом; единственным фактором, смягчающим их производство, было терпение и временные затраты, необходимые для создания убедительно реалистичного контента.

         С тех пор возможности инструментов машинного обучения росли в тандеме с потенциальными угрозами, которые они представляют для нашего информационного пространства, поскольку механизмы создания синтетических МЕДИА стали более универсальными и доступными. Многочисленные примеры политически мотивированных злоумышленников, использующих инструменты искусственного интеллекта для обмана, манипулирования и подрыва общественного доверия, уже были задокументированы (и были предсказаны возможные будущие случаи обмана). Следующее поколение искусственного интеллекта может значительно ускорить создание ложных доказательств по требованию с минимальными усилиями, создавая обманы, готовые к немедленному распространению и предназначенные для того, чтобы вызвать реакцию.

         Потенциал пропаганды следующего поколения, созданной с помощью искусственного интеллекта, еще не реализован из-за трех смягчающих факторов, каждый из которых в настоящее время становится все более неактуальным: доступ, технические возможности, а также время и усилия, необходимые для создания и эффективного распространения злонамеренной фальшивки.

       Техническая сложность инструментов искусственного интеллекта и процессов, необходимых для их использования, была значительным препятствием в стремлении создавать подделки в пропагандистских целях. Казалось бы, в одночасье проблема доступа стала спорной благодаря модели “Искусственный интеллект как услуга”, порожденной отраслью, привлекшей с 2013 года 248,90 миллиарда долларов частных инвестиций только в Соединенных Штатах. Организации, имеющие доступ к огромным объемам капитала, петабайтам пространства для хранения данных, командам высококвалифицированных инженеров и непостижимым вычислительным мощностям, позволили любому, у кого есть подключение к Интернету, создавать почти фотореалистичные изображения. Между тем, бремя сопоставления обучающих данных больше не ложится на пользователя. Последнее поколение инструментов позволяет создавать готовые изображения с помощью простых текстовых подсказок. Ранние синтетические МЕДИА изобиловали нелогичными визуальными артефактами, свидетельствующими об ограниченности сложных вычислительных процессов, ответственных за их создание. Но наблюдается устойчивый прогресс в решении устранение непреднамеренных артефактов и контекстуальных деталей, нарушающих иллюзию, таких как обстановка, глубина резкости, точка схода, контрольные индикаторы, такие как искаженные человеческие руки или слова, отображаемые как тарабарщина.

       Тем не менее, вирусное распространение синтетических фотографий ареста Трампа доказало, что нынешние ограничения абсолютного фотореализма могут быть вторичными по отношению к готовности людей заниматься художественной литературой. Изображения не обязательно должны быть реалистичными, чтобы вызвать эмоциональный отклик. Наконец, до недавнего времени было непросто создать жизнеспособные фальшивые доказательства достаточно быстро, чтобы повлиять на данный новостной цикл. В отсутствие контента, создаваемого искусственным интеллектом по запросу, высококачественные подделки требовали как времени, так и ручного труда, ограничивая число плохих актеров, желающих и способных трудиться над созданием синтетических МЕДИА, чтобы повлиять на общественное мнение. Период, в течение которого визуальная пропаганда наиболее эксплуатируема, часто мимолетен, однако каждое новое поколение синтетических медиа-инструментов делает все более быстрые изменения более осуществимыми

        Изображения Трампа являются полезным доказательством того, что ложь, сгенерированная искусственным интеллектом, может процветать в информационном вакууме и наиболее распространена, когда она совпадает с медийным циклом. Предвосхищение бывшим президентом заявления окружного прокурора Нью-Йорка о готовящемся обвинительном заключении оставило больше вопросов, чем ответов, и создало благоприятную среду для распространения лжи. Случай с Трампом напоминает нам о том, что люди склонны тяготеть к убедительным образам в отсутствие достоверной информации. Однако эти выводы не лишены оговорок. Трамп – уникальный пример, и обстоятельства появления изображений и драматический характер их изображения, безусловно, способствовали их вирусному успеху.

        Все еще предстоит добиться прогресса в повышении осведомленности общественности об уникальном вреде пропаганды, генерируемой искусственным интеллектом. Например, несколько основных новостных агентств распространили поддельные фотографии Трампа без нанесения какого-либо водяного знака, чтобы смягчить потенциальный вред, который может возникнуть в результате этого. изображения усиливаются без контекста – угрозы, которые представляют эти технологии, на порядки выше в областях с менее надежными информационными пространствами.

         В различных информационных средах, например, в тех, где нет доверия к институтам, ложные доказательства могут иметь длительные последствия, прежде чем их опровергнут или даже подвергнут сомнению. Исследователи, обсуждающие, как обращаться с этой технологией и ее воздействием, сталкиваются с колоссальной проблемой, начиная с осознания того, какие измышления достижимы с помощью нынешних и будущих технологий искусственного интеллекта.

       Помимо распространения информации, смена парадигмы в том, как мы взаимодействуем со средствами массовой информации и воспринимаем их, имеет решающее значение для повышения устойчивости перед лицом потенциально вредных форм технологических инноваций. Фото и видео, которые с момента своего создания были самым авторитетным источником подтверждения истины, теперь находятся в споре из-за способности искусственного интеллекта подделывать информацию.

       В комментарии The Washington Post Сэм Грегори, исполнительный директор правозащитной организации Witness, предположил, что “цель может заключаться не в том, чтобы убедить людей в том, что произошло определенное событие, а в том, чтобы убедить людей в том, что они не могут ничему доверять, и подорвать доверие ко всем изображениям”. Убедительная, если не сказать несколько пугающая, предпосылка.

       Перед лицом угрозы, которую представляет искусственный интеллект, и в защиту нашего коллективного понимания истины, возможно, не остается места для полумер. Прогресс в борьбе за истину будет нелегко заслужить. Возможно, потребуется отказаться от пословицы “Я поверю в это, когда увижу” и принять позицию “Я не могу поверить своим глазам”. По крайней мере, без проверки. Хотя за последние годы мы добились прогресса и научились лучше отличать правду от лжи, предстоит еще многое сделать.

      Подготовка к миру, изобилующему фотореалистичной ложью, потребует самоанализа и сознательного сопротивления мышечной памяти наших эволюционировавших режимов способы восприятия. Готовность общества участвовать в таких усилиях будет проверена в режиме реального времени.

Макс РИЦЦУТО,

научный сотрудник Лаборатории цифровых криминалистических исследований Атлантического совета (DFRLab).

 (ОПУБЛИКОВАНО В «TECHPOLICY.PRESS»  12 АПРЕЛЯ 2023 г.)