Генеративный искусственный интеллект (ИИ) получает все большее распространение, в том числе и в политике. Изображения Дональда Трампа, насильственно арестованного в Нью-Йорке, или Папы Римского в белом халате — это фейки, в которые многие поверили или хотели поверить, когда они стали вирусными.
26 июня бывший генеральный директор Alphabet Эрик Шмидт предупредил о способности ИИ распространять дезинформацию, заявив аудитории CNBC, что “выборы 2024 года будут беспорядочными, потому что социальные сети не защитят нас от ложного генеративного ИИ”.
Шмидт отметил, что такие компании социальных сетей, как Alphabet, Twitter и Meta, сократили тысячи рабочих мест, занимающихся модерацией контента. Эти должности могли бы помочь выявить глубокие подделки ИИ во время выборов 2024 года.
Таких фальшивых предвыборных кампаний уже предостаточно.
В Торонто кандидат в мэры разместил сгенерированную ИИ фотографию женщины, которая выглядела реалистично, за исключением третьей руки. Тот же кандидат опубликовал фальшивые антиутопические пейзажи города.
С помощью ИИ политтехнологи могут создавать гиперреальные изображения, которые играют на страхах населения. Если избиратели не были напуганы раньше, они будут напуганы сейчас и с большей вероятностью проголосуют за того политика, который лучше всего справляется со страхом, индивидуализируя обмен сообщениями с помощью микротаргетинга.
Риск заключается в том, что предвыборная агитация, в том числе со стороны авторитарных властей, которые используют фейки на выборах для легитимации своей власти, становится еще более оторванной от реальности. Авторитарная политика уже лишена реальности из-за цензуры и дезинформации, скармливаемой с ложечки их населению, а также из-за подчиненных, которые, в свою очередь, кормят диктаторов в таких странах, как Россия и Китай, тем, что они хотят услышать. С помощью ИИ авторитаристы получат еще больше гарантий пребывания у власти.
В демократиях немного лучше. Однако демократия превращается в демагогию, когда толпой манипулируют с помощью слишком большого количества ложной информации, либо слишком радужной, либо слишком ужасной.
ИИ передает технологию, необходимую демагогу, генерируя подделки любого типа, выглядящие и звучащие настолько реально, что в них можно поверить.
“В апреле в Чикаго кандидат, занявший второе место на выборах мэра, пожаловался, что аккаунт в Твиттере, маскирующийся под новостное издание, с помощью искусственного интеллекта клонировал его голос таким образом, что можно было предположить, что он одобряет жестокость полиции”, — пишут Тиффани Хсу и Стивен Ли Майерс в The New York Times.
В политических экспериментах, проводимых Демократическим национальным комитетом, тексты, сгенерированные ИИ, работают по меньшей мере так же хорошо, как и тексты, составленные человеком. Компания Higher Ground Labs, которая инвестирует в технологии для поддержки прогрессивной политики, имеет систему ИИ под названием Quiller, которая одновременно пишет, отправляет и тестирует электронные письма по сбору средств.
Pod Save America создал подделку голоса президента Джо Байдена, произносящего речи, которые он никогда бы не произнёс (и некоторые слова, которые он мог бы сказать).
Некоторые политические эксперты и консультанты по выборам призывают к введению правил, чтобы остановить создание искусственным интеллектом синтетических изображений для политической рекламы.
Регулирование ИИ крайне необходимо, когда речь идет о политике — у нас и так достаточно обманных предвыборных приемов. Нам не нужно “больше и лучше” глубоких подделок, от которых будут зависеть наши политики. Нам нужно обратное.
Андерс Корр получил степень магистра политологии в Йельском университете (2001) и докторскую степень в области государственного управления в Гарвардском университете (2008). Он является директором компании Corr Analytics Inc. и провел обширные исследования в Северной Америке, Европе и Азии. Его последние книги — “Концентрация власти: институционализация, иерархия и гегемония” (“The Concentration of Power: Institutionalization, Hierarchy, and Hegemony”, 2021) и “Великие державы, великие стратегии: новая игра в Южно-Китайском море” (“Great Powers, Grand Strategies: the New Game in the South China Sea”, 2018).
Мнения, выраженные в этой статье, являются мнениями автора и не обязательно отражают точку зрения The Epoch Times.
По The Epoch Times USA
