Скользкий путь использования искусственного интеллекта и дипфейков для оживления истории.

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи, опубликованной 2 ноября 2021 г.

Чтобы отметить День памяти Израиля в 2021 году, музыкальные ансамбли Армии обороны Израиля сотрудничали с компанией, которая специализируется на синтетических видеороликах, также известных как технология «дипфейков», чтобы оживить фотографии израильско-арабской войны 1948 года.

Они выпустили видео, в котором молодые певцы, одетые в старинную форму и с старинным оружием, исполняли «Хареут», культовую песню, посвященную памяти солдат, погибших в бою. Во время пения музыканты смотрят на выцветшие черно-белые фотографии, которые они держат в руках. Молодые солдаты на старых фотографиях моргают и улыбаются им в ответ благодаря искусственному интеллекту.

Результат невероятный. Прошлое оживает в стиле Гарри Поттера.

В течение последних нескольких лет я и мои коллеги из Центра прикладной этики Массачусетского университета в Бостоне изучали, как повседневное взаимодействие с ИИ меняет то, как люди думают о себе и политике. Мы обнаружили, что ИИ потенциально может ослабить способность людей принимать обычные суждения. Мы также обнаружили, что это подрывает роль случайности в их жизни и может заставить их усомниться в том, что они знают или во что верят о правах человека.

Теперь искусственный интеллект позволяет реанимировать прошлое проще, чем когда-либо. Изменит ли это наше понимание истории и, как следствие, самих себя?

Низкий финансовый риск, высокие моральные издержки

Желание вернуть прошлое к жизни ярким образом не ново. Реконструкции гражданской войны или войны за независимость являются обычным явлением. В 2018 году Питер Джексон кропотливо восстановил и раскрасил кадры Первой мировой войны, чтобы создать «Они не состарятся», фильм, который позволил зрителям XXI века ощутить Великую войну более непосредственно, чем когда-либо прежде.

Живые реконструкции и тщательно обработанные исторические кадры — дорогостоящие и трудоемкие мероприятия. Технология Deepfake демократизирует такие усилия, предлагая дешевый и широко доступный инструмент для анимации старых фотографий или создания убедительных фейковых видеороликов с нуля.

Но, как и в случае со всеми новыми технологиями, наряду с захватывающими возможностями возникают серьезные моральные вопросы. И вопросы становятся еще сложнее, когда эти новые инструменты используются для улучшения понимания прошлого и реанимации исторических эпизодов.

Писатель и государственный деятель XVIII века Эдмунд Берк, как известно, утверждал, что общество — это «партнерство не только между теми, кто живет, но и между теми, кто живет, теми, кто умер, и теми, кому предстоит родиться». Политическая идентичность, по его мнению, – это не просто то, что о ней думают люди. Это не просто продукт нашего собственного производства. Скорее, быть частью сообщества – значит быть частью договора между поколениями – частью совместного предприятия, объединяющего живых, мертвых и тех, кто будет жить в будущем.

Если Берк прав в таком понимании политической принадлежности, технология дипфейков предлагает мощный способ связать людей с прошлым, заключить этот контракт между поколениями. Оживляя прошлое ярким и убедительным образом, технология оживляет «мертвое» прошлое и делает его более ярким и ярким. Если эти изображения вызывают сочувствие и заботу о предках, дипфейки могут сделать прошлое более значимым.

Но эта возможность сопряжена с риском. Одной из очевидных опасностей является создание фальшивых исторических эпизодов. Воображаемые, мифологизированные и фальшивые события могут спровоцировать войны: легендарное поражение 14-го века в битве за Косово до сих пор разжигает сербские антимусульманские настроения, хотя никто не знает, действительно ли сербская коалиция проиграла эту битву османам.

Точно так же вторая атака американских военных кораблей в Тонкинском заливе 4 августа 1964 года была использована для эскалации американского вмешательства во Вьетнаме. Позже выяснилось, что нападения не было.

Атрофия воображения

Раньше устраивать фейковые мероприятия было сложно и дорого. Уже нет.

Представьте себе, например, что стратегически сфальсифицированные дипфейковые кадры событий 6 января в Соединенных Штатах могут сделать, чтобы разжечь политическую напряженность, или что фальшивое видео с заседания Центров по контролю и профилактике заболеваний, которое, по-видимому, унижает вакцины от COVID-19, может сделать с общественностью. усилия по охране здоровья.

В результате, конечно, дипфейки могут постепенно дестабилизировать саму идею исторического «события». Возможно, со временем, по мере развития и повсеместного распространения этой технологии, люди автоматически начнут задаваться вопросом, реально ли то, что они видят.

Приведет ли это к большей политической нестабильности или – как это ни парадоксально – к большей стабильности в результате нерешительности действовать на основе, возможно, сфабрикованных событий – остается под вопросом.

Но помимо опасений по поводу массовой фабрикации истории, меня беспокоят и более тонкие последствия.

Да, дипфейки позволяют нам воспринимать прошлое более живым и, как следствие, могут усилить наше чувство приверженности истории. Но несет ли такое использование технологии риск атрофии нашего воображения – предоставления нам готовых, ограниченных образов прошлого, которые послужат стандартными ассоциациями для исторических событий? Усилием воображения можно представить ужасы Второй мировой войны, землетрясение в Сан-Франциско 1906 года или Парижскую мирную конференцию 1919 года в бесконечных вариациях.

Но будут ли люди продолжать таким образом напрягать свое воображение? Или дипфейки с их реалистичными, трогательными изображениями станут практическими заменителями истории? Я беспокоюсь, что анимационные версии прошлого могут создать у зрителей впечатление, что они точно знают, что произошло, что прошлое полностью присутствует для них, что тогда избавит от необходимости узнавать больше об историческом событии.

Люди склонны думать, что технологии облегчают жизнь. Но они не понимают, что их технологические инструменты всегда переделывают производителей инструментов, вызывая ухудшение существующих навыков, хотя они открывают невообразимые и захватывающие возможности.

Появление смартфонов означало, что фотографии можно было легко публиковать в Интернете. Но это также означает, что некоторые люди больше не видят захватывающих дух видов, как раньше, поскольку они настолько зациклены на том, чтобы запечатлеть «инстаграмный» момент. И заблудиться уже не так, как с появлением GPS. Точно так же дипфейки, созданные ИИ, — это не просто инструменты, которые автоматически улучшат наше понимание прошлого.

Тем не менее, эта технология вскоре произведет революцию в связи общества с историей, к лучшему или к худшему.

Люди всегда лучше изобретали вещи, чем размышляли о том, как эти изобретения влияют на них – «всегда ловче обращаются с объектами, чем с жизнью», как выразился поэт У. Х. Оден. Эта неспособность представить себе изнанку технических достижений – не судьба. Все еще можно замедлиться и подумать о том, как лучше всего пережить прошлое.

Автор: Нир Эйсиковиц, доцент кафедры философии и директор Центра прикладной этики Массачусетского университета в Бостоне .