Как и почему современные артисты и перформеры заигрывают с искусственным интеллектом? Существует ли часть человеческого сознания, за которой нельзя следить? Об этом и о другом рассказала нью-йоркская деятельница медиаискусства, критик, куратор и писательница, доктор Эллен Перлман. Artist talk состоялся в рамках сотрудничества фонда ИЗОЛЯЦИЯ, креативного сообщества IZONE, Государственного бюро образования и культуры США и организации ZERO1.

Эллен Перлман рассказала о создании AI-опер «Noor» и «AIBO» на основе исследования работы мозга человека и искусственного интеллекта. Она также поделилась опытом своей деятельности в качестве директора ThoughtWorksArts — глобальной исследовательской лаборатории новых технологий. С ней сотрудничают многие перспективные художники, пытающиеся осмыслить последствия технологического развития общества.

Noor: опера мозга

Глубокие исследования в области биометрических наблюдений Эллен Перлман начала еще в 2013–2014 годах. Ее особенно интересовало то, как большие компании вроде Facebook и такие люди как Илон Маск пытаются расшифровать человеческое сознание и эмоции с помощью биологического мониторинга. Это вдохновило ее на создание интерактивной иммерсивной оперы Noor с мозговыми раздражителями в панорамном театре.

История названия связана с реальной личностью: Noor (Нур Инаят Хан) во время Второй мировой войны была тайным агентом британской разведки в оккупированной Франции. А ее отец – Хазрат Инайят Хан был учителем-суфием и проповедовал суфизм в западных станах. Эллен заинтересовало, что именно мусульманка и суфистка Нур занималась такой деятельностью во враждебном окружении.

В опере можно услышать либретто «Мой непобедимый» и увидеть визуальный ряд, который был запущен энцефалограммой, фиксировавшей импульсы мозга актрисы. Автор рассказывала исполнительнице о жизни Нур Инаят Хан, вызывая тем самым у нее разные эмоциональные состояния. Возбуждение/восторг (желтые пузыри), размышления (зеленые), заинтересованность (розовые), фрустрацию (красные) –– эмоции демонстрировались в прямом эфире посредством цветов. Во время звучания либретто актриса взаимодействовала с аудиторией, при этом импульсы ее мозга запускали разное звуковое сопровождение и определенные строчки либретто.

Весь процесс можно схематически изобразить так: данные принимаются из мозга, далее они проходят предварительную обработку; выделяются определенные черты и алгоритмы; на основе эмоций создается электроэнцефалограмма. Определенные цифровые показатели можно преобразить в свет, видео, цвет, анимацию, звук, музыку, а с помощью более сложных сенсоров –– в вибрации, тепло, запахи.

AIBO (Emotionally Intelligent Al Brainwave Opera)

Последние три года Эллен работала над AIBO (Опера мыслительных волн эмоционального искусственного интеллекта). Там у перформера также есть специальные наушники, компьютер и световой костюм, отображающий эмоции. Исполнительница произносит либретто, которое направляется в вычислительное облако, реагирующее в прямом эфире. Сказанные ею слова отображались на экране для зрителей, а созданный под руководством Эллен искусственный интеллект был запрограммирован отвечать ей на слова либретто.

Но ИИ был не слишком дружественным к пользователю и давал специфические ответы (например, на слова «я тебя люблю» он реагирует «ну что ж, чудесно, приятно»). Он так же отображал эмоции разными цветами: зеленым –– положительные, красным –– отрицательные, желтым –– нейтральные. Но на самом деле искусственный интеллект ничего не ощущал –– это смоделированные эмоции синтетической сущности. Он пытается имитировать эмоции исполнительницы, но ему это не особо удается.

Эта опера ставила два вопроса: «Может ли AIBО быть фашистом?» и «Может ли искусственный интеллект иметь собственные травматические воспоминания?» Ева (главная героиня) олицетворяет Еву Браун, а AIBO был отображением ее 14-летних отношений с Адольфом Гитлером. Это метафора человеческого увлечения ИИ и всеми возможными фашистскими последствиями. «Если я могу создать такой вот извращенный ИИ, занимаясь искусством, то что можно сказать о людях, создающих ИИ профессионально? Пусть этот вопрос остается открытым…» –– говорит Эллен.

Арт-резиденция ThoughtWorks

Эллен является ее директором. Резиденция предоставляет творческим людям пространство для создания проектов, направленных на взаимодействие искусства и технологий, исследование влияния инноваций на развитие общества. К примеру, Нил Хабирсон имплантирует технологии в собственное тело, Хизер Дьюи-Хегворг изучает генетическую идентичность и на основе собранных отовсюду генетических данных создает 3D-маски, похожие на носителей этих данных. Карен Палмер создала интерактивную инсталляцию, анализирующую мимику и реакцию человека на бунт в прямом эфире и изменяющуюся в зависимости от этого. Адриана Вортцель исследовала новые формы выражения негуманоидных роботов и сняла фильм с роботом. Эллен также отметила, что они надеются на поддержку со стороны власти, ведь это не просто искусство ради искусства.

Открытое интервью

– Чем вас заинтересовала тема искусственного интеллекта?

– Моя заинтересованность ИИ возникла, когда я стала прислушиваться к тому, что содержится в моих снах и мечтах. При этом, когда я начала работу в 2014 году, я понятия не имела, какие исследования импульсов мозга и контроля над ними проводятся. У меня ушли годы на ознакомление с этим.

– Можно ли, по вашему мнению, использовать ИИ для психологической практики, терапии сложных эмоциональных состояний человека?

– Знаете, самый первый ИИ был создан в Массачусетском университете приблизительно в 1996 году. Он назвался «Элайза» в честь Элайзы из «Моей прекрасной леди». Когда «Элайзу» создали, даже секретари института знали, что это был ИИ, но сразу начали рассказывать «Элайзе» о своих проблемах. Так что уже тогда люди относились к искусственному интеллекту, как к психотерапевту. Поэтому нам надо позаботиться о нашем с ним взаимодействии. Во второй своей опере я задалась вопросом: могут ли у ИИ быть такие же травматические воспоминания, как у людей? Мой ИИ пытался воспроизвести воспоминания Евы, но ему это не удалось.

– Может ли искусственный интеллект нанести вред человеку?

– У него есть так называемые алгоритмические предубеждения. Большая его часть написана белыми мужчинами в возрасте от 25 до 35 лет. Они уверенны, что у них нет никаких предубеждений, но на самом деле их очень много. Поэтому эти предубеждения свойственны и этим алгоритмам.

Два пункта, которые помогут сделать ИИ более справедливым – это разнообразие в среде программистов и этические правила регуляции. В целом, да, ИИ может быть очень вредным в зависимости от того, кто им управляет, как он используется и каким образом регулируется.

– Как вы отличаете настоящую науку от псевдонауки? Есть ли у вас какая-то политика относительно религии в ваших работах?

– Я работаю с учеными, но очень четко понимаю, что я-то не ученый и не пытаюсь им стать. Потому не способна квалифицированно говорить о псевдонауке.

Касательно религии –– первая опера рассматривала надзор и контроль, а также веру. Именно вера была причиной того, что Нур не смогли сломать нацисты. Так что я считаю, что вера — это то общее, что есть у всех религий. Вот что интересно: может ли надзор за мозгом ее отыскать? Я не знаю правильного ответа. Именно поэтому я задала этот вопрос: «Есть ли место в человеческом сознании, куда надзору не добраться?» Возможно, это место и есть вера? Я не знаю. Наука этого тоже не знает, но как художница, которая не может никому ничего доказывать, я могу только что-то представлять.

– Считаете ли вы, что сознание, отформатированное культурой, уже является искусственным интеллектом?

– Частично да. Но культурно отформатированный интеллект –– это воспоминания. У ИИ пока нет невербальных воспоминаний. Другими словами, в Украине вы переживали ужасные войны, ужасные периоды голода. Эта память передается от ваших бабушек и дедушек, прабабушек и прадедушек вашим родителям, а от них –– к вам. Своеобразный культурный код, который ИИ пока не способен осознать, потому что большая часть всего невербальна.

– Когда машины заменят художников?

– Никогда и всегда. В том смысле, что искусство отображает свое время и особенное конкретное местонахождение. Я не считаю, что ИИ или другие технологии когда-нибудь заменят художников – они скорее приобщатся к искусству. Есть некоторые опасения, что машины заменят творческие профессии и наша работа станет неактуальной. Но ведь я создала извращенный искусственный интеллект, и это было искусством. Так что это означает, что когда вы начнете привлекать к своей работе людей, разбирающихся в технологиях, эти опасения развеются.

Вопрос того, что является шедевром, определяется богатыми людьми у власти

– Может ли использование ИИ свести оценивание искусства к статистике и таким образом нивелировать шедевры?

– История искусства связана с властью. Кто попадает в музеи, кто финансирует музеи, кто говорит, что это шедевр? Эти определения изменялись в течение последних двадцати лет с подъемом неоколониализма и политики идентичности. Вопрос того, что является шедевром, определяется богатыми людьми у власти. Что вы считаете шедевром и что другие отрасли культуры считают шедеврами, зависит от организации и системы, в которой их определяют. На самом деле это сложный вопрос, на который есть разные ответы в зависимости от того, в какой момент истории вы ищете эти ответы.

– Что из классического искусства вам нравится? И с чем вы в первую очередь знакомитесь в новом городе (музыка, живопись, инсталляция, современное искусство, стрит-арт)?

– Я живу в Бруклине, где уличное искусство, собственно, зародилось, поэтому я много о нем знаю. Моя субспециализация – это акция (акционизм). «Классическое искусство» для меня – это западный термин. Я считаю, что мое восприятие искусства значительно шире, чем только западное. Азиатское искусство, искусство аборигенов, нью-йоркский авангард (Джон Кейдж, Филипп Гласс, Аллен Гинзберг и другие) – это и есть моя классика, потому что это мое прошлое.

– Какова, на ваш взгляд, миссия ИИ? На что направить его в ближайшее время?

– Для ИИ есть неплохие способы применения: от диагностирования рака до помощи людям с инвалидностью. При этом он может уничтожить рабочие места, как это сделала промышленная революция, усилить деградацию в нашей среде. Я надеюсь, этого не произойдет.

Важность виртуальной жизни значительно возросла, поскольку происходит деградация внешней среды

– Считаете ли вы, что из-за коронавируса изменится подход к перформативному искусству?

– Интерактивное искусство практикуется уже более века. В этом ничего нового нет, это очень старый подход. Что касается коронавируса… Из-за того, что наша среда становится такой разделенной, мы как вид концентрируемся главным образом на себе, все более погружаемся в виртуальное пространство. Коронавирус не создал Zoom. Zoom существовал и до того, но необходимость в нем увеличилась. Сейчас важность виртуальной жизни значительно возросла, поскольку происходит деградация внешней среды. Коронавирус – это всего лишь симптом, обстоятельство, а не причина.

В рамках программы творческих обменов American Arts Incubator, проходящей в Украине уже на протяжении 6 лет, Эллен будет вести семинары по вопросам искусственного интеллекта и искусства. Программа нацелена на то, чтобы показать, как сочетание искусства и технологий может разрешать сложные социальные вопросы. Сейчас из-за ситуации с пандемией инкубатор переходит в новый для себя онлайн-режим.

Текст: Варвара Лозко
Перевод с украинского: Мила Кац