Многие любят старый sci-fi с летающими на автопилоте такси, голосовым доступом ко всему на свете и мультипаспортом. С изобретением летающего скейта человечество снова поверило, что такие города могут быть реальностью. Но с какими трудностями мы уже столкнулись на пути к светлому будущему?
«Умный город, — говорит определение, — собирает, обрабатывает и использует информацию интернета вещей для эффективного анализа и управления ресурсами, как то нагрузка на транспортную систему, энергоэффективность, водоснабжение и утилизация отходов». Данные о людях и устройствах используют для предотвращения преступлений, оповещения, таргетированного информирования и взаимодействия со школами, больницами, библиотеками и другими социальными службами [1].
Но для Украины, где интернет вещей еще не получил такого распространения, а в Ощадбанке вежливый сотрудник дежурит возле терминала самообслуживания, чтобы нажимать кнопки за посетителей, это определение несколько ограничивается.
Проблем, которые эти ограничения создают (и не только в Украине) несколько, но самых важных три.
Цифровая дискриминация
«Ваш номер мобильного … как это нет?!». Эта фраза ужасала старшее поколение и некоторых консерваторов первые годы нового тысячелетия. Зарегистрироваться куда-то, либо получить услугу, не указав номер мобильного, было все труднее. Это удобно для государства и бизнеса, а мнение незначительной части пользователей, которые хотели как раньше, никого не интересовала.
Сейчас на смену этим словам пришли другие. Хочешь не хочешь, а должен разобраться в смартфоне, установить пару (а то и несколько десятков) приложений и использовать их для того, для чего раньше достаточно было написать заявление. Электронные петиции, электронные ОСМД, вайбер-чаты дома, система Хэлси и Единый билет…
Конечно же, информацию и услуги можно получить и иным путем, но люди, которые не умеют или не могут пользоваться интернетом достаточно хорошо, остаются на обочине социальной жизни. К сожалению, интерфейсы многих приложений даже не допускают, что пользователи могут иметь проблемы со зрением, сложности с распечатыванием текста или трудности с ориентацией во вложенных меню. Гораздо легче проектировать город для прогрессивного, мобильного и активного большинства. Однако все концепции современного градостроительства (начиная с основы основ — Целей устойчивого развития ООН)
утверждают, что развитие не должно отдавать предпочтения способным угнаться за прогрессом, а создавать комфортное пространство (в том числе и информационное) для всех.
Конечно, это не значит, что бумажная документация и линованная бумага для заявлений снова должны захватить мир. Но, думаю, что приложения с большими буквами, озвучиванием текста и возможностью настроить несколько функций (кнопки для платы за коммуналку или записи к семейному врачу) были бы очень полезны. Вместо того, чтобы насмехаться над бабушкофонами, дизайнерам цифровой городской среды стоило бы поучиться у их разработчиков.
Большой брат следит за тобой
Друге побоювання тих, хто знає достатньо про «інтернет речей», це надмірний контроль з боку виробників та замовників цих речей. Переглянувши доступи, які запитують такі звичні нам програми як Facebook чи Skype, можна заробити параною. А якщо додати до них те, що програми мають доступ до мікрофону, геолокації та іншого навіть не повідомляючи власників – параноя просто гарантована.
Звісно ж, «інтернет речей» несе в собі багато корисного, від попереджень про погоду і нагадувань про справи до регулювання міського трафіку та поліпшення соціальних послуг. Проте за все потрібно платити. Зараз користувачі «платять» наданням інформації про себе рекламодавцям. Саме тому ми часто дивуємося, коли нам пропонують в інтернеті ті самі продукти, про які ми лише вчора говорили чи дивилися. Нічого страшного тут немає, аж допоки це можна відслідковувати та вимкнути. Проте, наслідки від ґаджетів, що стежать за власниками, можуть бути й іншими.
В Китаї, наприклад, усі принципи «розумного міста» (чи то вже розумної країни) втілюються в систему соціального кредиту [2]. Ця доволі моторошна система підраховує усі дії громадянина, що мають відображення в інтернеті: зміну сімейного стану, покупки в магазинах, лайки в соцмережах, коло друзів, переміщення, навіть час приходу на роботу. З цієї складної статистики збирається соціальний рейтинг кожної людини. Від нього залежить те, чи дадуть людині кредит, чи дозволять їй селитися у престижних районах або працювати на певних посадах. Навіть дружба з «неправильними» людьми може закрити дорогу до підвищення рівня життя. Окреме дегуманізуюче жахіття – це поля даних, що заповнюються за допомогою збору цієї інформації. Так, наприклад, у даних про жінок, отриманих з бази китайських громадян [3], є поле «BreedReady», тобто «готова до розмноження»…
Второе опасение тех, кто знает достаточно об интернете вещей, — чрезмерный контроль со стороны производителей и заказчиков этих вещей. Просмотрев доступы, запрашиваемые такими привычными программами как Facebook или Skype, можно заработать паранойю. А если добавить то, что программы имеют доступ к микрофону, геолокации и другому даже без ведома владельцев, то паранойя гарантирована.
Конечно же, интернет вещей несет много полезного — предупреждая о погоде, напоминая о делах и даже регулируя городской трафик и улучшая социальные услуги. Однако за все нужно платить, и пользователи платят предоставлением информации о себе рекламодателям. Именно поэтому в интернете нам предлагают именно те продукты, о которых мы только вчера говорили, или которые просматривали. Ничего страшного здесь нет, пока это можно отследить и выключить. Однако последствия от слежки гаджетов за владельцами, могут быть и другими.
В Китае, например, все принципы умного города (или уже умной страны) воплощаются в систему социального кредита [2]. Эта довольно жуткая система подсчитывает все действия гражданина, отражающиеся в интернете — изменение семейного положения, покупки в магазинах, лайки в соцсетях, круг друзей, перемещение, даже время прихода на работу. На основе этой статистики формируется социальный рейтинг. От него зависит, дадут ли человеку кредит, позволят ли поселиться в престижных районах или работать на определенных должностях. Даже дружба с «неправильными» людьми может закрыть дорогу к повышению уровня жизни. Отдельный дегуманизующий ужас — это поля данных, заполняемые на основе собранной информации. Например, в данных о женщинах, полученных из базы китайских граждан [3], существует графа «готова к размножению».
Еще дальше Китай пошел в построении изолированных городов для национальных меньшинств, таких, как уйгуры. Камеры с искусственным интеллектом собирают информацию о несанкционированных скоплениях людей; сканируется содержимое ноутбуков в поисках фото с «плохими» людьми или файлов с запрещенными книгами; отслеживается передвижение; шпионское приложение JingWang Weishi, которое должно быть установлено на телефоне у каждого неблагонадежного, записывает всю активность устройства. Рассказ очевидца [4] звучит как антиутопия. Города региона Синьцзян, где живут уйгуры, — умные и оснащены последними техническими разработками. Однако этот ум недобрый, и совсем не направлен на повышение комфорта жителей.
Вам будет интересно: Эволюция умного города
Не только Китай обращает против людей то, что было создано для них. Последний анализ британского Brexit [5] и украинской предвыборной кампании 2019 года [6] показывает, что для победы использовалась таргетированная реклама, индивидуально созданная на основе собранной (и не всегда этично) информации из соцсетей и интернета вещей. Социально незащищенным категориям обещали выплаты, пацифистам — мир, молодежи — развлечения, патриотам — величие страны… Наверное, впервые формирование общественного мнения в таком объеме произошло благодаря информации, полученной с помощью технологий умного города. Сейчас весь мир работает над поиском «противоядия» от этого, пытаясь вернуть технологии на службу всего человечества, а не конкретных его представителей. Если вам интересно, советую посмотреть на TED Talks доклад Кэрол Кадвалладр, которая наиболее полно говорит о проблеме [7].
Восстание машин
Даже если человечество научится использовать технологии кристально честно, у него остается возможность выстрелить себе в ногу. Например, из-за технических проблем в сети интернета вещей, неправильно обработанных данных или вируса, который поразит технику умного города.
Уже существует список вирусов, поражающих умные тостеры и стиральные машинки [8]. Большинство таких вирусов создает из вещей так называемую «ботоферму», используемую для получения криптовалюты или иных вычислений, требующих больших мощностей. Но такие вирусы почти безвредны по сравнению с теми, которые получают доступ к функциям оборудования. Проблема интернета вещей в его главном назначении: управлять предметами, имеющими физическое воздействие на реальный мир. Утрата из-за вируса документов или фотографий неприятна, но вот плита, способная устроить пожар, или камера, способная маркировать человека как преступника — уже опасны. Конечно, производители умных вещей тщательно работают над безопасностью, но, как и в каждой новой сфере, существует гонка вооружений — новые вирусы подталкивают к изобретению новых методов защиты и наоборот. Однако слабое место не обязательно должно быть в той части программы, которая отвечает за безопасность. Проблема может быть как в сборе самой информации, необходимой для развития умного города, так и в алгоритмах анализа. Специалисты считают [9], что одним из самых больших недостатков искусственного интеллекта, обрабатывающего огромные объемы данных, является и его большим преимуществом — искусственный интеллект не имеет моральной или культурной подоплеки, которую инстинктивно применяют люди при обработке информации. Двойные стандарты, дискриминационные или провокационные утверждения, транслирующиеся в сеть, ИИ обрабатывает как мнения людей. Например, Тай (Tay), экспериментальный чат-бот с ИИ, которому компания Microsoft позволила читать Twitter, уже через сутки работы заключил, что Гитлер был прав и некоторых людей нужно истреблять для всеобщего блага [10]. Теперь крупнейшие компании (как Google и Microsoft) серьезно работают над цифровой совестью для ИИ [11]. Мысль о том, что умный город должен иметь не только голову, но и сердце, понимать истинные потребности человечества, вышла за пределы научной фантастики поздновато, но ученые наверстывают упущенное, посвящая этике ИИ новые и новые исследования.
Конечно, теперь уже практически никто не спорит, что разумные города абсолютно реальное ближайшее будущее. У них множество плюсов, они делают жизнь проще и комфортнее, берут на автопилот много незначительных функций. В современную эпоху перегрузки информацией это столь же важно, как было важно для экспансии изобретение колеса или паруса тысячи лет тому.
Однако проблемы и болезни роста технологического развития городов — это то, о чем нельзя забывать, какими бы радужными ни выглядели перспективы. Умный город должен быть для людей — для всех людей, а не только для тех, кто может идти в ногу с технологиями, или купить доступ к данным всех остальных. Вместе с увеличением присутствия умных технологий в жизни, человечество учиться брать на себя ответственность за делегирование полномочий. Ведь в разумном городе каждый станет «менеджером» целого «подразделения» техники, которому будет предоставлять полномочия, допуск к разному типу информации и ставить задачи.
Искренне надеюсь, что жители даже самого умного города будут рассматривать технологии только как способ повышения уровня комфорта, а не абсолютную необходимость для выживания. Только помня, что они сами несут ответственность и отдают приказы технике, люди смогут остаться людьми.
Текст: Дарья Цепкова
Источники:
[1] ] McLaren, Duncan; Agyeman, Julian (2015). Sharing Cities: A Case for Truly Smart and Sustainable Cities.
[2] China Social Credit System. Alexandra Ma. Business Insider.
[3] Chinese Data Breach Exposes ‘Breed Ready’ Status Of Almost 2 Million Women. Zak Doffman. Forbes.
[4] Концлагерь на 10 миллионов уйгуров. Медуза.
[5] Brexit, dark money and big data. Adam Ramsay. Eurozine.
[6] У нас есть проект Черная библиотека Порошенко: онлайн-стратег Зе. Евгений Шишацкий, Стас Юрасов. Лига.нет
[7] Facebook’s role in Brexit and the threat for democracy. Carole Cadwalladr. TED.
[8] How Is the Internet of Things (IoT) Being Impacted by Malware? Saalex.
[9] This is how AI bias really happens—and why it’s so hard to fix. Karen Hao. Technology Review.
[10] Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day. James Vincent. The Verge.
[11] Artificial intelligence seeks an ethical conscience. Tom Simonte. Wired.