Багато хто любить стару sci-fi, з її летючими таксі на автопілоті, голосовим доступом до всього на світі та мультипаспортом. Із винаходом летючого скейту людство знову повірило, що такі міста можуть стати реальністю. Та з якими ж перешкодами ми вже зіткнулися на шляху до світлого майбутнього?


Визначення каже нам, що розумне місто збирає, оброблює та використовує інформацію «інтернету речей» для ефективного аналізу та управління ресурсами, як-от: навантаження на транспортну систему, енергоефективність, водопостачання та утилізація сміття. Також дані від людей та пристроїв використовуються для запобігання злочинам, системи сповіщень, таргетованого донесення інформації та взаємодії зі школами, лікарнями, бібліотеками та іншими соціальними службами [1]. 

Проте, для України, де «інтернет речей» ще не отримав такого розповсюдження, а в Ощадбанку чемний співробітник чергує біля терміналу самообслуговування, щоби натискати кнопки за відвідувачів, це визначення дещо обмежується. 

Проблем, які створюють ці обмеження (і не лише в Україні) існує кілька, проте найбільш яскраво видно три з них. 

Цифрова дискримінація

«Ваш номер мобільного… як нема?!». Ця фраза жахала старше покоління та деяких консерваторів перші роки нового тисячоліття. Зареєструватися будь-де чи отримати послугу, не вказавши номер мобільного, було дедалі важче, це було зручно для держави і бізнесу – а думка незначної частини користувачів, які хотіли як раніше, нікого не цікавила. 

Темний бік розумного міста: зовсім не так як у науковій фантастиці

Зараз на зміну цим словам прийшли інші. Тепер, хоч-не-хоч, а мусиш розібратися у смартфоні: встановити кілька (а то й кількадесят) застосунків та використовувати їх для того, для чого раніше можна було просто прийти та заповнити заяву. Електронні петиції, електронні ОСББ, вайбер-чати будинку, система Хелсі та Єдиний квиток…

Звісно ж, інформацію та послуги можна отримати й іншим шляхом, але люди, що не вміють, не хочуть чи не можуть користуватися Інтернетом достатньою мірою, лишаються на узбіччі суспільного життя. На жаль, інтерфейси багатьох застосунків навіть не передбачають, що користувачі можуть мати слабкий зір, проблеми з друком тексту чи орієнтацією у вкладених меню. Набагато легше проектувати місто для прогресивної, мобільної та активної більшості, проте усі концепції сучасного містобудування (починаючи з основи основ – Цілей Сталого Розвитку ООН) стверджують, що розвиток має не надавати преференції тим, хто здатен встигнути за прогресом, а створювати комфортний простір (в тому числі і інформаційний) для всіх. 

Звісно ж, це не значить, що паперова документація та лінований папір для написання заяв мають знову захопити світ. Та маю думку, що застосунок з великими літерами, озвучуванням тексту і можливістю налаштувати собі кілька основних функцій (кнопка «заплатити за коммуналку» чи «записатися до сімейного лікаря») були б дуже корисні. Замість того, щоби зневажливо посміхатися з «бабусефонів», дизайнерам цифрового міського простору не завадило б повчитися у їхніх розробників. 

 

Старший Брат слідкує за тобою

Темний бік розумного міста: зовсім не так як у науковій фантастиці

Друге побоювання тих, хто знає достатньо про «інтернет речей», це надмірний контроль з боку виробників та замовників цих речей. Переглянувши доступи, які запитують такі звичні нам програми як Facebook чи Skype, можна заробити параною. А якщо додати до них те, що програми мають доступ до мікрофону, геолокації та іншого навіть не повідомляючи власників – параноя просто гарантована.

Звісно ж, «інтернет речей» несе в собі багато корисного, від попереджень про погоду і нагадувань про справи до регулювання міського трафіку та поліпшення соціальних послуг. Проте за все потрібно платити. Зараз користувачі «платять» наданням інформації про себе рекламодавцям. Саме тому ми часто дивуємося, коли нам пропонують в інтернеті ті самі продукти, про які ми лише вчора говорили чи дивилися. Нічого страшного тут немає, аж допоки це можна відслідковувати та вимкнути. Проте, наслідки від ґаджетів, що стежать за власниками, можуть бути й іншими. 

В Китаї, наприклад, усі принципи «розумного міста» (чи то вже розумної країни) втілюються в систему соціального кредиту [2]. Ця доволі моторошна система підраховує усі дії громадянина, що мають відображення в інтернеті: зміну сімейного стану, покупки в магазинах, лайки в соцмережах, коло друзів, переміщення, навіть час приходу на роботу. З цієї складної статистики збирається соціальний рейтинг кожної людини. Від нього залежить те, чи дадуть людині кредит, чи дозволять їй селитися у престижних районах або працювати на певних посадах. Навіть дружба з «неправильними» людьми може закрити дорогу до підвищення рівня життя. Окреме дегуманізуюче жахіття – це поля даних, що заповнюються за допомогою збору цієї інформації. Так, наприклад, у даних про жінок, отриманих з бази китайських громадян [3], є поле «BreedReady», тобто «готова до розмноження»…

Ще далі Китай пішов у побудові ізольованих міст для національних меншин, таких як уйгури. Камери з штучним інтелектом, які передають інформацію про несанкціоновані скупчення людей, постійне сканування вмісту ноутбуків у пошуках фото з «поганими» людьми чи заборонених книг, слідкування за пересуванням людей та шпигунський застосунок JingWang Weishi, який мусить бути на телефоні у кожного «неблагонадійного» і записувати всю активність з пристрою… Розповідь очевидця [4] виглядає мов оповідання-антиутопія. Міста Сінцзяню, де живуть уйгури – «розумні» та оснащені усіма останніми технічними розробками. Проте цей розум недобрий, і геть не направлений на підвищення комфорту мешканців.

Вам буде цікаво: Еволюція розумного міста

Не лише Китай обертає проти людей те, що було створене для них самих. Останній аналіз британського Brexit [5] та української передвиборчої кампанії 2019 року [6] показує, що для перемоги використовувалася таргетована реклама, індивідуально підібрана на основі зібраної (і не завжди етично) інформації з соцмереж та «інтернету речей». Соціально незахищеним категоріям обіцяли виплати, пацифістам – мир, молоді – розваги, патріотам – велич країни, тощо. Мабуть, вперше формування суспільної думки в такому обсязі відбулося завдяки інформації, отриманої з допомогою технологій «розумного міста». Зараз увесь світ працює над тим, щоби знайти «протиотруту» від цього та повернути технології на службу всього людства, а не конкретних його представників. Якщо комусь цікаво, радимо переглянути доповідь Керол Кадвалладр на TED Talks, яка зараз найбільш повно окреслює проблему [7].

Повстання машин

Темний бік розумного міста: зовсім не так як у науковій фантастиці

Та навіть якщо людство нарешті навчиться використовувати технології кристально чесно – у нього завжди лишається можливість вистрілити собі в ногу. Наприклад, через технічні негаразди у мережі «інтернету речей», неправильно оброблені дані чи банальний вірус, який уразить техніку «розумного міста».

Уже існує список вірусів, що ширяться по «розумних» тостерах та пральних машинках [8]. Більшість із них створює з речей так звану «ботоферму», що використовується для добування криптовалюти чи інших обчислень, які вимагають великих потужностей. Але такі речі майже не шкідливі, у порівнянні з типами вірусів, що отримують доступ саме для функцій обладнання. Проблема «інтернету речей» у його головному призначенні: через нього керують предметами, які мають фізичний вплив на реальний світ. Втратити через вірус свої документи чи фотографії може бути неприємно, а от отримати, скажімо, плиту, яка може влаштувати пожежу, чи камеру, яка може маркувати тебе як злочинця – уже небезпечно. Звісно ж, виробники «розумних» речей дуже ретельно працюють над їх безпекою, проте, як і в кожній новій царині, це «гонитва озброєнь». Нові віруси спонукають до винаходів нових методів захисту і навпаки.

Проте «дірка» не обов’язково має бути в тій частині програми, що відповідає за безпеку. Проблема може бути як у зборі самої інформації, необхідної для розвитку «розумного міста», так і в алгоритмах її аналізу. Фахівці розповідають [9], що однією з найбільших вад ШІ, що оброблює величезні обсяги даних, є його найбільша перевага. Штучний інтелект не має морального чи культурного підґрунтя, яке інстинктивно застосовують люди при обробці інформації. Усі подвійні стандарти, дискримінаційні чи провокативні твердження, які транслюються в мережу, ШІ оброблюватиме як правдиву думку людей. Так, наприклад Тай (Tai), експериментальний чат-бот з ШІ, якому компанія Microsoft дозволила читати Twitter, вже за кілька діб «прийшов до висновку», що Гітлер був правий, і деяких людей потрібно знищувати заради загального блага [10]. Саме тому найбільші компанії (як-то Google чи та сама Microsoft) зараз дуже серйозно працюють над «цифровою совістю» для ШІ [11]. Думка про те, що «розумне місто» повинне мати не лише «голову», але й «серце», і розуміти справжні потреби людства, вийшла за межі наукової фантастики трохи запізно – але зараз вчені надолужують пропущене, присвячуючи етиці ШІ нові й нові дослідження.

Звісно ж, майже ніхто зараз не заперечує, що «розумні міста» це цілком реальне і близьке майбутнє для людства. Вони мають безліч переваг, роблять життя мешканців простішим та комфортнішим і беруть «на автопілот» дуже багато незначних функцій. В сучасну епоху перевантаження інформацією це настільки ж важливо, як винахід колеса чи вітрила був важливим для експансії людства тисячі років тому.

Проте проблеми і «хвороби росту» технологічного розвитку міст – це те, про що не можна забувати, якими б райдужними ми не бачили перспективи. Розумне місто має бути для людей, і для всіх людей, а не лише для тих, хто зміг іти в ногу з технологіями, чи купити доступ до даних всіх інших. Разом із збільшенням присутності «розумних» технологій у житті, людство має вчитися брати на себе відповідальність за делегування їм повноважень. Адже у розумному місті кожен стане «менеджером» цілого «відділу» техніки, якому сам надаватиме повноваження, допуск до різного типу інформації та ставитиме задачі. 

Щиро сподіваюся, що мешканці навіть найрозумнішого міста розглядатимуть технології лише як підвищення рівню комфорту, а не абсолютну необхідність для виживання. Лише пам’ятаючи, що вони самі несуть відповідальність та віддають накази техніці, люди зможуть лишитися людьми.

 

Текст: Дар’я Цепкова


Джерела:

[1] ] McLaren, Duncan; Agyeman, Julian (2015). Sharing Cities: A Case for Truly Smart and Sustainable Cities.

[2] China Social Credit System. Alexandra Ma. Business Insider. 

[3] Chinese Data Breach Exposes ‘Breed Ready’ Status Of Almost 2 Million Women. Zak Doffman. Forbes.

[4] Концлагерь на 10 миллионов уйгуров. Медуза.

[5] Brexit, dark money and big data. Adam Ramsay. Eurozine.

[6] У нас есть проект Черная библиотека Порошенко: онлайн-стратег Зе. Евгений Шишацкий, Стас Юрасов. Лига.нет

[7] Facebook’s role in Brexit and the threat for democracy. Carole Cadwalladr. TED.

[8] How Is the Internet of Things (IoT) Being Impacted by Malware? Saalex.

[9] This is how AI bias really happens—and why it’s so hard to fix. Karen Hao. Technology Review.

[10] Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day. James Vincent. The Verge.

[11] Artificial intelligence seeks an ethical conscience. Tom Simonte. Wired.