Емі Вебб "Велика дев’ятка"

07.10.2020

Переглядів: 224

http://chytay-ua.com/

Людству роблять пропозицію, від якої воно просто не може відмовитися.

Емі Вебб «Велика дев’ятка»

Ми живемо в час, коли немає сенсу боятися і побиватися, що от-от з’явиться штучний інтелект, великі компанії і корпорації отримають доступ до наших персональних і не тільки даних, і будуть керувати світом. Немає сенсу, бо воно і справді недоречно – боятися з’яви того, що вже є. 

Штучний інтелект керує логістикою та доставками великих онлайн-ритейлерів, регулює дорожній рух, займається розпізнаванням облич і запускає цикл прання, поки ви знаходитеся на протилежному кінці планети від вашої пральної машинки. А Сірі з Алексою підкажуть вам, чи є вільні столики в улюбленому ресторані і викличуть таксі. 

 

Google, Alibaba, Amazon, Facebook і Netflix знають про вас більше, ніж рідні і друзі. СПОЙЛЕР! Не тільки тому, що вкрали, а в більшості тому, що ви самі віддали їм свої дані, фото, паролі, вподобання тощо, ніхто не змушував вас проходити безглузді тести чи гратися з начебто невинними програмками (пошесть Pokemon Go ще всі пам’ятають?).

Схоже, ні для кого не є таємницею, що вибори для Трампа у 2016му виграли алгоритми і люди, які вміють ними вправно керувати та налаштовувати (матеріалів і розслідувань про діяльність Cambridge Analytica у відкритому доступі більш ніж достатньо).  

Штучний інтелект і технології, які його породжують, живлять і розвивають, вже давно поруч і невидимо, але відчутно впливають на наше життя, вибори, які ми робимо, і рішення, які приймаємо. 

Майбутнє вже настало, але ще не всюди.

Вільям Гібсон

Майже 40 років тому Джеймс Кемерон трохи ввів нас в оману: ми чекали на Т1000 і людиноподібних роботів, якими керує суперсистема Скайнет. Насправді до нинішнього стану речей був ближчий Артур Кларк та його HAL9000. З’явившись за десятиліття до Скайнет, HAL9000 був значно більше схожим на той штучний інтелект (ШІ), який ми маємо зараз. Він не ганявся за жодним обраним Джоном Коннором, а просто виконував свою програму. І самонавчався. І приймав рішення. Самостійно. 

Нинішній рівень розвитку ШІ ще не дозволяє йому бути повністю автономним і незалежним від людей – банально не вистачає потужностей, технологій і даних. Та відстежуючи динаміку, доволі справедливим і обґрунтованим є припущення, що менш ніж через століття ситуація зміниться кардинально. 

Людство вже стоїть на порозі ери штучного інтелекту, і основи та тенденції щодо того, якою вона буде і до чого може призвести, закладаються нами тут і зараз. Саме про це пише, розмірковує, аналізує, досліджує і дискутує Емі Вебб, американська футурологиня, професорка стратегічного прогнозування у Школі бізнесу Стерна при Нью-Йоркському університеті та засновниця «Інституту майбутнього сьогодні», яка до того ж є консультанткою з написання сценаріїв до фільмів і шоу про технології, науку та майбутнє, а також публікує щорічний звіт про технічні тренди FTI Emerging Tech Trends Report. 

Книга Вебб «Велика дев’ятка» намагається дати відповіді на питання не лише щодо того, яким буде майбутнє і на що очікувати від неминучого стрімкого розвитку ШІ, а й про те, як ІТ-гіганти та їхні розумні машини можуть змінити людство. Вона писалася в 2018-2019 рр., ще до пандемії і кризи імені COVID19, і, як виявилося, правильно визначає ключові напрями і тенденції в розвитку технологій і ШІ. 

Світ переходить в онлайн, люди переїжджають у мережу. Amazon нарощує продажі і рахує прибутки на фоні збанкрутілих локальних офлайн крамниць. Розробники хмарних сервісів теж не відстають. ІТ-гіганти боряться за один з найбільших ринків інтернет-користувачів в світі – Індію. Як не крути, а технологічне (і не тільки) обличчя майбутнього людства вже сьогодні формує Велика дев’ятка.

Під цією збірною назвою Емі Вебб розуміє дев’ять технологічних гігантів: американські Google, Amazon, Apple, IBM, Microsoft і Facebook та китайські Baidu, Alibaba і Tencent. Кожен з них працює над розробкою, впровадженням і вдосконаленням ШІ і йде до того власним шляхом, впевнено і голосно заявляючи, що робить це на благо людства і для покращення життя кожного. 

Та чи насправді це так? Яку роль в таких технологічних перегонах відіграють національні уряди, користувачі, трейдери з Волл Стріт, інвестори, американське вичікування та китайські амбіції? І – головне – у що все це виллється в найближчі десятиліття? 

Нам безпечніше продумувати і планувати ризики заздалегідь, ніж просто реагувати після того, як щось піде не так. 

Саме про це «Велика дев’ятка». Авторка проводить невеликий екскурс в минуле і історію ШІ, розповідає, як так сталося, що за відносно недовгий час він з експерименту і ентузіазму окремих візіонерів та мрійників перетворився в те, чим є зараз. 

По суті, ШІ в своїй найпростішій формі – це система, яка приймає автономні рішення. Завдання, які виконує ШІ, повторюють або імітують дії людського інтелекту. Так було до того часу, поки в грудні 2017-го DeepMind не представила AlphaGo Zero, програму, яка за 24 години, абсолютно з нуля, без доступу до дебютних баз, ендшпільних таблиць і з мінімальними вихідними даними «прокачала» себе до такого рівня, що перемогла не тільки найкращих гравців-людей в шахи, сьогі і ґо, а й поклала на лопатки всі інші програми-суперниці. І не просто перемогла, а перемогла непристойно розгромно. 

Як? AlphaGo Zero примудрилася думати не так, як думають люди. Вона не дивилася на гру, стратегій і комбінації так, як дивимося і думаємо про них ми. Система поводилася непередбачувано, приймаючи рішення, які не цілком мали сенс для її творців. Вона перемагала людей способами, які не можна було ні повторити, ні повністю зрозуміти.

AlphaGo Zero була здатна до самостійного навчання. Вона може надзвичайно швидко навчатися без нагляду розробників і – як би дивно це не звучало – саме люди і обмеженість їхніх знань заважала такому стрімкому розвитку ШІ.  А ще в DeepMind зрозуміли, що створили ШІ, здатний генерувати власний ШІ та нейронні мережі…

Фактично, з цього моменту закріпилися два паралельні шляхи, якими нині рухається ШІ. Назвемо їх умовно американським та китайським. Америка женеться за вигодою вже в наступному кварталі, Волл Стріт вимагає надприбутків з продуктів, створених на основі ШІ, вже сьогодні, уряд скорочує фінансування на розробку нових програм і технологій, при цьому не сильно переймаючись стратегічними планами і не до кінця розуміючи, нащо йому той ШІ взагалі потрібен. США намагаються регулювати, контролювати і обмежувати, а не співпрацювати зі своєю G-мафією (Google, Amazon, Apple, IBM, Microsoft і Facebook) і виробляти спільні стратегії, тим самим заохочуючи конкуренцію між ними. 

Шлях Китаю – максимальна зосередженість, капіталовкладення в науку, інфраструктуру, технології і людські ресурси, планування і стратегічні цілі. У тому ж 2017-му китайський уряд оприлюднив свій «План розвитку штучного інтелекту нового покоління»: до 2030 року стати світовим лідером в технології ШІ. І Піднебесна дотримується плану, можливо, навіть занадто фанатично.

Інфраструктурні проекти в Африці, Азії та Південній Америці, велике фінансування наукових інституцій, вагомий внесок у навчання власних фахівців і «переманювання мізків» в тому числі і з Кремнієвої долини, максимальна консолідація влади в руках комуністичної партії і майже повний контроль над гігантами Baidu, Alibaba і Tencent вже в найближчі десятиліття можуть принести свої плоди. Китай хоче світового домінування в геополітиці, економіці і військовій сфері і він розглядає ШІ як шлях, що веде до цієї мети. 

Але для такого доводиться чимось жертвувати. Китай призначив цією «жертвою» анонімність, безпеку і конфіденційність даних та базові свободи громадян. Поки у США та Європі не втомлюються звинувачувати Facebook та інших в недостатній увазі до безпечного зберігання персональних даних, Китай впроваджує соціальні кредити і рейтинги, системи розпізнавання обличчя скрізь, де це можливо, тотальний контроль над всіма сферами життя. Забудьте про приватність. В Піднебесній вона більше не живе.

Тепер мікрофони та розумні камери на основі ШІ контролюють шосе та вулиці Шанхая. Водії, які надмірно сигналять, автоматично одержують штраф через WeChat від Tencent, а їхні імена, фотографії та номери посвідчень особи відображаються на сусідніх LED-білбордах. Якщо водій з'їжджає на бік дороги більше ніж на сім хвилин, він одразу отримує ще один штраф, і не просто штраф – знімаються бали соціального кредиту водія. Коли буде знято достатньо балів, людині буде важко забронювати авіаквитки або влаштуватися на нову роботу. У «Чорному дзеркалі» була серія, в якій передбачалося таке деспотичне майбутнє. У Шанхаї це майбутнє вже настало.

Власне, паралелізму Америка – Китай, аналізу їхніх підходів до розробки, розвитку і застосування штучного інтелекту, і присвячена книга Емі Вебб. Вона приходить до висновку, що поки Америка очікує, зменшує фінансування і не проводить стратегічного планування, Китай впевнено наближається до своєї мети. Америка думає виборчими циклами, Китай дивиться на десятиліття вперед. Одвічна дилема демократій: громадянські свободи чи національна безпека? приватність чи необмежений доступ до даних? персональне чи загальнодоступне? для Китаю взагалі не є дилемою. Америка хоче контролювати і обмежувати своїх гігантів, Китай своїх вирощує. 

ЧИТАЙТЕ ТАКОЖ: Тім О’Райлі «Хто знає, яким буде майбутнє»

Виходячи з такого очевидного паралелізму, на основі даних, прогнозів, аналітики, досліджень та сотень годин розмов з керівниками Великої дев’ятки, чиновниками, управлінцями, політиками і бізнесменами, Вебб пропонує три ймовірні сценарії найближчого майбутнього людства в умовах прискореного і бурхливого розвитку ШІ: оптимістичний, прагматичний та катастрофічний. Очевидно, що на даний момент людство завмерло десь посередині між прагматичним і катастрофічним. 

Але в тому і сила науки, прогнозування та аналізування – в можливості знайти вихід чи взагалі спосіб, який би не привів людство до вкрай неприємних наслідків. 

Емі Вебб не просто проектує і яскраві оптимістичні картини майбутнього, і доволі безрадісні його версії. Вона дає поради і пояснення, як максимально реалізувати перші і уникнути других. Авторка закликає уряди до фінансування розробки і вивчення ШІ та тісної співпраці з Великою дев’яткою, закликає представників Дев’ятки до відкритості, відповідальності і кооперації між собою, закликає користувачів думати і постійно навчатися, закликає Волл Стріт вгамувати свої амбіції і апетити.

Майбутнє, в якому ми всі хочемо жити, не з’явиться просто так, вже повністю сформоване. Нам потрібно бути сміливими. Ми повинні брати відповідальність за свої дії. 

Не вимагати результатів, прибутків і нових продуктів ледь не щоквартально. Дев’ятка просто не має часу зупинитися, видихнути, навести лад, розібратися, оцінити ризики і полагодити свої алгоритми. Від них вимагають інвестори і споживачі, вимагає ринок. Дайте їм паузу. Світ не помре, якщо протягом 2 років не буде нового айфона чи сотні патентів. Можливо, нам варто навіть задуматися про примусове сповільнення розвитку ШІ, аби виправити вже допущені помилки і не наробити нових, ще страшніших. 

І, звісно, пам’ятати: все починається з університетів!  

А що, якщо не вдатися до жодних реакцій вже зараз? Хто зна… Але цілком можливо, що сегрегація за ШІ, цифрові касти, суспільство в стилі Гакслі, Комп'ютерно Окупованій Китаєм Штати Америки, дві глобальні операційні системи, нанороботи, які будуть вирішувати, коли людині настав час померти, і ще багато чого, про що пишуть і писали фантасти. 

А для того, аби розуміти, де ми зараз, варто почитати оповідання «Цілковитий збіг» Кена Лю, подивитися «Чорне дзеркало» та ту серію «Містера Робота», в якій хакнутий смарт-будинок практично виживає свою власницю, буквально виставляючи її за двері.

Хоча ми кажемо, що майбутні покоління, ймовірно, будуть тупішими через технології, ми ніколи не думаємо про те, що ми, люди, колись можемо стати тупішими, ніж технології. 

 

Оксана Пелюшенко

Редактор рубрики «Книги», відповідальна за PR, Твіттер, смаколики і вазони в офісі.

Сторінка автора в Facebook

author photo