Стюарт Рассел «Сумісний з людиною. Штучний інтелект і проблема контролю»

07.02.2021

Переглядів: 364

http://chytay-ua.com/

Якщо у вас є одна мета, а надзвичайно розумна машина має іншу, протилежну, саме машина отримає те, що хоче, а ви – ні.

Ви свого телефона боїтеся? А Сірі з Алексою? А пошуку за картинками чи рекомендацій від Netflix? Зараз, мабуть, знайдеться небагато людей, які бояться власного смартфона, але більш ніж достатньо тих, хто страшенно боїться пришестя штучного інтелекту, який захопить і винищить людство. І це трохи дивно, особливо враховуючи, що шматок штучного інтелекту вже роками лежить у вас в кишені. Якось це не правильно боятися пришестя того, що вже давно не просто є, а прогресує, вчиться і заповнює все більше простору навколо нас. Ви ж не тремтите з жаху, коли кажете телефону: «Окей, гугл»!

Та і цілеспрямовано знищувати нас ніякий ШІ не буде, заспокоює Стюарт Рассел, автор «Сумісного з людиною». Просто може статися так, що хтось не врахує всіх умов, коли ставитиме завдання якійсь програмі, чи ШІ знайде спосіб, як його виконати, але зовсім не так, як ви сподівалися. І не треба забувати, що навчені людьми системи дуже швидко збагнуть значення слів махлювати і відлинювати. Словом, навряд чи ШІ повстане у вигляді термінаторів і плекатиме плани винищення ненависного людства. Найімовірніше, він зробить це випадково) 

Ну ось, наприклад, уявімо, що хтось попросить майбутню надзвичайно розумну систему реалізувати шляхетну мету: якнайшвидше винайти ліки від раку. За лічені години система ШІ прочитає всю літературу з біології та медицини й запропонує мільйони потенційно ефективних, але раніше не випробуваних хімічних сполук. За лічені тижні вона потенційно може спричинити множинні пухлини різних видів у кожної людини для медичного випробовування цих сполук. Це, виявляється, і був найшвидший спосіб винайдення ліків від раку… 

Або можна попросити машину протидіяти швидкому окисленню океанів, яке відбувається через високий рівень вмісту вуглекислого газу. Машина розробляє новий каталізатор, що сприяє надзвичайно швидкій хімічній реакції між океаном та атмосферою і відновлює рівень pH океанів. На жаль, на це витрачається чверть усього кисню в атмосфері, й ми довго та болісно помираємо від задухи… 

А знаєте, що в цьому найкраще? Те, що принаймні поки що всі оптимістичні для майбутнього планети сценарії все ж залишаються гіпотетичними і нереалістичними. В нас поки що немає такої машини, яка могла б отак швиденько розібратися з планетонаселенням. Але ми лупаємо сю скалу і вперто до цього крокуємо! 

Штучний інтелект ми маємо вже відносно давно і «згодовувати» йому знання та удосконалювати навчання в нас виходить дедалі краще, але в нас поки що немає того самого надрозумного ШІ, який би не просто навчався чи робив прогнози, а, скажімо так, діяв на випередження і на власний розсуд (якщо так взагалі можна говорити про машину). Автор книги називає таку систему штучним інтелектом людського рівня.

А почалося все з Дартмутського семінару 1956 р. Ні, ніхто тоді не винайшов нічого особливого і не запропонував концепцію суперсистеми, але тоді в один час в одному місці зібралися люди, які активно працювали в даній галузі, особливу увагу приділяючи нейронним мережам, автоматиці, дослідженням інтелекту, теорії гри тощо. Вони не просто ділилися досвідом та працювали над конкретними завданнями, а й запропонували і ввели в широкий вжиток термін «штучний інтелект», фактично створивши підґрунтя для його подальшого стрімкого розвитку. А через якихось 60 років AlphaZero від компанії DeepMind (читай, Google) за 24 годин з нуля сама себе прокачає до надлюдського рівня гри в шахи, сьоґі і ґо, обігравши всіх чемпіонів-людей… 

Але  і тут не варто хвилюватися – AlphaZero, хай би якою геніальною не була, не зможе захопити планету. Вона найкраще на планеті грає в шахи, але абсолютно не здатна, наприклад, керувати автомобілем, прогнозувати погоду чи написати промову. 

Тут потрібно щось знаааачно більше, і його зародки, а можливо, і паростки поруч з нами вже не перший рік. Вся суть в тому, що вони ще не системні і не об’єднані, а пробиваються в різних галузях та застосовуються для різних завдань. Питання лише в тому, коли люди (чи, можливо, самі машини) зведуть містки між цими острівцями і дозволять ШІ включитися в гру на повну.

Загалом же, як каже Рассел, заковика в тому, що ми намагаємося виміряти, оцінити чи зрозуміти штучний інтелект категоріями, якими звикло послуговуватися людство і які оформлювалися протягом тисячоліть, виходячи з наших фізіологічних можливостей та фізичних і психологічних потреб. Для ШІ все це не має жодного значення. Він дивиться на світ цифрами, алгоритмами, пакетами даних, закономірностями і логікою. Дуже ймовірно, що нам все ще бракує уяви, аби уявити можливості і потужності надлюдського штучного інтелекту. 

В будь-якому випадку, ШІ – це інструмент. Контролю, маніпуляції, захоплення, покращення, корегування, виправлення, прогнозування чи ще чогось іншого, але поки що це інструмент, і багато що тут залежить від його творця і того, хто і для чого ним користується. Але завжди так не буде, прогнозує Стюарт Расслел, та й не лише він. Дуже ймовірно, що винайдення (чи поява) штучного інтелекту людського рівня стане останнім винаходом людства. Принаймні, людства в такому вигляді, яким ми знаємо його сьогодні. 

Уявіть, що машина має мету принести каву. Достатньо розумна машина, мабуть, знатиме, що не виконає завдання, якщо її вимкнуть до завершення місії. Таким чином, мета принести каву створює необхідну підставу усунення вимикача. Мертвий мало на що здатний, тож за логікою, слід очікувати, що системи ШІ діятимуть на випередження, аби продовжити своє функціонування в разі поставленої перед ними будь-якої чітко визначеної мети.

Вже сьогодні ШІ перетягує на себе все більше ролей. Він не просто виконує «людську» роботу, а й стає все більше людиноподібним. Тут варто згадати робота Софію, якій навіть надали громадянство Саудівської Аравії. Так, Софія дуже обмежена в своїх можливостях і «функціоналі», але ж то лише перша спроба. І одна річ, звертає увагу Рассел, вимкнути телефон, комп’ютер чи якусь іншу холодну металеву коробку, а зовсім інша – «вбити» щось, що просить цього не робити рідним для тебе голосом і при цьому виглядає так, що ти й сам час від часу забуваєш, що це не людина, а антропоморфне втілення системи. 

Іншими словами, автор «Сумісного з людиною» акцентує увагу на тому, що активно працюючи над розвитком і розробкою ШІ, не можна забувати про систему запобіжників і вимикачів. Машина не захоче / унеможливить ймовірність виключити себе не тому, що хоче жити, а тому, що достатньо розумна, аби передбачити. Ми ще не вигадали захисту, що вберіг би від звичайних людей (Фукусіма і Чорнобиль нам свідки), що й казати тоді про надзвичайно розумні машини. 

Нам потрібно швидко виростати і починати дивитися і думати на перспективу. Потрібно завдати собі клопоту і нарешті усвідомити, що ШІ – це не лише цифрові міста Китаю чи розумний помічник, який забронює вам столик чи розпланує відпустку. Це щось, сутність, розум чи машина – називайте, як хочете, що може змінити не тільки наше повсякденне життя, а й повністю переформатувати людей як вид. Як саме? Це доволі непогано описує Емі Вебб.

ЧИТАЙТЕ ТАКОЖ: Емі Вебб "Велика дев’ятка"

Вирішення проблеми ШІ – не лише технічне, а більшою мірою культурне. Рассел переконаний, що нам потрібен культурний рух, щоб переформатувати власні ідеали й прагнення до автономії та управління і відмовитися від потурання своїм бажанням та залежностям. Нам потрібні глобальна координація вчених, глав корпорацій (і почати варто з «Великої дев’ятки»), політиків, громадських діячів та активістів, аби виробити нові правила гри і співіснування з чимось, що заввиграшки пройде тест Тюрінга, але не буде людиною.

Повертаючись же до книги Стюарта Рассела, можна сказати, що таки сумісний. Але біда не в тому, що сумісний, а в тому, що сумісний з кожним, до того найоптимальнішим для нього чином. Зрештою, автор, хоч і не фонтанує оптимізмом і вірою в безхмарне майбутнє і доволі скептично оцінює наші шанси на нього, все ж впевнений, що час ще є, і ми цілком можемо виправити вже допущені помилки та уникнути нових і куди страшніших. Як воно буде – побачимо вже в найближчі десятиліття, але людська жадоба, прагнення до вигоди і комфорту та самовпевненість дають майбутній суперсистемі величезну фору.

«Сумісний з людиною» в основному зосереджується на проблемах контролю над штучним інтелектом і висвітлює їх справді глибоко і різносторонньо. Ця книга не розповідатиме вам про розвиток комп’ютерів чи зростання їхньої обчислювальної потужності (для цього в нас є чудові у всіх сенсах «Інноватори» від Волтера Айзексона), натомість багато уваги приділить застосуванню теорії ігор, математичному прогнозуванню, прикладам, грі в го і не тільки. 

ЧИТАЙТЕ ТАКОЖ: Волтер Айзексон "Інноватори: як група хакерів, геніїв та ґіків здійснила цифрову революцію" 

Це не найлегша книга для читання і сприйняття, особливо якщо точні науки, аналітика та нейронні мережі – не ваша сильна сторона. Нітрохи не допомагає розумінню тексту і коректура, яка в перших двох-трьох розділах, здається, відсутня взагалі. Далі стане краще, та все ж прикро, що така актуальна і «свіжа» книга (написана вона в 2019 році) так сильно спіткнулася там, де це було зовсім не обов’язковим. 

Оксана Пелюшенко

Редактор рубрики «Книги», відповідальна за PR, Твіттер, смаколики і вазони в офісі.

Сторінка автора в Facebook

author photo