Остання людина. Нова історія LIGA.net про світ штучного інтелекту через 100 років

Наприкінці 2022 року розробники штучного інтелекту відкрили Скриньку Пандори. Всього за декілька місяців програмний код забрав робочі місця в десятків мільйонів людей (багато з яких цього ще не зрозуміли через інерції процесів). Людство зробило не крок вперед, а шалений стрибок у новий світ, особливо не розмірковуючи про наслідки.

Засновник Tesla та SpaceX Ілон Маск, співзасновник Apple Стів Возняк, футуролог Ювал Ной Харарі та тисячі інших людей написали відкритого листа з закликом до урядів та розробників відкласти експерименти зі штучним інтелектом на шість місяців – для адаптації, пошуку відповідей, для стримування руйнівних наслідків. Зараз під ним – понад 18 000 підписів.

Проте, наприклад, деякі з нейромереж мають відкритий код. І з першого дня, коли його було вперше представлено, і до сьогодні – він доступний кожному. Щодня програми вдосконалюють. Будь-хто може скопіювати код і розмістити у себе. Це вже зробили, можливо, сотні тисяч людей. Зупинити це, заборонити – не вийде. Додайте до цього, що схожих сервісів – десятки.

Якщо ми розуміємо, що шляху назад немає і велика кількість професій буде замінена ШІ, залишається лише одне: поставити запитання, що робитиме людина в новому світі. І чи є нам з вами місце в ньому взагалі.

На заставці до цього матеріалу – папа римський через 100 років. Картина написана штучним інтелектом. Людина сьогодення може запитати себе: перед нами людська істота чи машина? Але за 100 років такої дилеми не буде, бо різниця між машиною і людиною зникне.

Наприкінці спецтексту ми поставили запитання трьом штучним інтелектам: що очікує на людство, чи є для нього місце. Ми отримали три абсолютно різні версії. Одна з них – загрозливо-риторична (ШІ в нас не дуже вірить).

У цьому спецтексті LIGA.net намагається дослідити, як виглядатиме Земля у 2050 році, 2100 та 2150-му. Ми підготували його разом з провідними вченими, філософами та футурологами. Нам допомагав Ювал Ной Харарі, Славой Жижек, Ненсі Хейлз. Також у тексті – Рей Курцвейл, Нік Бостром та гендиректор OpenAI (розробник ChatGPT) Сем Альтман.

Робимо крок перший. Нехай це буде літо. За вікном – 20 градусів тепла. Курс долара досі тривожить. Проте вже не існує Російської Федерації – однією проблемою менше. Отже, Земля, 27 років потому.

Світ-2050: людство 2.0

Історія не визначена наперед, тож із впевненістю сказати, яким буде 2050 рік, неможливо, зазначає футуролог та письменник Ювал Ной Харарі. Він завчасно попереджає читача, що цей текст – лише оцінка з 2023 року, коли ми тільки відкрили Скриньку Пандори і побачили небагато.

"Історія не детермінована. Тому ніхто не знає, як світ виглядатиме у 2050 році. Які саме сценарії будуть реалізовані – багато в чому залежить від наших власних рішень. Весь сенс розмов про майбутнє в тому, щоб мати можливість щось для цього зробити", – каже він у розмові з LIGA.net.

Тому – ще раз – домовимось, що ставки на результат ми не робимо. Ми розмірковуємо і шукаємо відповіді на складні запитання.

Реймонд Курцвейл, вчений та футуролог, прогнозує, що ще до 2050 року на нас чекає технологічна сингулярність і те, що він називає людством 2.0.

До 2029 року, за словами Курцвейла, комп’ютери отримають інтелект уже людського рівня.

Цей прогноз дехто з вчених та футурологів сприймає з острахом. Адже комп’ютери не просто перестануть безпосередньо контролюватися людьми, а й самовідтворюватимуться без людської участі.

Однак Курцвейл не думає, що це створить проблему, навіть навпаки – людство сформує симбіоз зі ШІ, і це виведе нас на якісно новий рівень.

"Те, що штучний інтелект поневолить людство, – це нереально. Навіть навпаки. Вони роблять нас розумнішими. Можливо, їх ще немає в наших тілах, але до 2030-х років ми підключимо наш неокортекс до "хмари"", – сказав Курцвейл під час інтерв’ю SXSW.

Після сингулярності футурологи здебільшого пророкують два шляхи розвитку людства: люди стануть кіборгами або ж машини поневолять людство. Власне, найгостріші проблеми очікують на нас саме до 2050 року: переламні роки, коли нам всім буде складно адаптуватись.

Проте є думка, що обидва сценарії – радше радикальні, ніж реальні. Колишній віцепрезидент Google Greater China Кай-фу Лі вважає їх малоймовірними. До того ж, каже він, щоб наявні прототипи штучного інтелекту бодай досягли рівня людини, треба ще довго працювати.

"Для якісного стрибка нам знадобляться нові наукові прориви на кшталт deep learning (глибинного навчання. – Ред.). Потрібно, щоб машини вміли співчувати. Щоб машини проявляли емпатію, довіряли", – пише Кай-фу Лі у своїй книзі "ШІ 2041: десять передбачень майбутнього".

Він впевнений, що у найближчі декілька десятків років появи повноцінного штучного інтелекту (на рівні людського) очікувати не варто. Хоча у 2050 році, прогнозують науковці, нині експериментальні прото-ШІ навчаться адаптуватися до нових обставин. Це, безумовно, наблизить їх до людини, адже саме здатність адаптуватись є ключем до еволюції.

Ненсі Кетрін Хейлз, професорка та дослідниця постлюдства, стверджує: до 2050 року за допомогою ШІ вдасться розширити і покращити й людський інтелект. "GPT-3 зараз використовується для прогнозування згортання білків. Він вже передбачив нові способи згортання цих послідовностей, що привело до відкриття нових ліків для лікування різних захворювань", – розповідає вона в розмові з LIGA.net.

Вона впевнена, що загальнолюдські цінності, а не лише інтелект, стануть на той час основою для будь-якого розвитку в галузі ШІ.

Штучний інтелект також продовжить революціонізувати спосіб нашої роботи, оскільки багато рутинних завдань будуть автоматизовані та замінені системами на основі ШІ. Однак це не обов’язково призведе до масової втрати робочих місць, оскільки з’являться нові професії та можливості, які потребуватимуть унікальних навичок і талантів людей.

Сем Альтман, засновник і керівник компанії OpenAI, яка розробила ChatGPT, пророкує, що під впливом технологій зміняться не лише ШІ, а й сам принцип освіти. "Освіта повинна змінитися, але з технологіями це траплялося багато разів", – пояснює Альтман.

Професор теоретичної фізики в університеті Нью-Йорка Мічіо Кайку у книзі "Фізика майбутнього" прогнозує, що серед ШІ постануть експертні системи, які зможуть з часом замінити частину лікарів та адвокатів.

"У близькому майбутньому ви зможете просто поговорити з лікарем-роботом. Після низки запитань він зможе встановити вам діагноз, спираючись на досвід найкращих лікарів світу. За вашим здоров’ям постійно стежитимуть за допомогою ДНК-чипів", – упевнений Кайку.

Розвиток ШІ також порушить важливі етичні та соціальні питання: як забезпечити його використання лише на благо людства і як переконатися, що люди не залишаться позаду, оскільки ШІ продовжує розвиватися.

Штучний інтелект, безсумнівно, матиме глибокий вплив на кожен аспект нашого життя, включно зі стосунками, переконаннями та ідентичністю.

Славой Жижек, словенський психоаналітик, філософ та культуролог, окреслює зокрема ряд етичних запитань, які вже зараз виникають під час використання чатботів і які до 2050 року тільки загостряться.

У розмові з LIGA.net він моделює ситуацію: "Мільйони людей вже використовують чатботи. Але як реагуватиме чатбот, коли співрозмовник застосовуватиме агресивні сексистські і расистські висловлювання, демонструватиме свої тривожні сексуальні фантазії та регулярно лаятиметься?"

Жижек прогнозує, що до 2050 року людство стане своєрідним заручником обставин, бо спілкування з чатботами змусить нас говорити як чатбот.

"Набагато більша небезпека, що спілкування з чатботами змусить "справжніх" людей говорити як чатботи, пропускаючи нюанси та іронію, бути одержимими фальшивою точністю", – каже філософ.

Він згадує одну з розмов своїх друзів із психоаналітиком і сумнівається, що в осяжному майбутньому чатботи досягнуть такого рівня.

"Штучний інтелект у його нинішній формі базується на повному привласненні наявної культури, і уявлення про те, що він насправді розумний, може бути дуже небезпечним", – додає художник, письменник і видавець Джеймс Брайдал в інтерв’ю The Guardian.

Але швидкий розвиток технологій призведе до витіснення багатьох традиційних робочих місць і водночас до створення нових, які колись неможливо було уявити.

Гендиректор OpenAI Сем Альтман каже: штучний інтелект замінить деякі робочі місця в найближчому майбутньому. В інтерв’ю ABC.news Альтман зазначив, що це може статися доволі швидко.

"Я думаю, що за кілька поколінь людство довело, що воно може чудово адаптуватися до великих технологічних змін. Але мене найбільше хвилює, що ці зсуви відбудуться протягом кількох років", – переконаний він.

Проте ChatGPT, як і інші прото-ШІ, стануть радше інструментом, ніж повноцінною заміною людини, каже він.

"Людська креативність безмежна і ми знаходимо нові робочі місця. Ми всі можемо мати в своїй кишені неймовірного педагога, який буде налаштований під нас і допоможе нам навчатися", – зазначає Альтман.

ШІ неминуче призведе до автоматизації багатьох рутинних завдань у різних галузях, потенційно витісняючи працівників, які зараз виконують ці завдання. Наприклад, робітників на виробництві.

22 березня 2023 року був зафіксований рекорд із використання роботів на автомобільних заводах – за підрахунками Міжнародної федерації робототехніки, мільйон одиниць. Кількість проданих роботів для домашніх завдань у 2021 році становила 19 млн одиниць.

Ювал Харарі заспокоює: попри значне збільшення роботів у всіх сферах життя, і у праці зокрема, технології не є визначальними.

За найгіршим сценарієм, який озвучує Харарі, до 2050 року сотні мільйонів людей стануть "непотрібним класом" та втратять роботу через штучний інтелект і через те, що уряди отримають дуже багато інформації про людей (це загрожує їхній свободі).

Натомість Мічіо Кайку прогнозує, що за найближчі десятиліття з’являться нові професії: інструктори зі штучного інтелекту, фахівці з питань етики ШІ, персоналізовані коучі з охорони здоров’я, фахівці з кібербезпеки.

Добре. Якщо наступні 27 років на нас очікують складні, але відносно зрозумілі процеси, то що буде далі? Тепер подивімося на світ за 77 років.

Світ-2100: постгуманізм

Спираючись на поточні тенденції, можна дещо припустити. До кінця XXI століття, радше за все, відбудеться зміна клімату, зростання населення, яке, за підрахунками футуристів, досягне стабільного числа в 11 мільярдів. Енергетика та транспорт в переважній більшості використовуватимуть відновлювальні джерела енергії, зокрема водень.

Цілком ймовірно, що до 2100 року люди створять колонії на інших планетах або супутниках, таких як Марс або Європа. Це може відкрити нові можливості для розвідки та видобутку ресурсів.

Але це потребуватиме і ще більшої зосередженості ресурсів. Отже, до 2100 року розробки ШІ можуть ще більше перевершити те, що ми бачимо сьогодні, із ще складнішими алгоритмами та системами штучного інтелекту.

Крім того – як би ми не оцінювали це з 2023 року – до кінця століття цілком можливе настання ери постгуманізму. І це, попереджає Харарі, може виявитись вкрай небезпечним викликом.

"Уряди, корпорації та армії, найімовірніше, використовуватимуть абсолютно нові технології для вдосконалення необхідних їм навичок, таких як інтелект і дисципліна. Водночас вони будуть набагато менше зацікавлені в розвитку інших навичок, таких як співчуття, мистецька чутливість, духовність", – прогнозує Харарі в розмові з LIGA.net.

Загалом до 2100 року системи штучного інтелекту, ймовірно, стануть набагато досконалішими та інтегрованішими в різні аспекти людського життя. Попереднє покоління алгоритмів і систем у порівнянні з ними може здатися рудиментарним, а потенціал застосування ШІ буде обмежений лише уявою.

Простіше кажучи, можливо, що сценарії фантастичних фільмів, де роботи вирощують дітей (як няні) та стають близькими друзями і членами родини, будуть реальністю. Радше навіть – повсякденністю.

Мічіо Кайку називає одразу декілька сфер, де буде масштабно застосований штучний інтелект.

Він виокремлює модульних роботів, які будуть схожі на змій чи павуків і зможуть обстежувати стан інженерних комунікацій. Такі прототипи вже існують. Також до 2100 року мають з’явитися емоційні роботи, які братимуть участь у рятувальних операціях, будуть хатніми улюбленцями.

Одним із найрезонансніших проривів Кайку вважає можливе дослідження мозку людини та його сегментування на складові – нейрон за нейроном. Одразу два надкомп’ютери могли би це виконати вже зараз: Blue Gene – один із найпотужніших комп’ютерів від IBM; Blue Brain – ним керує Генрі Маркрам з федеральної політехнічної школи Лозанни у Швейцарії.

Це відкриє безліч можливостей – від лікування хвороб до інтеграції мозку та комп'ютера. Або інакше: інтеграцію мозку в комп'ютер, повну синхронізацію та взаємозамінність. Чи вічне життя, якщо хочете.

Проте, як нагадує Ненсі Хейлз, майбутнє людини залежить не від штучного інтелекту, а від самих рішень людини. Від того, як людство даватиме раду проблемам, які саме і створило у попередні епохи.

"Це залежить, зокрема, не від ШІ, а від того, як ми реагуємо, наприклад, на кліматичну кризу. Час в цьому питанні має вирішальне значення. Той час, який ми маємо, поки не досягли переломної точки, з якої немає шляху назад", – говорить вона LIGA.net.

Екзистенційні питання в майбутньому нікуди не подінуться, але натомість у людства буде достатньо комфортних умов, щоби не думати про задоволення базових потреб, каже письменниця.

Наприклад, спробуйте це зараз уявити – через безкоштовність всіх благ вже до 2100 року... перестануть існувати гроші.

Як це змінить людство? Ну, це як обмежена ядерна війна: люди, звісно, адаптуються жити в такому світі, але це буде інший світ, де пануватимуть зовсім інакші правила.

Земля без грошей матиме абсолютно іншу мораль та логіку існування з самого дитинства і до самої смерті. Наразі для нас це незбагненно, адже все, що збудувало людство до цього часу, вперед рухала наша жага до збагачення і влади (загалом).

Кінець історії з технологічним бумом до 2100 року прогнозує Рафаель Вінклер, доцент кафедри філософії Університету Йоганнесбурга. Але "райського стану" тільки за допомогою автоматизації досягнути не вийде.

"Що залишиться робити, коли виробничий процес буде повністю автоматизований? Відповідь, очевидно, полягає в споживанні. Однак ідея про те, що повна автоматизація виробничого процесу збігається з припиненням болю та роботи, є ідеологічною та є фальсифікацією людського життя", – вважає Вінклер.

Йдеться не лише про тіло. Світові релігії та духовність нікуди не подінуться, навіть навпаки – ці категорії стануть важливіші, ніж будь-коли раніше, впевнений футуролог Ювал Харарі.

"У майбутньому духовність стане важливішою, ніж будь-коли раніше. Технології ШІ та біоінженерії змусять усіх нас стикнутися з дуже старими та дуже глибокими духовними питаннями: що таке свідомість, що таке людство, чи існує свобода волі", – каже професор Харарі.

Технократизм стимулює розвиток духовних пошуків, а релігії переосмислять його і стануть ще більш актуальними, певен Харарі.

"Духовні шукачі кидають виклик переконанням і умовностям панівних релігій. Індуїстському релігійному істеблішменту кинув виклик Будда, єврейському – Ісус, а протестантське повстання проти католицької церкви розпалив побожний чернець Мартін Лютер, який хотів отримати відповіді на екзистенційні питання", – каже Харарі LIGA.net.

Отже – скажімо відверто – світ у 2100 році нам вкрай складно осягнути. Але ще складніше, як виявляється, буде людям майбутнього. Їм доведеться шукати відповіді на запитання, які залишались загадкою ще тисячу років до цього.

Проте ми знаємо, до чого призводять запитання, що не мають відповіді: до срачів в Facebook.

А тепер – без жартів. Просто подивімося на світ через 127 років. Не відкладаймо найцікавіше!

Світ-2150: хаос невідомого

Найскладніше завдання. Існують численні змінні та невизначеності, які можуть сформувати хід історії. Одна з них – жодного людства взагалі. Одразу декілька теорій, ґрунтуючись на поточних тенденціях і прогнозах, стверджують, що на людей чекає "комп'ютерний апокаліпсис". Футурологи Нік Бостром та Макс Ходак, наприклад, прогнозують повстання машин та, як наслідок, кінець людської цивілізації.

Можливо, новою сторінкою в розвитку ШІ будуть квантові комп’ютери. Вони мають потенціал виконувати певні обчислення набагато швидше. Проте, як стверджує Мічіо Кайку, саме в квантових комп’ютерах є й ризик, що штучний інтелект в якийсь момент вийде з-під контролю.

Оскільки, згідно з принципом Хайзенберга, у квантовій механіці неможливо одночасно визначити положення та швидкість квантів. Це звучить складно, але означає просту річ: невизначеність, коли ви не знаєте результат, не можете його спрогнозувати.

У своїй праці "Штучний інтелект: Етапи. Загрози. Стратегії" Бостром зауважує, що спільне розуміння кінцевої мети і досягнення способів її реалізації між людством і ШІ до того часу буде вкрай важливим.

Якщо ми просимо штучний інтелект назавжди припинити війни, то якою буде його реакція, якщо він не розумітиме людську свідомість? Сидіти нам у боксах, як у Матриці, і жити в цифровому світі під контролем ШІ.

І це ще хороший сценарій. Бо ШІ, зокрема, може поставити перед собою задачу винищення людства, послуговуючись такою логікою: людство породжує війни; не буде людства – не буде війн.

Складно передбачити, як ШІ виглядатиме у 2150 році, оскільки це залежатиме від багатьох факторів, таких як темпи технічного прогресу, стан суспільства та етичні міркування, пов’язані з розробкою ШІ.

Співзасновник Neuralink Макс Ходак похмуро дивиться на долю людства у цей час. Повстання роботів неминуче, каже він.

"Ми всі загинемо. Машини можуть мати набагато більше гнучкості в організації, ніж ми, – розмірковує Ходак у твіті. – Щоб оновити когнітивні технології в людських суспільствах, потрібні покоління".

Якщо у майбутньому не станеться повстання машин, то, можливо, призначення людей залишиться тільки для філософії, позаяк автоматика ніколи не зрозуміє трансцендентного, на відміну від людини (слово "ніколи" тут, звісно, використане як гіпотеза).

Футурологи і науковці не беруться також стверджувати, чи в роботів в осяжному майбутньому може з’явитися свободна воля. Бо вона, знову ж таки, походить від усвідомлення себе.

"З давніх часів мудреці і святі неодноразово радили людям "пізнати самого себе". Але за часів Сократа, Ісуса та Будди у вас не було справжньої конкуренції. Зараз конкуренція вже є. Якщо уряди та корпорації вас зламають і дізнаються вас краще, ніж ви самі, вони можуть продати вам усе, що захочуть", – додає Харарі.

На противагу катастрофічному сценарію є й позитивні. ШІ має шанс суттєво покращити наше суспільство. По-перше, це економічна вигода. За оцінками PricewaterhouseCoopers, до 2030 року вона становитиме $15,7 трлн.

Футуролог Кайку також називає сценарій "дружній штучний інтелект", коли машина буде спроєктована такою, щоб бути хорошою від початку.

Коли роботи зможуть стати такими ж розумними, як люди, не береться прогнозувати ніхто. Мічіо Кайку вважає, що якщо це станеться, то орієнтовно десь у XXII столітті (тобто до 2200 року), але це не точно.

"Разючий поступ у сфері комп’ютерних технологій досі був зумовлений законом Мура, згідно з яким кількість транзисторів на кристалі мікросхеми подвоюватиметься що два роки. Цей поступ почне сповільнюватись і навіть може зовсім зупинитись близько 2025 року, бо буде досягнуто атомарного рівня в транзисторах. Отже, для мінімального розміру кремнієвого транзистора існує квантове обмеження", – каже він.

Натомість Кай-фу Лі прогнозує, що до 2150 року людство органічно зіллється в симбіоз зі штучним інтелектом.

"Він виконуватиме кількісний аналіз, оптимізацію та рутинні завдання. А ми, люди, зосередимося на креативності, критичному мисленні та відчуттях", – пише він.

Проте Кай-фу Лі з упевненістю говорить, що на людство все ж чекають глибокі зміни, і тільки від людей залежить, приймуть вони їх і використають на благо чи у зло, чи капітулюють перед ними, або ж надихнуться і наново знайдуть себе.

То чи є місце людині в світі майбутнього

Цей текст був би не повний без штучного інтелекту. По-перше, ілюстрації до нього зробила машина (хоча і за допомогою дизайнера, який досить довгий час підбирав необхідні слова). Машина допомагала розшифровувати деякі записи. Машина допоможе нам його опублікувати і просувати. І, щонайменше, нашим дизайнерам вже трохи сумно.

І хоча ми розуміємо, що наразі всі версії штучних інтелектів – це просто комбінація алгоритмів, що підбирають найбільш релевантні відповіді на наші запитання з наявних відповідей, написаних колись людьми, – ми вирішили поставити трьом нейронним мережам одне й те саме запитання.

А те, що відповідь на запитання колись була дана людиною (в тій чи іншій формі), а тепер відтворена машиною, тільки додає драматизму. Адже це і є наші думки, які тепер не відрізнити від інтелекту, який ми (поки що) пишемо з частинкою "штучний".

Тож, штучний інтелекте, чи є для людини місце у майбутньому?

ChatGPT відповів на це питання ствердно:

"Аналізуючи сучасні тенденції і спостереження, я вважаю, що люди й надалі відіграватимуть значну роль у світі майбутнього. Люди досі володіють такими унікальними якостями, як креативність, емпатія та критичне мислення, які важко відтворити за допомогою машин. Крім того, у міру того, як суспільства стають складнішими, ймовірно, зросте попит на людську взаємодію та стосунки, які неможливо замінити технологіями".

Notion AI відповіла неоднозначно:

"На це запитання важко відповісти однозначно. Світ постійно змінюється та розвивається, а разом з ним і ролі та можливості, доступні людям. Однак можна з упевненістю сказати, що поки існують проблеми, які потрібно розв'язати, і труднощі, які потрібно подолати, буде місце для людей, які віддані справі, пристрасні та доволі вправні, щоб впоратися з ними. Отже, відповідь "так", але як це місце виглядатиме і як ми туди потрапимо, вирішувати нам".

А ось відповідь Novel AI:

"Чи є місце для людини у світі майбутнього? Запитання таке ж давнє і серйозне, як те, що поставив Сократу Крітон: "Що нам робити з цією людиною?" Коли йому сказали, що краще дати йому померти, ніж покінчити життя самогубством, Сократ відповів: – Але що з ним буде, якщо я його не вб’ю?"

Читайте також: Пробач, Азімов: правила більше не діють. Нова історія LIGA.net з інженерами-розробниками