Последний человек. Новая история LIGA.net о мире искусственного интеллекта спустя 100 лет

В конце 2022 года разработчики искусственного интеллекта открыли Ящик Пандоры. Всего за несколько месяцев программный код забрал рабочие места у десятков миллионов человек (многие из которых этого еще не поняли в силу инерции процессов). Человечество сделало не шаг вперед, а бешеный скачок в новый мир, особенно не задумываясь о последствиях.

Основатель Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк, футуролог Юваль Ной Харари и тысячи других людей написали открытое письмо с призывом к правительствам и разработчикам отложить эксперименты с искусственным интеллектом на шесть месяцев – для адаптации, поиска ответов, для сдерживания разрушительных последствий. Сейчас под письмом – более 18 000 подписей.

Однако, например, некоторые из нейросетей имеют открытый код. И с дня премьеры он доступен каждому. Каждый день программы совершенствуются. Кто угодно может скопировать код и разместить у себя. Это уже сделали, возможно, сотни тысяч человек. Остановить это, запретить – не получится. Добавьте к этому, что подобных сервисов – десятки.

Если мы понимаем, что пути назад нет и большое количество профессий будет заменено ИИ, остается только одно: задать вопрос, что будет делать человек в новом мире. И есть ли нам с вами место в нем вообще.

На заставке к этому материалу – папа римский через 100 лет. Картина написана искусственным интеллектом. Человек настоящего может спросить себя: перед нами человеческое существо или перед нами машина? Через 100 лет такой дилеммы не будет, потому что разница между машиной и человеком исчезнет.

В конце спецтекста мы задали вопрос трем искусственным интеллектам: что ожидает человечество и есть ли для него место. Мы получили три совершенно разных ответа. Один из них – угрожающе-риторический (ИИ в нас не очень верит).

В этом спецтексте LIGA.net пытается исследовать, как будет выглядеть Земля в 2050, 2100 и 2150-м. Мы подготовили его вместе с ведущими учеными, философами и футурологами. Нам помогал Юваль Ной Харари, Славой Жижек, Нэнси Хейлз. Также в тексте – Рэй Курцвейл, Ник Бостром и гендиректор OpenAI (разработчик ChatGPT) Сэм Альтман.

Делаем первый шаг. Пусть это будет лето. За окном – 20 градусов тепла. Курс доллара все еще тревожит. Однако уже не существует Российской Федерации – одной проблемой меньше. Итак, Земля, 27 лет спустя.

Мир-2050: человечество 2.0

История не предопределена, поэтому с уверенностью сказать, каким будет 2050 год, невозможно, отмечает футуролог и писатель Юваль Ной Харари. Он заранее предупреждает читателя, что этот текст – лишь оценка из 2023 года, когда мы только открыли Ящик Пандоры и увидели не очень много.

"История не детерминирована. Поэтому никто не знает, как мир будет выглядеть в 2050 году. Какие сценарии будут реализованы – во многом зависит от наших собственных решений. Весь смысл разговоров о будущем в том, чтобы иметь возможность что-то для этого сделать", – отмечает он в разговоре с LIGA.net.

Поэтому – еще раз – давайте договоримся, что ставки на результат мы не делаем. Мы размышляем и ищем ответы на сложные вопросы.

Реймонд Курцвейл, ученый и футуролог, прогнозирует, что еще до 2050 года нас ждет технологическая сингулярность и то, что он называет человечеством 2.0.

К 2029 году, по словам Курцвейла, компьютеры получат интеллект уже человеческого уровня.

Этот прогноз некоторые из ученых и футурологов воспринимают со страхом. Ведь компьютеры не просто перестанут непосредственно контролироваться людьми, но будут самовоспроизводиться без человеческого участия.

Однако Курцвейл не думает, что это создаст проблему, даже наоборот – человечество сформирует симбиоз с ИИ, и это выведет нас на качественно новый уровень.

"То, что искусственный интеллект поработит человечество, – это нереально. Даже наоборот. Они делают нас умнее. Возможно, их еще нет в наших телах, но к 2030-м годам мы подключим наш неокортекс к "облаку"", – сказал Курцвейл в интервью SXSW.

После сингулярности футурологи в большинстве своем предсказывают два пути развития человечества: люди станут киборгами или же машины поработят человечество. Собственно, острейшие проблемы ожидают нас именно к 2050 году: переломные годы, когда нам всем будет сложно адаптироваться.

Однако существует мнение, что оба сценария – скорее радикальные, чем реальные. Бывший вице-президент Google Greater China Кай-фу Ли считает их маловероятными. К тому же, говорит он, чтобы существующие прототипы искусственного интеллекта хотя бы достигли уровня человека, нужно еще долго работать.

"Для качественного скачка нам понадобятся новые научные прорывы вроде deep learning (глубинного обучения. – Ред.). Нужно, чтобы машины умели сочувствовать. Чтобы машины проявляли эмпатию, доверяли", – пишет Кай-фу Ли в своей книге "ИИ 2041: десять предсказаний будущего".

Он уверен, что в ближайшие несколько десятков лет появления полноценного искусственного интеллекта (на уровне человеческого) ждать не стоит. Хотя в 2050 году, прогнозируют ученые, ныне экспериментальные прото-ИИ научатся адаптироваться к новым обстоятельствам. Это, безусловно, приблизит их к человеку, ведь именно способность адаптироваться является ключом к эволюции.

Нэнси Кэтрин Хейлз, профессор и исследователь постчеловечества, утверждает: к 2050 году с помощью ИИ удастся расширить и улучшить и человеческий интеллект. "GPT-3 сейчас используется для прогнозирования свертывания белков. Он уже предусмотрел новые способы свертывания этих последовательностей, что привело к открытию нового лекарства для лечения различных заболеваний", – рассказывает она в разговоре с LIGA.net.

Она уверена, что общечеловеческие ценности, а не только интеллект, станут в то время основой для любого развития в области ИИ.

Искусственный интеллект также продолжит революционизировать способ нашей работы, поскольку многие рутинные задачи будут автоматизированы и заменены системами на основе ИИ. Однако это не обязательно приведет к массовой потере рабочих мест, поскольку появятся новые профессии и возможности, требующие уникальных навыков и талантов людей.

Сэм Альтман, основатель и руководитель компании OpenAI, разработавшей ChatGPT, предсказывает, что под влиянием технологий изменятся не только ИИ, но и сам принцип образования. "Образование должно измениться, но с технологиями это случалось много раз", – объясняет Альтман.

Профессор теоретической физики в университете Нью-Йорка Мичио Кайку в книге "Физика будущего" прогнозирует, что среди ИИ будут экспертные системы, которые смогут со временем заменить часть врачей и адвокатов.

"В ближайшем будущем вы сможете просто поговорить с врачом-роботом. После ряда вопросов он сможет установить вам диагноз, опираясь на опыт лучших врачей мира. За вашим здоровьем будут постоянно следить с помощью ДНК-чипов", – уверен Кайку.

Развитие ИИ также поднимет важные этические и социальные вопросы: как обеспечить его использование только во благо человечества и как убедиться, что люди не останутся позади, поскольку ИИ продолжает развиваться.

Искусственный интеллект, несомненно, будет оказывать глубокое влияние на каждый аспект нашей жизни, включая отношения, убеждения и идентичность.

Славой Жижек, словенский психоаналитик, философ и культуролог, определяет и ряд этических вопросов, которые уже сейчас возникают при использовании чат-ботов и которые к 2050 году только обострятся.

В разговоре с LIGA.net он моделирует ситуацию: "Миллионы людей уже используют чат-боты. Но как будет реагировать чат-бот, когда собеседник будет применять агрессивные сексистские и расистские высказывания, демонстрировать свои тревожные сексуальные фантазии и регулярно использовать нецензурную лексику?"

Жижек прогнозирует, что к 2050 году человечество станет своеобразным заложником обстоятельств, потому что общение с чат-ботами заставит нас говорить как чат-бот.

"Намного большая опасность, что общение с чат-ботами заставит "настоящих" людей говорить как чат-боты, пропуская нюансы и иронию, быть одержимыми фальшивой точностью", – говорит философ.

Он вспоминает один из разговоров своих друзей с психоаналитиком и сомневается, что в обозримом будущем чат-боты достигнут такого уровня.

"Искусственный интеллект в его нынешней форме базируется на полном присвоении существующей культуры, и представление о том, что он действительно умен, может быть очень опасным", – добавляет художник, писатель и издатель Джеймс Брайдал в интервью The Guardian.

Но быстрое развитие технологий приведет к вытеснению многих традиционных рабочих мест и одновременно к созданию новых, которые раньше невозможно было представить.

Гендиректор OpenAI Сэм Альтман говорит, что искусственный интеллект заменит некоторые рабочие места в ближайшем будущем. В интервью ABC.news Альтман отметил, что это может произойти достаточно быстро.

"Я думаю, что за несколько поколений человечество доказало, что оно может отлично адаптироваться к большим технологическим изменениям. Но меня больше всего волнует, что эти сдвиги произойдут в течение нескольких лет", – убежден он.

Однако ChatGPT, как и другие прото-ИИ, станут скорее инструментом, чем полноценной заменой человека, говорит он.

"Человеческая креативность безгранична и мы находим новые рабочие места. Мы все можем иметь в своем кармане невероятного педагога, который будет настроен под нас и поможет нам учиться", – отмечает Альтман.

ИИ неизбежно приведет к автоматизации многих рутинных задач в разных отраслях, потенциально вытесняя работников, которые сейчас выполняют эти задачи. К примеру, рабочих на производстве.

22 марта 2023 был зафиксирован рекорд по использованию роботов на автомобильных заводах – по подсчетам Международной федерации робототехники, миллион единиц. Количество проданных роботов для домашних заданий в 2021 году составило 19 млн единиц.

Юваль Харари успокаивает: несмотря на значительное увеличение роботов во всех сферах жизни, и в труде в частности, технологии не являются сами по себе определяющими.

По худшему сценарию, озвученному Харари, к 2050 году сотни миллионов людей станут "ненужным классом" и потеряют работу из-за искусственного интеллекта и из-за того, что правительства получат очень много информации о людях (это угрожает их свободе).

Мичио Кайку прогнозирует, что в ближайшие десятилетия появятся новые профессии: инструкторы по искусственному интеллекту, специалисты по вопросам этики ИИ, персонализированные коучи по здравоохранению, специалисты по кибербезопасности.

Хорошо. Если последующие 27 лет нас ждут сложные, но относительно понятные процессы, то что будет дальше? Давайте посмотрим на мир через 77 лет.

Мир-2100: постгуманизм

Опираясь на текущие тенденции, можно сделать некоторые предположения. К концу XXI века, скорее всего, произойдет изменение климата, рост населения, который, по подсчетам футуристов, достигнет стабильного числа в 11 миллиардов. Энергетика и транспорт в подавляющем большинстве будут использовать возобновляемые источники энергии, в частности водород.

Вполне вероятно, что к 2100 году люди создадут колонии на других планетах или спутниках, таких как Марс или Европа. Это может открыть новые возможности для поиска и добычи ресурсов.

Но єто потребует и еще большей сосредоточенности ресурсов. Соответственно, к 2100 году разработки ИИ могут еще больше превзойти то, что мы видим сегодня, с еще более сложными алгоритмами и системами искусственного интеллекта.

Кроме того – как бы мы ни оценивали это из 2023 года – до конца века вполне возможно наступление эры постгуманизма. И это, предупреждает Харари, может оказаться очень опасным вызовом.

"Правительства, корпорации и армии, скорее всего, будут использовать совершенно новые технологии для усовершенствования необходимых им навыков, таких как интеллект и дисциплина. В то же время они будут гораздо меньше заинтересованы в развитии других навыков, таких как сочувствие, художественная чувствительность, духовность", – прогнозирует Харари в разговоре с LIGA.net.

В целом к 2100 году системы искусственного интеллекта, вероятно, станут гораздо более совершенными и интегрированными в разные аспекты человеческой жизни. Предыдущее поколение алгоритмов и систем по сравнению с ними может показаться рудиментарным, а потенциал применения ИИ будет ограничен только воображением.

Проще говоря, возможно, сценарии фантастических фильмов, где роботы выращивают детей (как няни) и становятся близкими друзьями и членами семьи, станут реальностью. Скорее даже – повседневностью.

Мичио Кайку называет сразу несколько сфер, в которых искусственный интеллект будет использован наиболее широко.

Он выделяет модульных роботов, которые будут похожи на змей или пауков и смогут обследовать состояние инженерных коммуникаций. Такие прототипы уже есть. Также до 2100 года должны появиться эмоциональные работы, которые будут участвовать в спасательных операциях, станут домашними любимцами.

Одним из самых резонансных прорывов Кайку считает возможное исследование мозга человека и его сегментирование на составляющие – нейрон за нейроном. Сразу два сверхкомпьютера могли бы это сделать уже сейчас: Blue Gene – один из самых мощных компьютеров от IBM; Blue Brain – им руководит Генри Маркрам из федеральной политехнической школы Лозанны в Швейцарии.

Это откроет множество возможностей – от лечения болезней до интеграции мозга и компьютера. Или иначе: интеграции мозга в компьютер, полная синхронизация и взаимозаменяемость. Или вечная жизнь, если хотите.

Однако, как напоминает Нэнси Хейлз, будущее человека зависит не от искусственного интеллекта, а от решений человека. От того, как человечество будет справляться с проблемами, которые само и создало в предыдущие эпохи.

"Это зависит, прежде всего, не от ИИ, а от того, как мы реагируем, например, на климатический кризис. Время в этом вопросе имеет решающее значение. То время, которое у нас есть, пока не достигли переломной точки, после которой нет пути назад", – говорит она LIGA.net.

Экзистенциальные вопросы в будущем никуда не денутся, при этом у человечества будет достаточно комфортных условий, чтобы не думать об удовлетворении базовых потребностей, говорит писательница.

Например, попробуйте это сейчас представить – из-за бесплатного характера всех благ уже к 2100 году... перестанут существовать деньги.

Как это изменит человечество? Ну, это как ограниченная ядерная война: люди, конечно, адаптируются жить в таком мире, но это будет другой мир, где будут господствовать совсем другие правила.

У Земли без денег будет совершенно другая мораль и логика существования с самого детства и до самой смерти. Сейчас для нас это непостижимо, ведь все, что построило человечество до сих пор, вперед двигала наша жажда обогащения и власти (в основном).

Конец истории с технологическим бумом к 2100 году прогнозирует Рафаэль Винклер, доцент кафедры философии Университета Йоханнесбурга. Но "райского состояния" только с помощью автоматизации достичь не получится.

"Что останется делать, когда производственный процесс будет полностью автоматизирован? Ответ, очевидно, заключается в потреблении. Однако идея о том, что полная автоматизация производственного процесса совпадает с прекращением боли и работы, является идеологической, фальсификацией человеческой жизни", – считает Винклер.

Речь не только о теле. Мировые религии и духовность никуда не денутся, даже наоборот – эти категории станут важнее, чем когда-либо прежде, уверен футуролог Юваль Харари.

"В будущем духовность станет важнее, чем когда-либо прежде. Технологии ИИ и биоинженерии заставят всех нас столкнуться с очень старыми и очень глубокими духовными вопросами: что такое сознание, что такое человечество, существует ли свобода воли", – говорит профессор Харари.

Технократизм стимулирует развитие духовных изысканий, а религии переосмыслят его и станут еще более актуальными, уверен Харари.

"Духовные искатели бросают вызов убеждениям и условностям господствующих религий. Индуистскому религиозному истеблишменту бросил вызов Будда, еврейскому – Иисус, а протестантское восстание против католической церкви разжег благочестивый монах Мартин Лютер, который хотел получить ответы на экзистенциальные вопросы", – сказал он.

Итак – скажем откровенно – мир в 2100 году нам крайне сложно постичь. Но еще труднее, как оказывается, будет людям грядущего. Им придется искать ответы на вопросы, которые оставались загадкой еще тысячу лет до этого.

Конечно, мы знаем, к чему приводят вопросы, не имеющие ответа: к срачам в Facebook.

А теперь – без шуток. Давайте просто посмотрим на мир через 127 лет. Не будем откладывать самое интересное!

Мир-2150: хаос неизвестного

Самая сложная задача. Есть многочисленные переменные и неопределенности, которые могут сформировать ход истории. Одна из них – никакого человечества вообще. Сразу несколько теорий, основываясь на текущих тенденциях и прогнозах, утверждают, что людей ожидает "компьютерный апокалипсис". Футурологи Ник Бостром и Макс Ходак, например, прогнозируют восстание машин и, как последствие, конец человеческой цивилизации.

Возможно новой страницей в развитии ИИ будут квантовые компьютеры. Они могут выполнять определенные вычисления гораздо быстрее. Однако, как утверждает Мичио Кайку, именно в квантовых компьютерах есть и риск, что искусственный интеллект в какой-то момент выйдет из-под контроля.

Поскольку, согласно принципу Хайзенберга, в квантовой механике невозможно одновременно определить положение и скорость квантов. Это звучит сложно, но означает простую вещь: неопределенность, когда вы не знаете результата, не можете его спрогнозировать.

В своем труде "Искусственный интеллект: Этапы. Угрозы. Стратегии" Бостром отмечает, что общее понимание конечной цели и достижение способов ее реализации между человечеством и ИИ к тому времени будет крайне важным.

Если мы просим искусственный интеллект навсегда прекратить войны, то какова будет его реакция, если он не будет понимать человеческое сознание? Сидеть нам в боксах, как в Матрице, и жить в цифровом мире под контролем ИИ.

И это еще хороший сценарий. Ибо ИИ, в частности, может поставить перед собой задачу истребления человечества, пользуясь следующей логикой: человечество порождает войны; не будет человечества – не будет войн.

Сложно предположить, как ИИ будет выглядеть в 2150 году, поскольку это будет зависеть от многих факторов, таких как темпы технического прогресса, состояние общества и этические соображения, связанные с разработкой ИИ.

У соучредителя Neuralink Макса Ходака мрачный взгляд на судьбу человечества в это время. Восстание роботов неизбежно, говорит он.

"Мы все погибнем. Машины могут иметь гораздо больше гибкости в организации, чем мы, – рассуждает Ходак в твите. – Чтобы обновить когнитивные технологии в человеческих обществах, нужны поколения".

Если в будущем не произойдет восстание машин, то, возможно, назначение людей останется только в философии, поскольку автоматика никогда не поймет трансцендентного, в отличие от человека (слово "никогда" здесь, конечно, использовано как гипотеза).

Футурологи и ученые не берутся также утверждать, может ли у роботов в обозримом будущем появиться свободная воля. Ибо она опять же происходит от осознания себя.

"С давних времен мудрецы и святые неоднократно советовали людям "познать самого себя". Но во времена Сократа, Иисуса и Будды у вас не было настоящей конкуренции. Сейчас конкуренция уже есть. Если правительства и корпорации вас взломают и узнают вас лучше, чем вы сами, они могут продать вам все, что захотят", – добавляет Харари.

В противовес катастрофическому сценарию есть и положительные. У ИИ есть шанс существенно улучшить наше общество. Во-первых, это экономическая выгода. По оценкам PricewaterhouseCoopers, к 2030 году она составит $15,7 трлн.

Футуролог Кайку также называет сценарий "дружественный искусственный интеллект", когда машина будет спроектирована такой, чтобы быть хорошей с самого начала.

Когда роботы смогут стать такими же умными, как люди, никто не берется прогнозировать. Мичио Кайку считает, что если это произойдет, то ориентировочно где-то в XXII веке (то есть до 2200 года), но это не точно.

"Поразительное продвижение в сфере компьютерных технологий до сих пор было обусловлено законом Мура, согласно которому количество транзисторов на кристалле микросхемы будет удваиваться каждые два года. Это продвижение начнет замедляться и даже может совсем остановиться около 2025 года, поскольку будет достигнут атомарный уровень в транзисторах. Следовательно, для минимального размера кремниевого транзистора существует квантовое ограничение", – говорит он.

Кай-фу Ли прогнозирует, что к 2150 году человечество органично сольется в симбиоз с искусственным интеллектом.

"Он будет выполнять количественный анализ, оптимизацию и рутинные задачи. А мы, люди, сосредоточимся на креативности, критическом мышлении и ощущениях", – пишет он.

Однако Кай-фу Ли с уверенностью говорит, что человечество все же ждут глубокие изменения, и только от людей зависит, примут они их и используют во благо или во зло, или капитулируют перед ними, или вдохновятся и заново найдут себя.

Есть ли место человеку в мире будущего

Этот текст был бы не полным без искусственного интеллекта. Во-первых, иллюстрации к нему сделала машина (хотя и при помощи дизайнера, который достаточно долгое время подбирал необходимые слова). Машина помогала расшифровывать некоторые записи. Машина поможет нам его опубликовать и продвигать. И, как минимум, нашим дизайнерам уже немного грустно.

И хотя мы понимаем, что все версии искусственных интеллектов сегодня – это просто комбинация алгоритмов, подбирающих наиболее релевантные ответы на наши вопросы из существующих ответов, написанных когда-либо людьми, – мы решили задать трем нейронным сетям один и тот же вопрос.

А то, что ответ на вопрос когда-то был дан человеком (в той или иной форме), а теперь воспроизведен машиной, только добавляет драматизма. Ведь это и есть наши мысли, которые теперь не отличить от интеллекта, который мы (пока) пишем с уточнением "искусственный".

Итак, искусственный интеллект, есть ли для человека место в будущем?

ChatGPT ответил на этот вопрос утвердительно:

"Анализируя современные тенденции и наблюдения, я считаю, что люди и дальше будут играть значительную роль в мире будущего. Люди все еще обладают такими уникальными качествами, как креативность, эмпатия и критическое мышление, которые трудно воспроизвести с помощью машин. Кроме того, по мере того, как общества становятся сложнее, вероятно, возрастет спрос на человеческое взаимодействие и отношения, которые невозможно заменить технологиями".

Notion AI ответила неоднозначно:

"На этот вопрос трудно ответить однозначно. Мир постоянно меняется и развивается, а вместе с ним роли и возможности, доступные людям. Однако можно с уверенностью сказать, что пока существуют проблемы, которые нужно решить, и трудности, которые нужно преодолеть, будет место для людей, которые преданы делу, пристрастны и достаточно ловки, чтобы справиться с ними. Следовательно, ответ "да", но как это место будет выглядеть и как мы туда попадем, решать нам".

А вот ответ Novel AI:

"Есть ли место для человека в мире будущего? Вопрос такой же древний и серьезный, как тот, который задал Сократу Критон: "Что нам делать с этим человеком?" Когда ему сказали, что лучше дать ему умереть, чем покончить жизнь самоубийством, Сократ ответил: – Но что с ним будет, если я его не убью?"

Читайте также: Прости, Азимов: правил больше нет. Новая история LIGA.net с инженерами-разработчиками