Первые проявления главной опасности ИИ будут уже в этом году. Как они коснутся каждого

2024-2025 годы – это годы прорыва AGI – общего или сильного ИИ – к которому уже можно осторожно отнести ChatGPT-4. Это еще промежуточное звено перед преемником суперинтеллектом. Однако сейчас все двигается в направлении накопления критической массы технологий и вычислительных мощностей к быстрому взрывному росту.

Это еще не будет та технологическая сингулярность, о которой мы говорим в Singularity University (до 35 года, когда все пойдет кувырком, еще есть время). В это время станет актуальным вопрос: бросят ли работы с искусственным интеллектом вызов человечеству? Но я считаю, что мы уже внутри этого вызова.

Некоторые китайские ИИ-стартапы уже имеют оценку за 2 млрд долларов (в частности, Moonshot AI), а всего этот рынок там уже почти на 60 млрд. А в следующем году будет и все 80 млрд. Это больше 25% ежегодного роста. В качестве примера мировой рынок мяса растет на 6% в год.

"Ассистенты" уже забирают на себя регулярные или простые операции. "Агенты" помогают в интеллектуальном труде, большую часть которого мы до недавнего времени считали чисто человеческим. Тот суперинтеллект, который будет следующим этапом развития после общего интеллекта – возможно, через пять лет после этого, – сможет решать те задачи, о которых человек сейчас и не знает.

К примеру, у нас все ограничения касаются физического пространства. Мы не можем думать безотносительно времени и воспринимаем только трехмерную проекцию четырехмерного пространства. Физически возможная кибернетическая телепортация, цифровые двойники, заветная кнопка UNDO для человека в физическом пространстве — все это станет реальностью.

Мы сможем преодолеть ограничение нашей физической оболочки. Мы сможем восстанавливать жизнь из "предыдущей сохраненной версии". Суперинтеллект позволит существовать в пространстве, где можно двигаться во времени — и не только. Придется писать и другую философию человечества. И не только человечества.

Сейчас мы считаем, что контролируем искусственный интеллект – есть ощущение, что мы задаем ему вопрос, это мы решаем, когда ему быть у нас на экране. И пока мы это решаем – все ок. А когда он будет разрешать? Когда нам просыпаться? Что делать сегодня?

Мы уже носим гаджеты, которые контролируют наше экранное время, решают, что нам есть, сколько и когда пить, когда ложиться спать. Мы уже на них подсели. То есть что-то такое уже происходит – что-то нас уже начинает контролировать. И искусственный интеллект может достаточно быстро занять эту суперпозицию по отношению к человечеству.

Почему я призываю не быть такими беспечными и не считать, что он еще не скоро овладеет контекстом. В начале 2023 года я говорил, что у нас с вами еще есть время адаптироваться, потому что ИИ очень зависит от контекста. И действительно, искусственный интеллект в начале прошлого года был очень зависим от контекста. А уже в конце 2023 чат GPT 4.0 оторвался от контекста. А в этом году он станет рефлексировать. То есть становится способным не просто оторваться от контекста, а понять наш интерес.

Следующий шаг – это способность фактически управлять контекстом через лучший, более глубокий уровень понимания.

И вот тогда он получит безумный инструмент для рефлексии и будет иметь системную рефлексию – то есть способность постоянно держать нас в поле зрения и предусматривать (а затем и контролировать) наше поведение. А это первый ключевой шаг к предсказанию – способность понять, что будет следующим шагом.

Он не будет требовать от нас формулировки каких-либо потребностей или желаний – он будет догадываться из нашего предыдущего и текущего поведения о том, какое у нас может возникнуть желание. Он сможет спрогнозировать наше поведение, а прогнозирование – это первый шаг перед управлением.

Людям нужно перестать конкурировать друг с другом. Мы сейчас на пороге выживания как вид. Нам нужно так договориться, как это было с ядерным оружием. Ибо использование искусственного интеллекта должно быть не только контролируемым, а четко направленным. Программируемым, если хотите.

Нам нужно договориться так, чтобы он учился правильно. Поскольку без нас он уже сейчас начинает учиться на искусственно сгенерированных данных. Ему уже не хватает настоящих данных. Он исчерпал все данные в Интернете. Он уже сам генерирует данные для того, чтобы учиться на них. Что он генерирует, как генерирует?

Ключевое, что должен сохранить человек, – это способность к мышлению: рефлексивному, стратегическому, адаптивному, креативному, критическому. Все это мы должны держать – именно это нас пока делает конкурентоспособными по отношению к искусственному интеллекту.

И я убежден, что мы выживем, именно сохраняя способность к мышлению и четко понимая, когда нами пытаются манипулировать и управлять. Именно способность рефлексировать делает человека субъектом. Нам нужно оставаться как можно дольше субъектными по отношению к искусственному интеллекту.

На мой взгляд, нам не нужно бояться, что человек воспользуется искусственным интеллектом для того, чтобы нанести непоправимый вред другой части человечества. Нам нужно бояться того, что мы, как человечество, потеряем возможность управлять – быть самой высокой управленческой системой на этой планете. Другими словами – потеряем собственную субъектность.