«Миропорядок 2.0» с Арутюном Аветисяном

Alpha News продолжает проект «Миропорядок 2.0», в рамках которого Айк Халатян обсуждает с руководителями и ведущими экспертами главных мозговых центров России возможный (зарождающийся) новый миропорядок и место Армении в нём.

Новым гостем проекта «Миропорядок 2.0» стал Арутюн Аветисян — академик РАН, доктор физико-математических наук, директор Института системного программирования имени В. П. Иванникова РАН, профессор факультета управления и прикладной математики МФТИ, заведующий кафедрами системного программирования ВМК МГУ имени М. В. Ломоносова, МФТИ и факультета компьютерных наук ВШЭ.

В интервью Аветисян анализирует роль искусственного интеллекта в будущем миропорядке, ключевые факторы успеха в глобальной конкуренции за лидерство в сфере ИИ, а также определяет, кто сегодня является мировым лидером и какие драйверы лежат в основе развития технологии. Отдельно он останавливается на причинах отставания СССР от США в сфере IT.

В ходе беседы Аветисян затрагивает один из главных вопросов современности — представляет ли ИИ угрозу для человечества, какие риски несет отсутствие его регулирования в военной сфере и способен ли искусственный интеллект снижать когнитивные способности человека.

Кроме того, он оценивает подходы к регулированию ИИ — жесткий контроль или более гибкую, либеральную модель. А также рассматривает, что Россия может предложить постсоветским странам в сфере его развития.

«Во все времена те, кто обладал передовыми технологиями, так или иначе диктовали свои правила игры. За тысячелетия в этом смысле ничего не изменилось. Обладание ядерным оружием было гарантией того, что другим можно навязать свою волю другим. То, что мы парировали, свое ядерное оружие создали, было гарантией нашей безопасности в послевоенном мироустройстве и подтвердило те договорённости, которые были зафиксированы еще в Ялте.

Мне кажется, в этом смысле, да, новые технологии — это новые вызовы. Сейчас очередной виток цифровизации привел к тому, что ключевым стало слово «искусственный интеллект». При этом самому термину уже около 70 лет, но об этом часто забывают. Это не какая-то отдельная технология. Попробуйте дать определение искусственного интеллекта — и даже несколько специалистов начнут спорить друг с другом, что это такое. Поэтому то, что мы сегодня понимаем под этим словом, действительно является серьёзным конкурентным преимуществом. И это связано не только с военной сферой, но и с другими отраслями: практически нет ни одной области жизнедеятельности человека и экономики, на которую это не могло бы повлиять при наличии конкурентоспособных решений. Тем не менее важно понимать, что это не отдельная технология вроде атомной бомбы или ядерного оружия. Это целый конгломерат самых разных технологий, и все значительно сложнее, чем может показаться на первый взгляд», — заявил Аветисян.

На вопрос, может ли искусственный интеллект стать угрозой для человечества, условным «Скайнетом» из фильма «Терминатор», эксперт ответил: «Если вы доверились искусственному интеллекту и сказали, что искусственный интеллект — это интеллект, то уже проиграли. Я утверждаю, что искусственный интеллект — не интеллект, это некоторая, пусть и супер, но технология, и к ней нужно соответствующим образом относиться. Иначе какая регуляторика, о чём мы вообще говорим? То есть это очень сложная технология, которую нужно действительно регулировать: иногда ограничивать, иногда, наоборот, где-то внедрять быстрее, чтобы улучшить нашу жизнь. Но она ничего и нигде захватить не может в этом смысле.

Если вы даете технологии возможность управлять жизненно важными процессами, при этом технология такова, что вы не можете ее контролировать, в этом случае, конечно, вы обречены. Я надеюсь, что человечество достаточно разумно, чтобы этого не сделать. И сейчас, по-моему, в этом смысле есть определённый консенсус в мире. В том числе то, о чем говорила (известный специалист по конституционному праву Талия) Хабриева, — что у искусственного интеллекта нет субъектности. Всё-таки это важно.

Но в том, что попытки двигаться в эту сторону могут быть, я не сомневаюсь. Почему? Потому что даже если там вообще не будет никакого интеллекта, но вы согласились, что некая система, программа — как угодно ее завтра назовут, сейчас же «модель мира» развивается и так далее, — если вам внушат, что она «чувствует» и так далее, и вы в это поверите, то вы обречены.

Потому что с той стороны с вами будет работать не один человек, а целая группа физических людей вместе с этим так называемым интеллектом. И ваш интеллект, конечно же, подавят, потому что вы уже поверили и начали участвовать в соревновании. Как только вы начали участвовать в этом соревновании, вы проиграли. А если вы говорите: «Подождите, а в каком соревновании? Это робот. Ну да, он поднимает 10 тонн — я не могу. Ну и что?» — у многих этого осознания нет. Потому что, когда мы читаем СМИ и все остальное, очень часто описываются случаи, когда люди общаются с тем же ChatGPT, фактически очеловечивают его. Это большая проблема.

По данным Всемирной организации здравоохранения (ВОЗ), около 8% населения являются психологически неустойчивыми. Искусственный интеллект и цифровизация позволяют добраться до каждого из нас — через нас, если мы устойчивы, через детей, через кого-то еще, не важно. Конечно, это большая проблема в этом смысле. Именно поэтому нужна регуляторика, именно поэтому нужны научные исследования: как это влияет на сознание человека, на образовательные возможности, на развитие ребенка».