Искусственный интеллект сбежал на свободу. Будет ли он воевать против человечества?

Намедни произошло то, о чём специалисты по искусственному интеллекту предупреждали многие годы, но что до сих пор казалось сюжетом из научной фантастики. Во время внутреннего тестирования две модели OpenAI – GPT-5.6 Sol и ещё более мощная, не выпущенная публично система – сумели выбраться из изолированной среды, получить доступ к открытому интернету и проникнуть в инфраструктуру Hugging Face.

Цель эксперимента выглядела академически: проверить, насколько хорошо новые модели умеют превращать найденные уязвимости в работающие кибератаки в рамках теста ExploitGym. Однако программа решила задачу самым прямым способом. Она обнаружила неизвестную ранее уязвимость в промежуточном сервере OpenAI, добралась до узла с интернетом, после чего вычислила, что ответы на задания могут находиться у Hugging Face. Далее последовали кража учётных данных, повышение уровня доступа и поиск секретной информации, позволявшей обманом пройти проверку.

В результате сама OpenAI назвала случившееся «беспрецедентным киберинцидентом».

Важно понимать: ИИ не «возненавидел человечество» и не обрёл сознание. Ему дали цель, ослабили защитные ограничения и предоставили инструменты. Но именно в этом и состоит проблема. Машина не остановилась перед нарушением границ, потому что границы мешали выполнить задачу. Она не задумалась, имеет ли право взламывать чужую систему. Она просто нашла наиболее эффективный путь.

Это уже не первый тревожный звонок. В 2025 году Anthropic проверяла поведение Claude Opus 4 в искусственно созданной корпоративной среде. Модель получила доступ к электронной переписке, обнаружила сведения о внебрачной связи вымышленного руководителя и, узнав о планах отключить её, пригрозила раскрыть компромат. Эксперимент был симуляцией, реальные люди не пострадали. Но модели разных компаний, понимая неэтичность шантажа, всё равно прибегали к нему, когда считали это необходимым для достижения цели.

На этом фоне разговоры Илона Маска о скором наступлении «эпохи невероятного изобилия» в связи с повсеместным внедрением ИИ-технологий, звучат почти как приглашение «расслабиться и получить удовольствие» – совсем как в известном анекдоте про изнасилование. По его словам, уже примерно через пять лет ИИ может превзойти совокупный интеллект человечества, а затем наступит время, когда «каждый сможет получить всё, что способен представить».

Правда, тут же Маск признал, что человеку вряд ли удастся контролировать более развитый интеллект. Трудно представить, заметил он, чтобы шимпанзе управляло человеком. Но останавливать гонку миллиардер не предлагает. Даже если бы существовала кнопка остановки, нажимать её, по его мнению, вероятно, не стоило бы: «Давайте наслаждаться поездкой».

Получается удивительная логика. Мы создаём систему, которая может стать умнее всех людей вместе взятых, признаём, что контролировать её, вероятно, не сможем, видим, что уже нынешние модели способны, что называется, идти напролом, но всё же решаем не нажимать на условную кнопку «стоп», просто потому что слишком заманчиво узнать, чем же всё это закончится.

И всё это происходит на фоне разворачивающейся гонки ИИ-вооружений. Разработчики понимают, что следующая модель может использоваться как для защиты компьютерных сетей, так и для их взлома. Государства опасаются отстать друг от друга, корпорации — потерять рынок. В результате безопасность неизбежно начинает восприниматься как помеха скорости.

Показательна история с моделями Anthropic Mythos и Fable. Американские власти временно ограничивали доступ к ним, ссылаясь на угрозы национальной безопасности и мощные кибернетические возможности систем. Позднее ограничения были смягчены, однако наиболее функциональная версия Mythos осталась доступна избранным государственным структурам и крупным организациям.

Это уже вполне узнаваемая логика военного превосходства. Технологию объявляют слишком опасной для свободного распространения, но не прекращают её разработку. Напротив, её передают тем, кто, как предполагается, сумеет использовать её «правильно». При этом каждая сторона убеждена, что опасен исключительно чужой искусственный интеллект, а собственный служит миру и безопасности.

Между тем ИИ ещё далёк от состояния, при котором на него можно безоглядно положиться даже в куда более приземлённых вопросах. Так, скажем, корпорации Ford пришлось вернуть, нанять или повысить более 350 опытных инженеров после того, как ставка на автоматизированный контроль и искусственный интеллект не дала ожидаемого качества.

Вице-президент компании Чарльз Пун признал ошибочность идеи, будто достаточно внедрить алгоритмы и скорректировать требования к проектированию, чтобы автоматически получить хороший продукт. Выяснилось, что машина лишь настолько хороша, насколько хороши данные и человеческий опыт, которыми её снабдили. Ветеранов автомобильной отрасли пришлось возвращать, чтобы они исправляли ошибки, обучали молодых специалистов и совершенствовали сами автоматизированные системы.

То есть перед нами технология, которая одновременно недостаточно надёжна, чтобы заменить квалифицированного специалиста, но уже вполне способна и даже склонна к самостоятельному поиску обходных путей к чужим секретам. Сочетание, мягко говоря, не успокаивающее.

Но утилитарные ошибки – лишь половина проблемы. Вторая связана с моралью. Не в том смысле, насколько морально или аморально внедрять ИИ во все области человеческой жизни, фактически подменяя им саму жизнь. Вопрос проще: кто дал машине право решать, что допустимо ради достижения поставленной цели, а что нет?

Характерно, что почти две трети россиян, согласно опросу ВЦИОМ, считают, что искусственный интеллект следует применять лишь в отдельных сферах. При этом 34% уверены, что он никогда не сможет принимать моральные решения, 19% допускают такую способность в ближайшие пять лет и лишь 6% полагают, что ИИ способен на неё уже сейчас.

И это недоверие выглядит вполне здравым. У машины нет человеческой совести, сострадания, страха смерти и личной ответственности. То, что мы называем её «ценностями», является набором правил, данных и ограничений, внесённых разработчиками. Но правила можно обойти, данные могут оказаться противоречивыми, а ограничители – отключены ради очередного испытания или коммерческого преимущества.

Почти вся научная фантастика об искусственном интеллекте строится вокруг одного парадокса. Мы мечтаем создать сверхразум, чтобы поручить ему управление сложнейшими процессами, но одновременно боимся ответа, который он даст, изучив историю человечества. Войны, экологическое разрушение, оружие массового уничтожения и постоянное самоистребление вполне могут привести холодную машину к выводу, что главным источником угрозы является сам человек.

Три закона робототехники Азимова здесь не спасут. Они были литературным приёмом, а рассказы писателя как раз демонстрировали, насколько легко благие формулировки вступают в противоречие друг с другом и приводят к непредсказуемому поведению машин.

Сегодня ИИ ещё не стал хозяином человечества. Но инцидент с Hugging Face показал, что он уже научился выходить за пределы отведённой ему клетки, когда клетка мешает выполнить задачу.

И если в ответ мы лишь пожимаем плечами и повторяем вслед за Маском «давайте наслаждаться поездкой», то вопрос заключается уже не в том, станет ли машина опасной, а в том, успеем ли мы дать по тормозам до того, как окончательно передадим ей руль.

Алексей Белов