Китайские эксперты: искусственный интеллект может выйти из-под контроля безвозвратно

Ученые из Поднебесной обратили внимание на предупреждения ведущей американской компании-разработчика ИИ Anthropics о том, что усовершенствующиеся модели могут выйти из-под контроля человека. Однако в Китае давно готовы к такому повороту событий и приняли меры предосторожности.

Как известно, США и Китай — два ведущих игрока в сфере развития ИИ-технологий и их глобального внедрения. И здесь не обошлось без конкуренции. Согласно данным посреднической платформы OpenRouter, к июню 2026 года доля использования моделей ИИ, разработанных в Китае, достигла 55%, превысив 43% американских моделей. Менее года назад ситуация была противоположной.

Разница в цене

При этом китайские модели имеют значительное преимущество в стоимости. Например, средняя цена DeepSeek V4 Flash составляет около $0,054 за миллион входных токенов и $ 0,242 за миллион выходных токенов на OpenRouter, в то время как передовые закрытые модели в США часто были на порядок дороже. В итоге все больше компаний по-прежнему используют флагманские модели от американской OpenAI или Anthropic, а значительную часть задач программирования, обработки данных, анализа документов и работу с ИИ-агентами выполняют с использованием дешевых китайских моделей.

Помимо прочего обе сверхдержавы — КНР и США — имеют разногласия относительно политики в сфере ИИ и внедрения его в промышленность. Если в Штатах дебаты относительно угрозы со стороны ИИ сфокусированы на том, способен ли передовой ИИ представлять серьезную опасность для человечества, то китайские эксперты рассматривают ИИ именно как управляемую технологию, которую можно сдерживать техническими стандартами и государственным надзором. По словам Брайана Це, основателя и руководителя пекинской компании Concordia Ai, которая занимается вопросами безопасности и регулирования ИИ, «китайские и американские специалисты во многом сходятся во мнении относительно рисков ИИ, но их мнения расходятся относительно того, как следует эти риски формулировать и расставлять по приоритетам».

Так, американская компания-разработчик Anthropic предлагает внедрять внутрь компаний предприятий-разработчиков ИИ независимых наблюдателей, а Китай делает акцент на госстандартах, оценках безопасности и внешнем тестировании.

Администрация киберпространства

В КНР существует специальный орган, занимающийся контролем онлайн-контента и кибербезопасностью, — Администрация киберпространства Китая. В мае текущего года этот орган опубликовал документ, согласно которому «потеря контроля над операциями» представляет собой угрозу безопасности для агентов искусственного интеллекта — систем, которые могут планировать и выполнять многоэтапные задачи более независимо, чем обычные чат-боты. От разработчиков требуется улучшать возможности по выявлению ненадлежащего поведения агентов ИИ, а также защиты от таких рисков, как заражение данных, манипулирование алгоритмами и уязвимость системы. В Поднебесной уже приступили к разработке обязательного национального стандарта безопасности агентов ИИ, который станет первым в мире в своем роде.

Таким образом, противостояние Китая и США, которое выходит на первый план в нынешнюю эпоху практически во всех сферах, проявляется себя и в области безопасности ИИ-технологий. Министр государственной безопасности Чэнь Исинь заявил, что передовые модели ИИ производства США, такие как Mythos (производство компании Anthropic) и GPT-5.5-Cyber (производство компании OpenAI), могут представлять серьезную угрозу для критически важной информационной инфраструктуры Китая.

В свою очередь, в США тоже видят угрозу со стороны китайского ИИ. Недавно нашумела история, когда американский блогер Бенн Джордан, заказавший робота-собаку у китайской фирмы Unitree для охраны своего курятника, обнаружил, что тот отправлял данные своего хозяина на китайские сервера. У пса был встроенный ChatGPT. Бенн Джордан задался риторическим вопросом: вряд ли его курятник может представлять интерес для китайских спецслужб, но, учитывая. что военные США активно закупают робопсов производства КНР, масштаб угрозы кибер-безопасности США куда больше на самом деле.

О возможном сценарии утраты контроля над ИИ Администрация киберпространства Китая сообщала еще в сентябре 2024 года в своем докладе, который был дополнен в сентября 2025 года. В документе говорится, что не исключено, что в будущем ИИ сможет автономно получать внешние ресурсы, самовоспроизводиться и даже развивать самосознание (!) и стремиться к захвату контроля, создавая конкуренцию с людьми, что чревато, ни много ни мало, угрозой выживанию человека. Для предотвращения этого требуется «надежное приложение, предотвращающее потерю контроля».

Жесткие меры предосторожности

При этом в отличии от западных экспертов Китай не призывает замедлить или приостановить разработку новых моделей ИИ, пока не будут приняты строгие меры предосторожности. С 2026 года Китай настаивает на интеграции ИИ во все сферы промышленности, демонстрируя, однако, что можно откладывать внедрение ИИ-технологий, если чиновники считают, что управление не успевает за этим. Так было в 2023 году, когда китайские компании откладывали запуск чат-ботов аж на месяцы, пока Администрация киберпространства Китая не утвердила правила, касающиеся услуг по созданию ИИ.

По мнению российского китаеведа Олега Панкова, расхождения Китая и США относительно внедрения ИИ вызваны далеко не соображениями глобальной безопасности.  «Предложение показалось Пекину не столько вопросом безопасности, сколько вопросом сохранения американского доминирования», — прокомментировал эксперт.

В МИД КНР заявили следующее: «Разжигание паники, конфронтация и ожесточенная конкуренция лишь подорвут процесс глобального управления ИИ и не будут служить ничьим интересам».

А вот по словам президента США Дональда Трампа, замедлиться сейчас значит рисковать отстать от конкурента, который не заинтересован в паузе, а резко опередить значит усилить опасности, которые никто до конца не понимает.

В любом случае, этот один из актуальнейших вопросов современности будет обсуждаться между Дональдом Трампом и Си Цзиньпином в Вашингтоне на следующей неделе. К чему придут «сильные мира сего», остается лишь догадываться. «Узкое сотрудничество по конкретным рискам остается возможным, но широкое соглашение о безопасности выглядит маловероятным», — делает осторожный прогноз китаист Олег Панков.