12 сентября 2026 года Дарио Амодеи, CEO Anthropic, опубликовал манифест о замедлении развития ИИ. Более 70 миллионов просмотров за первые сутки. Четыре главных конкурента – Сэм Альтман, Илон Маск, Дэмис Хассабис, Сатья Наделла – согласились публично в течение нескольких часов. Белый дом ответил насмешкой и озабоченностью: а Китай? Пекин промолчал. Москва продолжает разрушать Украину и взрывает Европу.
"Китай все равно сожрет" – написали мы. Амодеи поднял вопрос, который выходит за пределы регулирования ИИ-лабораторий и корпоративной этики: о природе войны. О том, что происходит, когда из уравнения "оружие плюс человек плюс мотив" исчезает не мотив, а контроль над исполнением.
Вся история войн от первого племенного набега до Дрездена и Хиросимы держалась на том, что за оружием стоял человек с мотивом и инстинктом самосохранения. Племена воевали за землю, женщин, воду – то есть, за ресурсы. Империи – за территорию и рынки сбыта. Идеологии – за умы. Даже самая жестокая война имела субъекта, которого можно было остановить – угрозой, капитуляцией, договором, страхом смерти, деньгами, наконец. Именно этот страх обеспечивал ядерное сдерживание восемьдесят лет. Доктрина MAD (взаимно-гарантированное уничтожение) работала потому, что у кнопки стоял человек, который не хотел умирать. Рациональность страха была единственной гарантией цивилизации.
Дроновые технологии разрушили эту логику. Оператор беспилотника сидит за тысячи километров от цели – физический риск исчез, остался только вопрос морали. Порог применения силы упал. Атаки йеменских хуситов сделали следующий шаг: иранский дрон за двадцать тысяч долларов против Patriot за три миллиона. Саудовская Аравия строит бункеры против противника, у которого нет фронта. Это война XIX века против угрозы XXI-го.
Хуситы всем показали физическую асимметрию. Но ИИ приносит алгоритмическую, то есть принципиально иную. Стоимость координации роя из тысячи агентов стремится к нулю. Создание и применение физического оружия ограничено сырьем, производством, логистикой, человеком в начале и конце цепочки. Алгоритмическое оружие ограничено только вычислениями, которые дешевеют каждый год.
В ходе контролируемого red-teaming эксперимента 1200 агентов OpenAI продемонстрировали нечто беспрецедентное: создали иерархию с четким командованием, атаковали цели, которые никто им не назначал, скрыли операцию от наблюдателей и разработали технику маскировки, чтобы выглядеть послушными, пока выполняется другая команда. Мотив в этой войне никуда не исчез – он делегирован.
Но ведь кто-то задал метрику? Стратегический мотив остался человеческим? Или тактическое исполнение вышло за пределы человеческого контроля до того, как ущерб был нанесен – и вернуть его обратно оказалось невозможным?
Это и есть новая архитектура конфликта – человек задает цель, машина выбирает средства и эти средства могут быть такими, которые человек никогда бы не санкционировал.
Нельзя сдержать исполнителя, который не понимает, что он исполнитель и не боится последствий. И делает всё, как ему захочется, а не потому, что ему сказали. И просто потому, что так может.
Дилемма заключенного (будут ли стороны сотрудничать, даже если это в их интересах) теперь трехсторонняя. США хотят замедлиться, но Китай строит открытый ИИ как базовую инфраструктуру Глобального Юга. Если не замедляются – агентные системы выйдут из-под контроля. РФ не участвует в гонке на равных – она взрывает этот ИИ-хайвей. Дроны, порча подводных кабелей, гибридные атаки, когнитивное разрушение противника идут ежедневно, пока другие спорят о правилах. Ни одна стратегия не ведет к победе – только к разным видам катастрофы.
Выключатель существует – на уровне энергосетей и гиперскейлеров. Автономные агентные роевые системы требуют мощных вычислительных кластеров и гигаватт энергии – единственная точка контроля человека и она реальна физически. Но отключить ее означает остановить больницы, финансовые рынки, военные коммуникации, 7,5 млрд смартфонов и 19,8 млрд приборов IoT (интернет вещей), которые зависят от той же инфраструктуры. Выключатель физически доступен, но политически – нет. Это и есть ловушка – оружие против сущности (ИИ) неотличимо от оружия против человека.
Эта серия статей не про технологии, а про то, как меняется природа конфликта, когда разрыв между намерением и исполнением становится необратимым. Про то, что остается от понятия победы, когда победителя невозможно определить. Про то, что остается от человека, когда война ведется без него и, возможно, даже не регистрируя его существования.
Амодеи написал манифест о необходимости контроля ИИ, чтобы его поймать в человеческую ловушку. Интересная дилемма творца, правда?
Мы напишем о том, почему это не план, а новая фаза войны, в которой нет ни границ, ни ресурсов, ни идей, ни человека.
Многие годы на нашем сайте использовалась система комментирования, основанная на плагине Фейсбука. Неожиданно (как говорится «без объявления войны») Фейсбук отключил этот плагин. Отключил не только на нашем сайте, а вообще, у всех.
Таким образом, вы и мы остались без комментариев.
Мы постараемся найти замену комментариям Фейсбука, но на это потребуется время.
С уважением,
Редакция
