По мере созревания ядерных арсеналов и становления способности к взаимному уничтожению неоспоримой, нации в конечном итоге приняли, что любая смелая попытка доминировать над всеми противниками рискует вызвать превентивный удар. Подобное состояние взаимной стратегической уязвимости нависает в области ИИ. Если соперничающее государство устремится к стратегической монополии, другие государства не будут молча ждать. Если это государство потеряет контроль, выживание окажется под угрозой; если же оно сохранит контроль и ИИ будет мощным, выживание также будет под угрозой. Соперник с гораздо более мощным ИИ станет серьезной чрезвычайной ситуацией для национальной безопасности, поэтому сверхдержавы не примут значительного отставания в возможностях ИИ. Вместо того чтобы ждать, пока соперник вооружит сверхразум против них, государства будут действовать, чтобы отключить угрожающие проекты ИИ, создавая динамику сдерживания, которую можно назвать Взаимно Обеспеченной Неисправностью ИИ, или MAIM....
Однако быстрый прогресс технологий ИИ вносит значительные неопределенности для международной стабильности и безопасности. Введение ядерного оружия изменило международные отношения, предоставив влияние тем, кто им обладал, и приведя к гонке вооружений. Карибский кризис показал, как близко мир подошел к ядерной войне. Ядерное уничтожение до сих пор избегалось, несмотря на значительные напряжения между ядерными государствами, отчасти благодаря принципу сдерживания Взаимного Гарантированного Уничтожения (MAD), где любое использование ядерного оружия вызвало бы ответный удар. В эпоху ИИ может возникнуть параллельная форма сдерживания — то, что можно назвать "Взаимно Обеспеченной Неисправностью ИИ" (MAIM), — где проекты ИИ государств ограничиваются взаимными угрозами саботажа....
Учитывая относительную легкость саботажа дестабилизирующего проекта ИИ — от скрытых кибератак до потенциальных кинетических ударов по дата-центрам — MAIM уже описывает стратегическую ситуацию, в которой находятся сверхдержавы ИИ. Наряду с этим, государства могут повысить свою конкурентоспособность, укрепляя свои экономики и вооруженные силы с помощью ИИ, а также заниматься нераспространением, чтобы не допустить попадания вооружаемых возможностей ИИ в руки злоумышленников. В совокупности трехчастная структура сдерживания, нераспространения и конкурентоспособности представляет собой надежную стратегию в отношении сверхразума в ближайшие годы.
... Под "кинетическими ударами по датацентрам" — понимается ракетный удар по серверам Яндекса и Вконтакте.
Еще — Сбербанка. Храните деньги в золоте....
Подобно тому, как нации когда-то разрабатывали ядерные стратегии для обеспечения своего выживания, нам теперь нужна последовательная стратегия сверхразума для навигации в новом периоде трансформационных изменений.
...