Возможные исходы Манхэттенского проекта США по сверхразуму. Пример пути к эскалации: проект США опережает Китай без "увечий" и сохраняет контроль над рекурсией, но не достигает сверхразума или сверхоружия. Хотя глобальная власть мало меняется, Пекин осуждает попытку Вашингтона к стратегической монополии как серьезную эскалацию. Типичный исход Манхэттенского проекта по сверхразуму — крайняя эскалация, а всеуничтожение — худший предсказуемый результат....
Вызовы, которые ставит ИИ, слишком широки и слишком серьезны для разрозненных мер. Необходима всеобъемлющая стратегия, которая не уклоняется от тревожных последствий передового ИИ. Как и в знаменитом анализе ядерной стратегии Германа Кана [3], стратегия сверхразума требует "думать о немыслимом". В этой статье мы предлагаем такую стратегию и рассматриваем фундаментальные вопросы на этом пути: Что делать с летальным автономным оружием? Катастрофическим злоупотреблением? Мощными открытыми ИИ? Массовым наблюдением с помощью ИИ? Как общество может сохранить общее понимание реальности? Что делать с правами ИИ? Как людям сохранить свой статус в мире массовой автоматизации?...
Учитывая относительную легкость саботажа дестабилизирующего проекта ИИ — от скрытых кибератак до потенциальных кинетических ударов по дата-центрам — MAIM уже описывает стратегическую ситуацию, в которой находятся сверхдержавы ИИ. Наряду с этим, государства могут повысить свою конкурентоспособность, укрепляя свои экономики и вооруженные силы с помощью ИИ, а также заниматься нераспространением, чтобы не допустить попадания вооружаемых возможностей ИИ в руки злоумышленников. В совокупности трехчастная структура сдерживания, нераспространения и конкурентоспособности представляет собой надежную стратегию в отношении сверхразума в ближайшие годы.
... Под "кинетическими ударами по датацентрам" — понимается ракетный удар по серверам Яндекса и Вконтакте.
Еще — Сбербанка. Храните деньги в золоте....
Подобно тому, как нации когда-то разрабатывали ядерные стратегии для обеспечения своего выживания, нам теперь нужна последовательная стратегия сверхразума для навигации в новом периоде трансформационных изменений.
...