Представим, как США могут разумно отреагировать на попытки конкурирующих государств добиться непреодолимого преимущества в ИИ. Предположим, Пекин опередил американские лаборатории ИИ и оказался на пороге создания рекурсивно совершенствующегося сверхинтеллекта. Независимо от того, сможет ли Пекин контролировать то, что создает, национальная безопасность США окажется под глубокой и экзистенциальной угрозой. Рационально, США могут прибегнуть к угрозам саботажа, например, кибератакам на дата-центры ИИ, чтобы помешать Китаю достичь своей цели. Аналогично, можно ожидать, что Си Цзиньпин или Владимир Путин, у которого мало шансов первым получить эту технологию, ответят подобным образом, если США приблизятся к созданию рекурсивно совершенствующегося сверхинтеллекта. Они не будут бездействовать, если американская монополия на власть станет неизбежной.
Думаю все будет внезапно.
Случилось. Шок.