Вообще любые договора об ограничении ИИ -
Просто невозможны.
Потому что корпократы и правительства их конечно подпишут -
Но соблюдать уже точно не будут.
Всегда найдется корпорация или закрытый университет - или военное учреждение,
Которые закопаются под землю, заплывут в глубины,
Обоснуются в Арктике или Антарктике - там еще и охлаждение бесплатное.
Уедут в Чили или Эквадор - на совсем худой конец.
В общем надо ждать сингулярность.