Веса моделей и исследовательские идеи как ключевая информация в ИИ.
В области ИИ основными элементами конфиденциальной информации являются веса моделей и исследовательские идеи. Веса моделей являются результатом длительных процессов обучения, требующих огромных вычислительных ресурсов, сложных алгоритмов и больших наборов данных. Они аналогичны синаптическим связям в нейронной сети, определяющим функциональность ИИ. Обладание этими весами дает возможность использовать, модифицировать и потенциально злоупотреблять ИИ без контроля со стороны оригинальных разработчиков. Противники могут удалить защитные механизмы, улучшить возможности в вредоносных областях и перепрофилировать ИИ для злонамеренных действий.
... Эрик очень много говорит о "весах". И о том что они очень важны....
Геолокация и геозонирование (Geolocation and Geofencing)
ИИ-чипы можно сконструировать так, чтобы они могли определять и передавать свое местоположение.
Методом измерения задержек сигнала от нескольких опорных точек чип сможет верифицировать свое местоположение с точностью до десятков-сотен километров, что достаточно для установления страны нахождения. Если чип перемещается в запрещенную зону, он автоматически отключается или ограничивает свои функции. Это делает перемещение таких устройств без обнаружения значительно сложнее.
... Скоро....
5.1.2 Функции на уровне микропрограммного обеспечения (Firmware)
Экспортный контроль продолжает оставаться надежным инструментом для ограничения распространения передовых ИИ-чипов, так же как и в отношении материалов двойного назначения в химической или биологической сферах. Однако, поскольку ИИ-чипы представляют собой продукты, разработанные человеком, а не инертные сырьевые материалы, государства могут дополнять экспортный контроль встроенными мерами безопасности, позволяющими чипам проверять свою среду и блокироваться при попытках несанкционированного вмешательства.
Эта функциональность может быть реализована через обновления микропрограммного обеспечения (firmware), которые изменяют код на самом низком уровне, не требуя физической модификации чипа. Например, ИИ-чипы, такие как NVIDIA H100, уже обладают корпоративными мерами защиты конфиденциальности, такими как конфиденциальные вычисления (confidential computing) и доверенные среды выполнения (trusted execution environments). Если адаптировать эти функции для целей национальной безопасности, это откроет новые возможности:
Чип может обнаружить, что пересек границу в запрещенную зону или подвергся взлому, и затем отключить свои ключевые функции. Грамотно разработанное микропрограммное обеспечение позволит дополнительно усложнить попытки нелегального вывоза вычислительных мощностей, используя следующие механизмы:...
Незарегистрированные дата-центры легко обнаруживаются с помощью спутниковых снимков и становятся целью для проверки. Любой чип, обнаруженный в неавторизованных руках, повлечет за собой штрафы, уголовные обвинения или запрет на будущие поставки нарушителю. Кроме того, любой чип ИИ, объявленный неработоспособным или устаревшим, должен пройти проверенную утилизацию, подобно утилизации химических или ядерных материалов, гарантируя, что эти якобы вышедшие из строя чипы не будут тихо перепроданы. Усиливая проверки и вводя значимые последствия за нарушения, государства повышают стоимость тайных передач и ограничивают распространение передовых вычислений среди групп, которые могут угрожать безопасности....
Ведение учета. Чтобы знать, где находится каждый чип ИИ, экспортный контроль можно сделать более тщательным через режим лицензирования. Опираясь на существующие рамки и агентства, такие как Бюро промышленности и безопасности, продавцы высокопроизводительных чипов ИИ должны будут подавать заявку на лицензию, указывающую чипы, их получателя и любые предполагаемые передачи. Субъекты с хорошей историей соблюдения требований могут получить исключения при условии, что они уведомляют власти о каждой перепродаже или перемещении. Поскольку этот процесс использует знакомую инфраструктуру, он может быть введен быстро, позволяя чиновникам отслеживать чипы без задержек в законной торговле....
Больше вычислений делает модели умнее. Данные показывают, что вычисления являются доминирующим фактором, определяющим производительность ИИ. Анализы выявляют поразительную корреляцию — более 95% — между количеством использованных вычислений и производительностью модели ИИ на стандартных тестах [23, 24]. Эта зависимость, формализованная через "законы масштабирования", демонстрирует постоянное улучшение производительности ИИ по мере увеличения вычислительных ресурсов. Эти законы масштабирования остаются верными в диапазоне пятнадцати порядков вычислений (измеряемых в FLOP) — 1 000 000 000 000 000, — что указывает на то, что будущие достижения продолжат зависеть от экспоненциально растущих объемов вычислений. Вывод: экспортный контроль над вычислениями существенно ограничивает возможности непредсказуемых субъектов....
Информационная безопасность предполагает защиту чувствительных исследований в области ИИ и весов моделей, которые составляют основные интеллектуальные активы ИИ. Защита этих элементов предотвращает их несанкционированное распространение и злонамеренное использование, что аналогично мерам по защите конфиденциальной информации в контексте оружия массового уничтожения (ОМУ).
Будет ли сегодня свой Берия — и его агентура? Чтоб украсть из Америки все?
В теории - да....
Невозможность предотвращения "увечий"
Поскольку наземные дата-центры в настоящее время не могут быть защищены от гиперзвуковых ракет, государство, стремящееся защитить свой проект стратегической монополии на основе ИИ, может попытаться закопать дата-центры глубоко под землю для их защиты. На практике затраты и сроки ошеломляющие, а уязвимости остаются. Сроки строительства могут растянуться в три-пять раз по сравнению со стандартными дата-центрами, добавляя несколько лет. Затраты также резко возрастают, отвлекая средства от чипов ИИ проекта и доводя общие расходы до сотен миллиардов. Охлаждение крупнейшего в мире суперкомпьютера под землей представляет сложные инженерные вызовы, выходящие далеко за рамки того, что требуется для меньших подземных установок. Если суперкомпьютеру потребуется увеличение числа чипов ИИ на порядок, модернизация объекта станет непомерно сложной. Даже те, у кого есть богатство и дальновидность для этого пути, все равно столкнутся с мощными рисками внутренних угроз и хакерства. Кроме того, весь проект может быть саботирован во время длительной фазы строительства. Наконец, государства могут угрожать активам, не связанным с ИИ, чтобы сдерживать проект задолго до его запуска....
💢 Пути к отключению проекта ИИ соперника.
Государства, намеренные заблокировать стратегическую монополию на основе ИИ, могут использовать множество тактик, начиная с разведки, при которой спецслужбы незаметно получают информацию о проектах ИИ соперника.
1. Зная, что атаковать, они могут провести скрытый саботаж: подкупленные или шантажируемые инсайдеры могут вмешиваться в веса модели, данные обучения или производственные мощности чипов ИИ,
2. В то время как хакеры незаметно ухудшают процесс обучения, чтобы производительность ИИ после завершения была посредственной. Это напоминает Stuxnet, который стремился тайно саботировать программу обогащения урана в Иране.
3. Когда скрытность оказывается слишком ограничивающей, конкуренты могут перейти к явным кибератакам, нацеленным на системы охлаждения чипов в дата-центрах или близлежащие электростанции, что напрямую — хоть и заметно — нарушает разработку.
4. Если эти меры окажутся недостаточными, некоторые лидеры могут рассмотреть кинетические атаки на дата-центры, утверждая, что позволить одному игроку рисковать доминированием или уничтожением мира — большая опасность, хотя кинетические атаки, вероятно, не понадобятся.
5. Наконец, в крайних обстоятельствах государства могут прибегнуть к более широким враждебным действиям, поднимаясь по существующим лестницам эскалации или угрожая не связанным с ИИ активам. Мы называем атаки на проекты ИИ соперников "увечными атаками".
... 4 и 5 пункты — это разумеется про ракетные удары по условному противнику.
В случае данной статьи — по Китаю. Но мне нравится как Шмидт использует новиопский язык.
"Кинетические удары". Просто мразь — и левое отребье....
^ Как видите Россия даже не рассматривается как "условный противник".
А это значит что нам конец. Мы бабуины. Австралопитеки.
Унтерменши. Низшая раса. Букашки-таракашки. Хлоп!
Осталась только грязь на ботинке.
Лучший друг Антипова кстати — СЕО #FINTOPIO - Роман Новак —
По сообщениям агентуры -
"... Делюкс из Дубая улетел, что-то у него там случилось. Какие-то РФ компании, уголовные дела. Залег на дно. Предположительно в Швейцарии".
По мере созревания ядерных арсеналов и становления способности к взаимному уничтожению неоспоримой, нации в конечном итоге приняли, что любая смелая попытка доминировать над всеми противниками рискует вызвать превентивный удар. Подобное состояние взаимной стратегической уязвимости нависает в области ИИ. Если соперничающее государство устремится к стратегической монополии, другие государства не будут молча ждать. Если это государство потеряет контроль, выживание окажется под угрозой; если же оно сохранит контроль и ИИ будет мощным, выживание также будет под угрозой. Соперник с гораздо более мощным ИИ станет серьезной чрезвычайной ситуацией для национальной безопасности, поэтому сверхдержавы не примут значительного отставания в возможностях ИИ. Вместо того чтобы ждать, пока соперник вооружит сверхразум против них, государства будут действовать, чтобы отключить угрожающие проекты ИИ, создавая динамику сдерживания, которую можно назвать Взаимно Обеспеченной Неисправностью ИИ, или MAIM....
Стратегия моратория:
Стратегия добровольного моратория предлагает остановить разработку ИИ — либо немедленно, либо когда будут обнаружены определенные опасные возможности, такие как взлом или автономная работа. Сторонники предполагают, что если тест модели ИИ пересечет порог опасности, крупные державы приостановят свои программы. Однако военные желают именно этих опасных возможностей, что делает взаимное сдерживание маловероятным. Даже с договором отсутствие механизмов верификации [19] делает его бесполезным; каждая сторона, опасаясь секретной работы другой, просто продолжит. Без угрозы применения силы договоры будут нарушены, и некоторые государства начнут интеллектуальную рекурсию. Эта динамика, напоминающая дилеммы предыдущего контроля над вооружениями, делает добровольный мораторий скорее мечтой, чем жизнеспособным планом....
Геополитическое конкурентное давление приводит к высокому допуску риска потери контроля.
Во время Холодной войны фраза "Лучше мертвым, чем красным" подразумевала, что проигрыш противнику считался хуже, чем риск ядерной войны. В будущей гонке ИИ подобное мышление могло бы подтолкнуть официальных лиц к терпимости к двузначному риску потери контроля, если альтернатива — отставание от соперника — кажется неприемлемой. Если выбор жесткий — рискнуть всеуничтожением или проиграть, — некоторые могут пойти на этот риск. Выполняемое несколькими конкурирующими державами, это равносильно глобальной русской рулетке и толкает человечество к тревожной вероятности уничтожения. В резком контрасте, после поражения нацистской Германии ученые Манхэттенского проекта опасались, что первое атомное устройство может поджечь атмосферу. Роберт Оппенгеймер спросил Артура Комптона, какой порог приемлем, и Комптон установил его на уровне трех на миллион (порог "6σ") — все, что выше, было слишком рискованным. Расчеты показали, что реальный риск был ниже порога Комптона, и тест был проведен. Мы должны стремиться к тому, чтобы наш допуск риска оставался близким к порогу Комптона, а не в двузначной зоне. Однако при отсутствии координации запуск рекурсии государствами зависит от их вероятности потери контроля. Перспектива потери контроля показывает, что в стремлении к разработке новых технологий "превосходство не синонимично безопасности" [18], но стремление к стратегической монополии может перевесить осторожность, потенциально отдавая окончательную победу не какому-либо государству, а самим ИИ....
В 1951 году Алан Тьюринг предположил, что машина с человеческими способностями "не заставит себя долго ждать, чтобы превзойти наши слабые силы". Позже И. Дж. Гуд предупреждал, что машина может перепроектировать себя в быстром цикле улучшений — "интеллектуальном взрыве", — который оставит людей позади. Сегодня все три наиболее цитируемых исследователя ИИ (Йошуа Бенджио, Джеффри Хинтон и Илья Сутскевер) отметили, что интеллектуальный взрыв представляет собой реальный риск и может привести к вымиранию человечества.
... It's over for chelovechestvo....
Освобожденный ИИ мог бы использовать методы государств-изгоев. Например, Северная Корея выкачала миллиарды через кибервторжения и кражу криптовалюты. Достаточно продвинутая система могла бы воспроизвести и даже усовершенствовать эти тактики в масштабе — самокопироваться в разбросанных дата-центрах, перенаправлять новые средства на финансирование более амбициозных проектов и проникать в видеопотоки камер или частные коммуникации для шантажа или манипуляции оппозицией.
... Похоже что именно Эрик Шмидт ректанул меня на торче....
Для потери контроля достаточно, чтобы один человек выпустил способного, незащищенного агента ИИ. Недавние демонстрации, такие как "ChaosGPT" — агент ИИ, которому было поручено причинять вред, — были неэффективны, но они намекают на то, что могла бы попытаться сделать более сложная система, если ей дать указание "выжить и распространиться"....
Отказ от ИИ в военной сфере поставил бы под угрозу безопасность нации, фактически вынуждая правительства полагаться на автоматизированные системы обороны.
Сила ИИ не исходит из какого-либо явного захвата; она проистекает из того факта, что современные силы, лишенные такой технологии, были бы превзойдены условным противником.
Эта потеря контроля разворачивается не через драматический переворот, а через серию небольших, но разумных решений, каждое из которых оправдано сэкономленным временем или сниженными затратами. Однако эти выборы накапливаются. В конечном итоге люди оказываются на периферии собственного экономического порядка, оставляя реальный эффективный контроль в руках ИИ....
Волны автоматизации, ранее постепенные, могут ударить по целым секторам сразу и резко вытеснить человеческих работников. В этом климате те, кто откажется полагаться на ИИ для принятия решений, окажутся в невыгодном положении по сравнению с конкурентами, которые это делают, не имея иного выбора, кроме как следовать рыночным давлениям, а не торговаться с ними [16]. Каждый новый прирост эффективности закрепляет зависимость от ИИ, поскольку попытки сохранить контроль только подтверждают, что темпы коммерции превосходят человеческое понимание. Вскоре замена человеческих менеджеров на ИИ-решателей кажется неизбежной, не потому что кто-то сознательно стремится сдать власть, а потому что отказ от этого влечет немедленные экономические недостатки....
ИИ часто доминирует в нападении
Некоторые утверждают, что широкий доступ к технологиям ИИ может укрепить оборонительные возможности. Однако в контексте биологии и критической инфраструктуры преимущество остается у атакующих. В биотехнологиях разработка лекарств или защиты от спроектированных патогенов сложна и требует времени, что отстает от создания и развертывания новых угроз. Быстрое самокопирование биологических агентов усиливает ущерб до того, как эффективные контрмеры могут быть реализованы. Многие вирусы до сих пор не имеют лечения.
... США будут оборонятся от России и Китая. Атакой разумеется....
ИИ снижает барьеры для кибератак на критическую инфраструктуру.
Наша критическая инфраструктура, включая электросети и водоснабжение, более уязвима, чем может показаться. Взлом цифровых термостатов может заставить их включаться и выключаться каждые несколько минут, создавая разрушительные скачки напряжения, которые выжигают трансформаторы — критические компоненты, замена которых может занять годы. Другой подход — использовать уязвимости в программном обеспечении Supervisory Control and Data Acquisition (SCADA), вызывая внезапные изменения нагрузки и выводя трансформаторы за пределы безопасных параметров. На станциях водоочистки подделанные показания датчиков могут не обнаружить опасную смесь, а процессы фильтрации могут быть остановлены в ключевые моменты, позволяя загрязнителям незаметно попасть в муниципальное водоснабжение — все это без необходимости саботажа на месте. Министерство внутренней безопасности США предупредило, что ИИ может быть использован злоумышленниками для эксплуатации уязвимостей в этих системах [13]. В настоящее время только высококвалифицированные операторы или государства обладают экспертизой для проведения таких сложных операций, как червь Stuxnet, повредивший ядерные объекты Ирана. Однако ИИ может демократизировать эту способность, предоставляя злоумышленникам инструменты для разработки и проведения атак с большей доступностью, скоростью и масштабом....
С помощью ИИ подобные группы могли бы достичь гораздо более разрушительных результатов. ИИ мог бы предоставить пошаговое руководство по разработке смертельных патогенов, поиску материалов и оптимизации методов распространения. То, что раньше требовало специальных знаний и ресурсов, могло стать доступным для отдельных лиц с злым умыслом, резко увеличивая потенциал катастрофических последствий. Действительно, некоторые передовые системы ИИ без защиты от биологического оружия уже превосходят экспертный уровень по многочисленным вирусологическим тестам [11].
... Я знал что биопанк расцветет....
Однако само стремление к такому прорыву могло бы побудить соперников действовать, пока их окно возможностей не закрылось. Страх, что другое государство вскоре резко увеличит свою мощь, заставил наблюдателей задуматься о мерах, ранее считавшихся немыслимыми. В ядерную эпоху Бертран Рассел, обычно ярый пацифист, предлагал превентивные ядерные удары по Советскому Союзу, чтобы предотвратить его подъем [8], в то время как США всерьез рассматривали возможность подрыва китайской ядерной программы в начале 60-х [9]. Столкнувшись с перспективой сверхоружия и стратегической монополии на власть с помощью ИИ, некоторые лидеры могут прибегнуть к превентивным действиям [10]. Вместо того чтобы полагаться только на сотрудничество или пытаться опередить своих противников, они могут рассмотреть саботаж или атаки на дата-центры, если альтернатива — принять будущее, в котором национальное выживание постоянно находится под угрозой....
Вызовы, которые ставит ИИ, слишком широки и слишком серьезны для разрозненных мер. Необходима всеобъемлющая стратегия, которая не уклоняется от тревожных последствий передового ИИ. Как и в знаменитом анализе ядерной стратегии Германа Кана [3], стратегия сверхразума требует "думать о немыслимом". В этой статье мы предлагаем такую стратегию и рассматриваем фундаментальные вопросы на этом пути: Что делать с летальным автономным оружием? Катастрофическим злоупотреблением? Мощными открытыми ИИ? Массовым наблюдением с помощью ИИ? Как общество может сохранить общее понимание реальности? Что делать с правами ИИ? Как людям сохранить свой статус в мире массовой автоматизации?...
^ Эрик пишет что чипы сегодня — это уран.
В 1940-1950 - титульная нация Союза смогла сформулировать и сделать по итогу бомбу.
Из американских, немецких и собственных наработок.
Напряглись тогда все. Посмотрим как вы справитесь в этот раз.
У вас есть 3 года. Время пошло.
В ядерную эпоху уран стал ключевым элементом атомной энергии. Государства, которые его контролировали, могли вводить регулирование, заключать договоры и ограничивать распространение разрушительных возможностей. В области ИИ вычислительные ресурсы — особенно чипы ИИ — имеют схожий стратегический вес, подпитывая соперничество и формируя геополитические расчеты. Эта динамика очевидна в таких местах, как Тайвань, центральный для производства чипов ИИ, где нарастающие напряжения могут иметь далеко идущие последствия. У наций есть общий интерес в контроле доступа к чипам ИИ, чтобы не допустить их попадания в руки злоумышленников, что перекликается с логикой, однажды примененной к урану....
Однако быстрый прогресс технологий ИИ вносит значительные неопределенности для международной стабильности и безопасности. Введение ядерного оружия изменило международные отношения, предоставив влияние тем, кто им обладал, и приведя к гонке вооружений. Карибский кризис показал, как близко мир подошел к ядерной войне. Ядерное уничтожение до сих пор избегалось, несмотря на значительные напряжения между ядерными государствами, отчасти благодаря принципу сдерживания Взаимного Гарантированного Уничтожения (MAD), где любое использование ядерного оружия вызвало бы ответный удар. В эпоху ИИ может возникнуть параллельная форма сдерживания — то, что можно назвать "Взаимно Обеспеченной Неисправностью ИИ" (MAIM), — где проекты ИИ государств ограничиваются взаимными угрозами саботажа....
Знаете, а ведь сделать вы ничего не можете. И я смеюсь —
Когда думаю что если этот дневник - историю болезни —
Читает какой-нибудь условный Греф, Шадаев или даже Путин —
Они тоже ничего сделать не могут. Вот так.
Не говорите потом дурачки что я вас не предупреждал.
Альтернатива?
Только радикальный путь. Де-факто - революция в России. Тезисы ниже.
💢 Полный отказ от копирования и лицензирования старого хлама.
💢 Разработка новых архитектур, автономных от глобальных цепочек поставок.
💢 Инвестирование в нейроморфные, фотонные, квантовые, иные системы.
Но на это никто не пойдет, потому что:
Коррупция - проще купить старье за 10 цен.
Необходимость тотального пересмотра научных основ.
Отсутствие кадров — они все в Израиле, Америке и Европе....
Россия тратит миллиарды на говно.
То, что сейчас пытаются закупить в РФ под видом импортозамещения — это на 10-15 лет устаревшие технологии.
Закупаются NVIDIA A100 и H100, которые полностью управляются извне.
Обучение моделей на западных датацентрах = слив данных "партнерам".
Попытка делать свои серверные CPU на китайских технологиях = тупик.
Реальная альтернатива?
Полный отказ от западных вычислительных архитектур.
Создание не традиционных, а радикально новых процессорных решений.
Максимальная автономность, без зависимостей от чужого ПО.
Но на это никто не пойдет. Причины известны....
Мое мнение —
Технологии, которые нам продают уже устарели на 10-15 лет.
И все что мы видим в открытой продаже — это мусор с просрочкой.
Реальные рабочие прототипы нового поколения не выходят в коммерческий оборот.
Военные и разведывательные агентства используют совершенно другие архитектуры в принципе не доступные обычным датацентрам и рынку.
Ну а те, кто реально владеют вычислениями — просто смеются....
Я думаю что все эти чипы на самом деле уже устарели.
И НАТО кормит Россию дерьмом за миллиарды — десятки сотни миллиардов.
Которые потрачены уже - и будут потрачены далее.
При этом все эти чипы имеют кнопку ВЫКЛ и трекеры слежения.
В такой стране как Россия конечно все на бумаге быть не может.
Столько всякой бюрократии.
Но я боюсь что попытки цифровизации России могут натолкнуться на непреодолимые барьеры.
Полной прозрачности относительно допустим мощных американских ИИ.
Не говорите мне только что за Userbox стоит белорусский ультранационалист —
С гражданством Польши.
Напоминаю что делистинг #Ton'а я предлагал еще здесь.
Я много раз думал о проблеме "единого холодного кошелька".
Поясню что имеется ввиду.
Ну вот допустим есть условная биржа. Или P2P сервис. Или платежка. Да что угодно.
И она принимает условный USDt.
В какой-то момент единый кошелек сервиса — куда стекаются все сотни-тысячи-миллионы адресов —
ЦРУ и моссад хлопают. И все остаются без денег....
Гарантекс жаль. Не знаю как теперь будет работать экономика в России.
Посудомойки могут вырасти в цене.
Ну потому что у денег тоже есть своя логистика.
^ Я причем уверен что потом Сбербанк купил свои же базы у Антипова —
Или по безналу у SpectrumData.
А кто владелец деанон-бота userbox? Это клон Антипова или зеркало или самопис.
Что там?
Напишите в предложку. Интересно. @Ghost_In_The_Bot
Но я думаю что там сильные проблемы с драйверами и прочим околософтом.
ИИ должен это исправлять.
Мы должны просто собирать железяки.
Пошли слухи что разработчик TON Анатолий Кокосов спился в Дубае.
Правда?
Вы ведь знаете что будет дальше, да?
Просто хотел бы отметить что Виталий Бутерин лох и скаммер.
Эфир 2к держит еще? Не буду смотреть, отвалите.
Очень сложно мне конечно отключить ту часть мозга —
Которая отвечала за крипту и шифропанк. Но что поделать. Надо.
^ Все быстро меняется. Сюр и лор такой что адаптироваться бывает трудно.
Мне не надо смотреть график #TON и шитков Пабло.
Я знаю и так что там смерть, грязь, говно, дубайство.
Я НЕ БУДУ ЭТО ОБОЗРЕВАТЬ.
Пока что Маск и Тесла побеждают Эрика Шмидта.
И его карманного скаммера — Виталия Бутерина.
Маск не против выйти из НАТО.
Это значит что пока Россия будет воевать с Европой в Прибалтике и принуждать к миру и сотрудничеству Польшу —
Америка будет заниматься Китаем и ближним востоком.