Механизми за проверка на международно споразумение
Източник: страница 66
Ако САЩ и Китай сключат споразумение, то ще изисква механизъм за проверка, който не може да бъде заобиколен: никоя страна не вярва, че другата няма да мами. Основните възможности са:
• Разузнавателни служби. Американската и китайската разузнавателна общност могат чрез агенти, киберуязвимости, сателити и други средства да установят дали отсрещната страна провежда голям обучителен цикъл. Това е най-уязвимият механизъм, защото противникът може да заблуди разузнаването — например да обучава върху скрит клъстер при изключително строга информационна сигурност.
• Мораториум върху изчисленията. Най-лесно би било и двете страни да спрат графичните си процесори, а инспектори да потвърдят, че са изключени. Простотата прави решението най-надеждно, но и извънредно скъпо: огромен изчислителен ресурс трябва да остане неизползван. Всяка страна ще допуска, че другата крие по няколко клъстера. В краткосрочен план това може да е приемливо — клъстер с 5% от предишния ресурс ще развива НИРД приблизително с 5% от скоростта — но в дългосрочен план печели страната с по-добри възможности за контрабанда и разузнаване.
• Хардуерни механизми за контрол (HEM). САЩ и Китай могат взаимно да регистрират целия си най-напреднал изчислителен ресурс за машинно обучение и да следят задачите на графичните процесори за нарушения, например за изтласкване на границата на способностите. HEM могат да докладват на наблюдателя какво изпълнява процесорът. Физическата манипулация остава технически риск, но ИИ предлагат устойчив на намеса подход от типа FlexHEG: HEM и GPU са затворени в защитен корпус, който проверява спазването на правилата. Според системите достатъчно строг режим би работил, ако всяка страна позволи на другата да участва в проектирането и да надзирава монтажа, а редовни инспектори проверяват устройствата за намеса. И двете страни пак ще предполагат, че противникът крие центрове за данни, но това е по-малък проблем, защото НИРД за ИИ вече е ограничена от изчислителния ресурс. Малките тайни центрове не могат да се конкурират с големите наблюдавани центрове, дори ако последните отначало използват по-безопасни и по-слаби ИИ.
Източник: страница 67
FlexHEG защитен хардуерен модул
Концептуална система
AI процесорът, паметта и self-disable механизмът са изолирани в защитен enclosure, наблюдаван от anti-tamper sensors и secure processor, който комуникира криптирано с router и други cluster units.
Оригинална достъпна системна схема по публикуваните компоненти във FlexHEG Report; не е electrical wiring specification.
AI-2027-original.pdf, стр. 67 · FlexHEG ReportПокажи точните данни и текстовия еквивалент
| Компонент | Роля |
|---|---|
| AI processor + memory | Изчисление и локално състояние |
| Self-disable mechanism | Хардуерно самоизключване |
| Anti-tamper sensors | Откриване на физическа намеса |
| Secure processor | Контрол и encrypted I/O |
| Router + cluster units | Външна комуникация в клъстера |
• Разпознаване на лъжа чрез ИИ. Днешните детектори не работят особено добре, но напреднал ИИ може да реши проблема — особено когато самите системи извършват НИРД със свръхчовешка скорост и качество. Технологията би подпомогнала международното доверие: достатъчно е отговорните държавни служители да бъдат попитани дали нарушават договора. Основното препятствие отново е политическата подкрепа. Политиците не желаят широко разпространение на детектори, които ще ограничат способността им да лъжат. А понеже досегашните устройства са били чист театър на сигурността, новите трябва да преодолеят сериозно недоверие.
(Фигура: докладът FlexHEG)