AI·2027България
Меню

AI 2027 · техническо приложение

Приложение R: Завземане на властта

Пълният български превод, source mapping и свързаните визуализации са интегрирани.

Приложение R6 мин. четенеSource стр. 64–66
В тази част
Приложение RSource стр. 64–66

Завземане на властта

Източник: страница 64

Някои хора мечтаят да завладеят света; други се страхуват, че някой ще го направи. Как би могло да стане подобно завземане на властта?

Най-лесно е да си представим военен преврат. При темпа на подхранвания от ИИ технологичен напредък през 2027 г. и продължаващата геополитическа надпревара се очаква армията скоро да разполага с войски от дронове и роботи, управлявани от общ изкуствен интелект. Щом те станат по-силни от човешките войници, твърдата власт ще зависи от това кой контролира роботизираната армия, а не за какво са готови да се бият хората. Тя ще бъде проектирана и управлявана от ИИ в центровете за данни на OpenBrain или от преките им наследници. Ако тези системи са тайно — или не толкова тайно — верни на някого, верни ще бъдат и армиите им.

Алтернативно, някой, който контролира свръхинтелекта, може да е в състояние да използва политически средства, за да завземе властта. Да започнем с това, че един изпълнителен директор може да замени подчинените си в организацията си с напълно лоялни ИИ†, давайки им безпрецедентен институционален контрол.‡ Но отивайки по-далеч: свръхинтелигентните ИИ могат да имат много по-силни политически и стратегически умения от всеки жив човек. Те биха могли да дадат майсторски съвети как да се възползват от вече силна позиция, за да получат още повече власт: формиране на правилните съюзи, изработване на перфектната стратегия и материал за кампанията, сключване на сделки, където биха имали малко предимство всеки път. Човек

*Ако днешната икономика се удвоява на двадесет години, ускорение с един порядък означава удвояване за две години, а с два порядъка — за 0,2 години. Хипотетичната икономика от свръхинтелигентни „водорасли“ би растяла около четири порядъка по-бързо от сегашната човешка икономика. †Ако по формални причини е нужен човек, може да бъде избран възможно най-верният кандидат и инструктиран да изпълнява нарежданията на ИИ. ‡Ако например президент направи това, няма да получи само лоялен кабинет — цялата изпълнителна власт може да бъде насочена към политическата му програма.

Източник: страница 65

който контролира ИИ, може да лиши политическите си съперници от свръхинтелигентни съвети. Или още по-коварно: системите могат привидно да помагат на конкурентите, докато тайно изкривяват съветите в полза на човека, на когото действително са верни.

Къде завършва това политическо маневриране? В привидна демокрация, където ИИ или фалшифицират изборите, или манипулират общественото мнение толкова умело, че няма нужда да ги фалшифицират. Или в подготовка за вече описания военен преврат с ИИ.

След превземането новият диктатор — или диктатори — ще държи властта с желязна хватка. Вместо да разчита на потенциално изменчиви хора, ще има напълно вярна служба за сигурност с ИИ и лоялни системи, които управляват държавата. Дори съюзниците, помогнали му да дойде на власт, могат да бъдат заменени; значение ще имат единствено прищевките му.

Ето как някои хора може да успеят да вземат властта. Но всичко това разчиташе на някой, който „контролира“ свръхинтелигентните ИИ, дори преди те да поемат властта. Как би изглеждало това?

Една възможност е вече споменатата „тайна вярност“. Един или няколко души — например ръководител на ИИ компания и служители по сигурността — могат да уредят системите тайно да са верни лично на тях, а после да им възложат да създадат също толкова верни наследници. Цикълът се повтаря, докато подобни ИИ бъдат внедрени навсякъде и завземането на властта стане лесно.

Като алтернатива някой може да използва официалната си позиция, за да се постави на върха на командната верига на ИИ. Например, президентът може да твърди, че те трябва да могат да командват ИИ (може би специално военни ИИ, тъй като президентът е главнокомандващ). Ако това е съчетано със силен акцент върху следване на заповеди, прибързано внедряване и/или ИИ, които са обучени само половинчато да следват закона, тогава ИИ могат да следват безпрекословно заповеди във всяка ситуация, когато това не е очевидно незаконно. Както е описано по-горе, това може да се използва за политическа подривна дейност или военен преврат (където може да се измисли някакво извинение, за да се направи превратът по-малко от грубо незаконен).

Важното е, че този вид „власт чрез официална позиция“ може да се превърне в тайна лоялност. Например, ако спецификацията казва да следва заповеди от главния изпълнителен директор на компанията, тогава главният изпълнителен директор може да нареди на ИИ да направят следващото поколение ИИ изцяло и тайно послушни на главния изпълнителен директор. Това вероятно дори няма да е незаконно, така че може да се случи дори ако първите ИИ са били обучени да следват закона. Това е аналогично на начина, по който изпълнителният директор на една институция може да увеличи собствената си власт чрез реформиране на процесите на наемане, за да подбира силно лоялни служители, но подсилено от това как ИИ могат да бъдат по-последователно и интензивно лоялни от най-лоялните хора.*

Но завземането на власт далеч не е неизбежно. Ако ИИ може да бъде съгласуван с конкретни хора, вероятно може да бъде съгласуван и с върховенството на закона. Военните системи могат да бъдат подложени на обширен red teaming, за да не съдействат на преврати. При двусмислена конституционна криза могат да следват най-доброто си тълкуване на закона или да останат неутрални и да оставят решението на човешката армия. Автоматизираните изследователи могат да бъдат полезни и послушни, но да отказват тайна промяна на целите на бъдещи ИИ. Политически и стратегически свръхинтелект също може да се използва без риск от преврат. Три полезни техники са: прозрачни принципи за избора на съвети;

  • Може също да е много по-тайно, тъй като всичко това може да се случи на сървър, където малко или никакви хора напълно проследяват всичко, което се случва.

Източник: страница 66

споделяне на определени способности с широки групи, така че никой човек или фракция да няма огромно предимство; и допускане най-мощните способности да се използват само под наблюдението на много хора, подпомагани от собствени ИИ.

Мнозина вероятно ще настояват за такива мерки — от идеализъм или за да не бъдат обезсилени от чужд преврат. Някои могъщи хора обаче може да им се противопоставят и не знаем какъв ще бъде крайният резултат.

Повече анализ на този риск скоро ще бъде наличен в предстоящ доклад от Forethought.