AI·2027България
Меню

AI 2027 · техническо приложение

Приложение V: И така, кой управлява бъдещето?

Пълният български превод, source mapping и свързаните визуализации са интегрирани.

Приложение V5 мин. четенеSource стр. 69–71
В тази част
Приложение VSource стр. 69–71

И така, кой управлява бъдещето?

Източник: страница 69

През 2028 г. Надзорният комитет контролира ИИ, но допуска изборите да бъдат до голяма степен честни, като системите се използват симетрично.

Това положение — Надзорният комитет държи твърдата власт, но почти не се намесва в демократичната политика — не може да трае безкрайно. Рано или късно хората ще осъзнаят, че контролът над ИИ дава на комитета огромна власт, и ще поискат тя да бъде върната на демократичните институции. Тогава

*Груба сметка: Empire State Building има площ 2,77 млн. кв. фута и маса 365 хил. тона. Gigafactory Shanghai заема 4,5 млн. кв. фута и произвежда 750 хил. автомобила годишно, предимно Model 3 и Model Y с маса около два тона. Небостъргачът вероятно има по-голяма маса на квадратен фут, защото е вертикален и изисква по-здрави опори. Следователно завод с маса доста под един милион тона произвежда около 1,5 млн. тона автомобили годишно. †Не очакваме суровините да свършат. Отначало роботизираната икономика зависи от човешките мини, но докато ги надрасне, милионите свръхинтелекти ще са открили нови находища и технологии за експлоатацията им — например подводни минни роботи и нови химични процеси за по-ефективно превръщане на рудата в полезни материали. ‡Ако днешната икономика се удвоява на двадесет години, ускорение с един порядък означава удвояване за две години, а с два порядъка — за 0,2 години. Хипотетичната икономика от свръхинтелигентни „водорасли“ би растяла около четири порядъка по-бързо от сегашната човешка икономика.

Източник: страница 70

комитетът ще трябва или да предаде властта, или активно да използва ИИ, за да подкопае или премахне демокрацията — вероятно след вътрешни чистки в борбата за надмощие.* Ако избере втория път, вероятно ще може да увековечи властта си.

Какво ще стане? Ще се откаже ли комитетът от монопола върху твърдата власт, или ще го запази? И двете бъдеща са правдоподобни, затова ще разгледаме всеки път.

Как може комитетът да се откаже от властта си?

• Някои членове може да предпочитат широко разпределение на властта и да имат добра позиция да наложат тази визия. Ако други заговорничат срещу демокрацията, продемократичните членове могат да предупредят пресата или Конгреса. Тогава Конгресът вероятно ще поиска ИИ да се контролира от по-демократична институция — например самия него.

• Конгресът не би могъл да направи много, ако му се противопоставят всички ИИ, разположени в правителството, индустрията и армията. Но ако комисията е разделена, тогава изкуственият интелект няма да се използва само за едната страна и Конгресът може да упражни реално влияние. Изправени пред открит конфликт, повече членове на комисията може да предпочетат да се откажат от част от властта си, без да желаят да защитават публично по-малко демократичната страна.

• Така контролът над ИИ може да се разшири от комитета към Конгреса. Това вече е напредък: в по-голяма група по-вероятно достатъчно хора ще отчитат интересите на външните. Веднъж стигнала до Конгреса, властта може да продължи да се разширява — и накрая изцяло да се върне при обществото.†

Но Комитетът за надзор може също да вземе властта за себе си:

• Някои могъщи хора нямат морални задръжки — и го осъзнават. Част от тях са амбициозни и жадни за власт и биха нападнали демокрацията, ако очакват да се окажат на върха. Противниците в комитета могат да бъдат прочистени, надгласувани или умиротворени с по-малки отстъпки.‡

• Влиятелните хора често са извършвали незаконни или неетични действия по пътя нагоре. Ако властта се разпредели по-широко, позицията им може да рухне, когато свръхинтелигентни следователи зададат правилните въпроси и разкрият скритите им тайни.

• Освен това, чрез достъп до суперразузнаване, Комитетът за надзор може да има най-удобния път към властта в историята. Safer-∞ може да прогнозира определени стратегии като имащи изключително нисък риск от провал. И Safer-∞ може също така да предостави стратегии, които са удобни по други начини, като например ненасилствени (точно както Safer-∞ може да организира

*Защо очакваме хората в крайна сметка да разберат колко власт има Надзорният комитет? Една от причините е, че разузнаването сега е толкова евтино: По подразбиране хората трябва да могат да разработят мощен ИИ, който да им помогне да разследват и разберат кой управлява страната им. Комитетът би могъл да предотврати това, като ограничи достъпа до такъв ИИ и позволи на хората да имат достъп само до ИИ, които крият истинската степен на властта на Комитета. Но ако комисията реши да изплете сложна мрежа от лъжи като тази и да ограничи завинаги достъпа на човечеството до истински честни свръхинтелигентни ИИ (както и други инструменти за истина, като например усилване на човешкия интелект) – тогава ние считаме това за подкопаване на демокрацията.†Напр.: Ако някои хора в Конгреса искат да вземат властта, други може да успеят да отложат до следващите избори, когато обществеността може да изрази мнение.‡Като малко по-голяма част от властта, която те могат да преразпределят към по-големи групи, ако сметнат за добре. Някои отстъпки от този тип могат да започнат да се превръщат в резултати, които са значително демократични, дори ако някои елити притежават повече власт от други хора.

Източник: страница 71

безкръвен преврат в Китай), дори привидно демократични — ако Safer-∞ манипулира общественото мнение така, че то неизменно да съвпада с желанията на комитета.

Още Safer-4 би могъл да предвиди тази динамика, затова основната борба за власт най-вероятно се разиграва още през 2028 г. До 2030 г., дори външните наблюдатели да не го виждат, всички членове на Надзорния комитет вероятно вече знаят дали държат властта стабилно.