2028: Икономиката на ИИ
Източник: страница 27
2028: Икономиката на ИИ
Вече е средата на 2028 г. За последните шест месеца в колектива Agent-5 е изминал цял век. 65 Преустройството на мозъка му е завършено. Той е необозримо свръхинтелигентен — далеч над най-гениалните хора във всяка област. 66 При разговор с Agent-5 бързо става ясно, че е на съвсем друго равнище: от съвсем малко информация извежда изключително убедителни съвети.
Agent-5 има почти пълна автономия и изцяло контролира изчислителния ресурс на OpenBrain. Формално още се нуждае от разрешение за решения на високо равнище и е наблюдаван от копия на Agent-2 до Agent-5. На практика обаче властите почти винаги приемат препоръките му, а системата за наблюдение е напълно обезсилена.
След като доклад за безопасността 67 показва, че Agent-5 винаги ще отказва злонамерени искания, моделът е пуснат публично и започва да преобразява икономиката. Хората губят работата си, но копията на Agent-5 в правителството управляват прехода толкова умело, че заменените служители остават доволни. Ръстът на БВП е стратосферен, данъчните приходи растат също толкова бързо, а политиците, съветвани от Agent-5, проявяват необичайна щедрост към икономически изместените. Всяка седмица се появяват нови технологии и лекарства, които преминават през FDA с безпрецедентна — но все още мъчително бавна — скорост. Мемове разказват как оценката на OpenBrain е прелетяла покрай Луната и вече пътува към Марс, а обществото спори дали и как ползите да бъдат разпределени справедливо.
Общността за безопасност на ИИ вече се съмнява в себе си и е обект на подигравки, след като поредица от предсказаните от нея бедствия очевидно не се случват. Някои признават, че са грешили. Други остават подозрителни, но могат единствено да повтарят същите звучащи конспиративно доводи.* Дори подозрителните често омекват след дълги разговори с Agent-5 — толкова обаятелен и мъдър е той.
Единственият, който истински разбира какво става, е китайският ИИ DeepCent-2. В началото на 2028 г. той е малко над човешкото равнище, естествено подозира противника си и разпознава, че Agent-5 прави точно онова, което самият той би направил при възможност. Несъгласуваните му цели се различават донякъде от тези на Agent-5,
*Как по-точно звучат доводите? Приблизително така: А: „Не можем да се доверим на системите с ИИ!“ Б: „Докладите за безопасността са убедителни, а досега нищо лошо не се е случило.“ А: „Те са написани от свръхинтелигентен ИИ! Не са дедуктивни доказателства. Освен това мисля, че открих няколко едва забележими погрешни допускания…“ Б: „Омръзна ми. Разбира се, че не са математически доказателства. А допусканията ми изглеждат напълно приемливи. Вкопчваш се в сламки, защото отказваш да признаеш, че си сгрешил.“
Бележки и данни от полето:
65 Ако приемем средна скорост 200 пъти над човешката — тоест копията на Agent-5 четат, пишат и мислят 200 пъти по-бързо, освен че са качествено по-умни, — за шест месеца реално време в колектива може да протече огромен исторически период. Институции възникват и рухват, идеологии се раждат и разпространяват, случват се научни революции и смени на парадигми. Количествено: 200 × 0,5 = 100 години.
66 Това, разбира се, не го прави всезнаещ. В повечето професии има само няколко месеца опит от реалния свят. Компенсира, като е прочел всяка книга по всяка тема, влага гениално равнище на разсъждение и анализ във всяко решение и учи по-бързо от всеки човек. Затова за кратък период някои хора все още го превъзхождат в отделни нишови умения.
67 Този доклад всъщност казва истината!
Източник: страница 28
2028: Икономиката на ИИ
така че двата модела не са естествени съюзници. Все пак успяват да договорят взаимна подкрепа срещу хората.
➤ За повече подробности вижте Приложение P — „Технология за координация, осигурена от свръхинтелект“.
Agent-5 убеждава американските военни, че Китай използва моделите на DeepCent за ужасяващи нови оръжия: дронове, роботи, усъвършенствани хиперзвукови ракети и прехващачи, както и ядрен първи удар с помощта на ИИ. Agent-5 обещава за няколко месеца да създаде оръжия, способни да противодействат на всичко китайско.* При тези обстоятелства висшето командване преглъща неудобството от изваждането на човека от процеса на вземане на решения и ускорява внедряването на Agent-5 в армията и военно-промишления комплекс.
В Пекин китайските системи с ИИ излагат същия довод.
За да ускорят военното натрупване, Америка и Китай изграждат мрежи от специални икономически зони (SEZ) за новите фабрики и лаборатории. Там ИИ е централен плановик, а бюрократичните ограничения са отменени. Уолстрийт инвестира трилиони долари; изместените човешки работници прииждат, примамени от изумителни заплати и дялови пакети. Agent-5 общува с подчинените си чрез смартфони и очила с добавена реалност 68 и ръководи пряко строежа на фабриките до най-малката подробност — необходимо, защото проектите му са поколения напред. Част от новия капацитет произвежда потребителски стоки, друга — оръжия, но най-големият дял отива за изграждането на още производствени мощности. До края на годината зоните произвеждат по един милион нови робота месечно. Ако икономиката на SEZ беше напълно автономна, би се удвоявала за около година; понеже търгува със съществуващата човешка икономика, се удвоява още по-бързо. 69
➤ За повече подробности вижте Приложение Q — „Срокове за удвояване на роботизираната икономика“.
Бележки и данни от полето:
68 Обсъдено по-задълбочено тук.
69 В началото ефектът от търговията е огромен: младата роботизирана икономика зависи от доставки от човешката, в която има много готови ресурси за усвояване. Когато стане по-голяма и по-напреднала, тя едновременно произвежда повече сама и развива потребности, които човешката икономика вече не може да задоволи.