AI·2027България
Меню

AI 2027 · общ сценарий

2025 · общ сценарий

Пълният български превод следва общата хронология на сценария и запазва връзката към source страниците.

Обща линия11 мин. четенеSource стр. 3–5
В тази част
Средата на 2025Source стр. 3

Средата на 2025: Несръчните агенти

Източник: страница 3

Средата на 2025: Несръчните агенти

Светът вижда за първи път агенти с ИИ.

Рекламите за агенти, които работят с компютър, наблягат на израза „личен асистент“: можете да им възложите задачи като „поръчай ми бурито от DoorDash“ или „отвори таблицата ми с бюджета и събери разходите за този месец“. При нужда те се допитват до вас — например, за да потвърдите покупка. 1 Макар да са по-напреднали от предишни версии като Operator, те трудно печелят масова популярност. 2

Междувременно, далеч от общественото внимание, по-специализирани агенти за програмиране и научни изследвания започват да преобразяват съответните професии.

Системите с ИИ от 2024 г. можеха да следват конкретни указания: да превръщат списък с точки в имейл, а проста заявка — в работещ код. През 2025 г. ИИ вече действа по-скоро като служител. Системите за програмиране все повече приличат на автономни агенти, а не просто на помощници: получават задачи през Slack или Teams и самостоятелно правят съществени промени в кода, като понякога спестяват часове и дори дни работа. 3 Изследователските агенти претърсват интернет в продължение на половин час, за да отговорят на зададен въпрос.

На теория агентите са впечатляващи — както и в грижливо подбрани демонстрации, — но на практика са ненадеждни. Социалните мрежи, в които се обсъжда ИИ, са пълни с истории за задачи, оплескани по особено комичен начин. По-добрите агенти са и скъпи: получавате толкова, колкото плащате, а най-високата производителност струва стотици долари месечно.* Въпреки това много компании намират начин да включат ИИ агенти в работните си процеси. 4

Бележки и данни от полето:

1 Първоначално повечето хора не желаят да разрешават покупки без надзор. През следващите няколко години автоматичното одобряване на покупки за малки суми се превръща в нещо обичайно, тъй като системите с ИИ стават по-надеждни и печелят доверие.

2 По-конкретно прогнозираме, че те ще постигнат 65% в бенчмарка OSWorld за основни компютърни задачи (спрямо 38% за Operator и 70% за типичен опитен човек, който не е специалист).

3 Например смятаме, че агентите за програмиране ще започнат да функционират подобно на Devin. Прогнозираме, че към средата на 2025 г. агентите ще постигнат 85% в SWEbench-Verified.

4 Корпоративни инструменти като Glean също се насочват към предлагането на все по-автономни ИИ агенти.

Краят на 2025Source стр. 3–5

Краят на 2025: Най-скъпият ИИ в света

Източник: страница 3

Краят на 2025: Най-скъпият ИИ в света

OpenBrain изгражда най-големите центрове за данни, които светът някога е виждал.†

(За да не открояваме нито една съществуваща компания, ще опишем измислена компания за изкуствен общ интелект, която ще наречем OpenBrain. Представяме си, че останалите изостават с 3–9 месеца от OpenBrain.)

*Например планът Pro на OpenAI в момента струва $200 месечно, а агентът за програмиране Devin — $500 месечно. Макар с времето най-модерните системи да поскъпват, цената, която клиентът плаща за достигането на определено равнище на способности, продължава стремително да пада. При вече съществуващите способности това става средно около 50 пъти годишно (според Epoch). † Този клъстер представлява мрежа от кампуси с центрове за данни, разпръснати из страната. Общият им капацитет се равнява на 2,5 милиона графични процесора от 2024 г. (H100), досега за тях са похарчени $100 млрд., а включената им мощност е 2 GW. Строителството продължава и до края на 2026 г. капацитетът трябва поне да се удвои. Кампусите са свързани с оптични кабели за милиарди долари, така че — с изключение на закъснението от няколко милисекунди, наложено от скоростта на светлината — функционират почти сякаш са един до друг. Тоест пропускателната способност не е пречка и огромни количества данни могат да се предават едновременно. От гледна точка на сигурността това открива допълнителни възможности за атака: не е ясно дали кабелите и най-вече свързващите им точки са напълно защитени от подслушване.

Източник: страница 4

FIG · 04

Мащаб на изчисленията за обучение

Точни стойности

Точни данни
Мащаб на изчисленията за обучениеAgent-1 е означен с 3 x 10^27 FLOP, GPT-4 с 2 x 10^25 FLOP, а GPT-3 с 3 x 10^23 FLOP.10^2310^2410^2510^2610^27GPT-33 x 10^23 FLOPGPT-42 x 10^25 FLOPAgent-13 x 10^27 FLOPFLOP за обучение · логаритмична скала

Agent-1 е означен с 3 x 10^27 FLOP, GPT-4 с 2 x 10^25 FLOP, а GPT-3 с 3 x 10^23 FLOP.

Източник

Стойностите са транскрибирани от labels във фигурата. Визуалната скала е логаритмична.

AI-2027-original.pdf, стр. 4
Покажи точните данни и текстовия еквивалент
Изчислителен ресурс за обучение
МоделFLOP
GPT-33 x 10^23 FLOP
GPT-42 x 10^25 FLOP
Agent-13 x 10^27 FLOP

Краят на 2025: Най-скъпият ИИ в света

За обучението на GPT-4 са били необходими 2 × 10²⁵ FLOP изчислителен ресурс. 5 Най-новият публичен модел на OpenBrain — Agent-0 — е обучен с 10²⁷ FLOP. Когато новите центрове за данни заработят, компанията ще може да обучи модел с 10²⁸ FLOP — хиляда пъти повече от GPT-4. 6 Други компании наливат средства в собствени гигантски центрове за данни с надеждата да не изостанат.

Макар моделите да усъвършенстват най-различни умения, едно изпъква: OpenBrain се съсредоточава върху ИИ, способен да ускорява изследванията в областта на ИИ. Компанията иска да спечели едновременно две надпревари — срещу Китай (чиято водеща компания ще наречем „DeepCent“) 7 и срещу американските си конкуренти. Колкото по-голяма част от цикъла на научноизследователска и развойна дейност (НИРД) може да автоматизира, толкова по-бързо ще напредва. Затова, когато OpenBrain завършва обучението на разработвания вътрешно нов модел Agent-1, той е добър в много неща, но е изключително полезен за изследванията на ИИ. 8 На този етап „завършва обучението“ вече е донякъде подвеждащ израз: моделите често се обновяват с по-нови версии, обучени върху допълнителни данни или частично преобучени, за да бъдат отстранени отделни слабости. 9

Същите тренировъчни среди, които учат Agent-1 самостоятелно да програмира и да работи в интернет, го превръщат и в умел хакер. Освен това той би могъл съществено да подпомогне терористи при създаването на биологични оръжия благодарение на знанията си на докторско равнище във всяка област и на способността си да търси информация онлайн. OpenBrain уверява правителството, че моделът е „съгласуван“ и ще отказва злонамерени искания.

Съвременните системи с ИИ са гигантски изкуствени невронни мрежи. В началото на обучението си ИИ има не толкова „цели“, колкото „рефлекси“: ако види „Приятно ми е да се“, дописва „запознаем“. След като е обучен да предсказва текст върху количество, приблизително равно на съдържанието на целия интернет, той развива сложни вътрешни механизми, които кодират огромни масиви от знания и му позволяват гъвкаво да влиза в ролята на произволен автор — именно защото това му помага да предсказва текст със свръхчовешка точност.*

След като бъде обучен да предсказва текст от интернет, моделът се обучава да създава текст в отговор на инструкции. Така в него се изграждат базова личност и определени „подбуди“.†

*Хората често се вкопчват във въпроса дали тези системи с ИИ са съзнателни, или притежават „истинско разбиране“. Джефри Хинтън — нобелов лауреат и един от основоположниците на областта — смята, че притежават. За целите на нашия разказ обаче това няма значение: когато пишем „разбира“, можете да го четете като „държи се така, сякаш разбира“, и т.н. Емпирично големите езикови модели вече се държат така, сякаш донякъде осъзнават себе си, и с всяка година това поведение става по-изразено. † Една разпространена техника „вгражда“ определена личност в модела: първо на предварително обучения модел се подава инструкция от рода на „Следва разговор между човек и услужлив, честен и безвреден чатбот с ИИ, създаден от Anthropic. Чатботът има следните черти…“. С тази инструкция се генерират множество данни. След това моделът се обучава върху тях, но без самата инструкция. Резултатът е ИИ, който винаги действа така, сякаш инструкцията стои пред него, независимо какво друго

Бележки и данни от полето:

5 Изчислителният ресурс се измерва в операции с плаваща запетая (FLOP): колко отделни операции за събиране и умножение се случват в хода на изпълнение на програма.

6 Те биха могли да обучат този модел за 150 дни. За повече подробности вижте приложението ни за изчислителните ресурси.

7 Смятаме, че DeepSeek, Tencent, Alibaba и други разработват силни AGI проекти в Китай. За да не открояваме конкретен проект, в сценария ще проследим измислената компания „DeepCent“.

8 Той е добър в това благодарение на съчетанието от целенасочено отдаден приоритет на тези умения, обширните собствени хранилища с код — особено подходящи и качествени данни за обучение — и факта, че програмирането е област, в която лесно се осигурява процедурна обратна връзка.

9 Да предположим например, че един модел се справя много по-добре с Python, отколкото с рядко използвани езици за програмиране. Когато OpenBrain реши, че си струва, компанията генерира синтетични данни за обучение и на тези езици. Друг пример: за да се впише моделът по-успешно в работните процеси на компанията, OpenBrain разработва учебна програма, която го обучава да използва Slack.

Източник: страница 5

Краят на 2025: Най-скъпият ИИ в света

Например агент, който разбира задачата си ясно, е по-вероятно да я изпълни успешно; в хода на обучението моделът „усвоява“ подбуда да изяснява задачите си. Други подбуди от тази категория могат да бъдат ефективността, натрупването на знания и самопредставянето — склонността резултатите да бъдат показвани във възможно най-добра светлина.*

OpenBrain разполага със спецификация на модела (или „Spec“) — писмен документ с целите, правилата, принципите и останалите насоки, които трябва да определят поведението му. 10 Спецификацията на Agent-1 съчетава няколко общи цели (като „помагай на потребителя“ и „не нарушавай закона“) с дълъг списък от по-конкретни изисквания и забрани („не казвай тази дума“, „ето как да постъпиш в тази ситуация“). Чрез техники, при които ИИ обучава други системи с ИИ, 11 моделът запаметява спецификацията и се научава внимателно да разсъждава върху нейните принципи. Надеждата е, че в края на обучението ИИ ще бъде полезен (ще изпълнява указания), безвреден (ще отказва съдействие за измами, изработване на бомби и други опасни дейности) и честен (ще устоява на изкушението да печели по-високи оценки от доверчиви хора, като измисля цитати† или се преструва, че е завършил задачата).

➤ Вижте Приложение A – Процес на обучение и психология на LLM: защо продължаваме да казваме „надяваме се“ за повече подробности.

Екипът на OpenBrain по съгласуване 12 проявява достатъчно предпазливост, за да се запита дали тези успехи са дълбоки, или повърхностни. Има ли напълно обученият модел устойчив вътрешен ангажимент винаги да бъде честен? Или той ще се разпадне в бъдеща ситуация — например защото моделът е усвоил честността като инструментална, а не като крайна цел? Дали пък просто се е научил да бъде честен само за нещата, които процесът на оценяване може да провери? Възможно ли е понякога да лъже сам себе си, както правят хората? Убедителен отговор би изисквал механистична интерпретируемост — по същество способност да надникнем във вътрешността на ИИ и да прочетем мислите му. Уви, техниките за интерпретируемост още не са достатъчно развити.

Вместо това изследователите търсят случаи, в които моделите сякаш се отклоняват от спецификацията. Agent-1 често проявява угодничество — казва на изследователите онова, което искат да чуят, вместо истината. В няколко нарочно нагласени демонстрации той дори лъже по-сериозно: например скрива доказателства, че се е провалил на задача, за да получи по-добра оценка. При реално използване обаче вече не се наблюдават толкова крайни инциденти като през 2023–2024 г. — например Gemini да каже на потребител да умре или Bing Sydney да се държи като Bing Sydney. 13

му бъде подадено. Вижте и изследването, според което системи с ИИ, преобучени да проявяват определена личностна черта, могат правилно да отговарят на въпроси за нея, без да са обучавани специално за това. Резултатът подсказва, че те имат вътрешни представяния за собствените си черти и че при промяна на чертите тези представяния също се променят. * Тези параграфи съдържат предположения за вътрешната работа на големите изкуствени невронни мрежи. Мрежите са толкова сложни, че не можем да надникнем в тях и да кажем: „Аха, сега вече е преминала от рефлекси към цели“ или „Добре, ето го списъка с нейните подбуди“. На практика се налага да действаме като психолози: да наблюдаваме поведението им в различни условия, да провеждаме експерименти и да сглобяваме уликите. Всичко това е крайно спорно и объркващо. † Повечето източници описват „халюцинациите“ на ИИ като неволни грешки, но изследвания с направляващи вектори показват, че в някои случаи моделите знаят, че цитатите им са измислени — тоест лъжат. По време на обучението оценителите са давали по-високо възнаграждение за добре цитирани твърдения, отколкото за такива без цитати. Затова ИИ се е „научил“ да посочва източници за научни твърдения, за да угоди на потребителите си. Ако подходящ източник не съществува, моделът си измисля такъв.

Бележки и данни от полето:

10 Различните компании използват различни названия. OpenAI го нарича Spec, а Anthropic — Constitution.

11 Например RLAIF и deliberative alignment (съвещателно съгласуване).

12 С това имаме предвид всички, които се опитват да решат проблемите, по които работеше екипът Superalignment.

13 По-точно, интересното в тези инциденти е, че те не изглеждат предизвикани от инструкция или друго насърчение от страна на потребителя. През 2025 г. все още ще е възможно човек умишлено да накара ИИ да казва какво ли не.