AI·2027България
Меню

AI 2027 · техническо приложение

Приложение B: Множителят на напредъка в ИИ НИРД: какво означава 50% по-бърз алгоритмичен напредък?

Пълният български превод, source mapping и свързаните визуализации са интегрирани.

Приложение B3 мин. четенеSource стр. 45–46
В тази част
Приложение BSource стр. 45–46

Множителят на напредъка в ИИ НИРД: какво означава 50% по-бърз алгоритмичен напредък?

Източник: страница 45

Това означава, че с помощта на ИИ OpenBrain постига за 1 седмица толкова напредък в изследванията на ИИ, колкото би постигнала за 1,5 седмици без него.

Напредъкът на ИИ може да бъде разделен на 2 компоненти:

• Повече изчислителен ресурс: За обучение или работа на ИИ се използва повече изчислителна мощност. Така системите стават по-мощни, но и по-скъпи.

• По-добри алгоритми: По-добри методи за обучение превръщат изчислителния ресурс в производителност. Така се получава по-способен ИИ без съответно увеличение на разхода — или същата способност на по-ниска цена.

*По-конкретно, не могат да изключат хипотези като: „Системата следва Спецификацията само временно, като средство за друга цел“; „Опитва се да изглежда, че я следва, без действително да го прави“; или „Усвоила я е правилно, но само в рамките на обучителното разпределение; при достатъчно нови стимули — например jailbreak атаки — ще започне да се държи различно.“ Много активни изследователски направления се опитват да поправят това незавидно положение, сред тях интерпретируемостта и достоверността на веригата на разсъждение.

Източник: страница 46

• Това включва постигането на качествено и количествено нови резултати. „Смени на парадигмата“ — например преходът от RL агенти за игри към големи езикови модели — също са алгоритмичен напредък.

Тук имаме предвид само (2), подобрени алгоритми, което представлява около половината от текущия напредък на ИИ.

По-нататък понякога наричаме това „множител на напредъка в НИРД за ИИ“ от 1,5.

Уточнения:

• Множителят обхваща целия процес: включва например времето за провеждане на експерименти, а не само познавателните задачи в алгоритмичните изследвания.

• Важно е да помним, че множителят описва относителната, не абсолютната скорост на напредъка. Да предположим, че с обикновени човешки изследвания цената за обучение на модел от класа на GPT-4 е спадала наполовина всяка година. Ако ИИ внезапно автоматизира НИРД и множителят стане 100, цената ще се дели на две на всеки 3,65 дни — но не задълго, защото ще се прояви намаляваща възвръщаемост и ще бъдат достигнати твърди граници. В този пример цената може да се намали наполовина общо 5–10 пъти за няколко седмици или месеци, преди да достигне плато. Тоест, ако човешката наука би достигнала същите граници след още 5–10 години изследвания, ИИ с множител 100 би ги достигнал след 18,25–36,5 дни.

По-подробно обяснение на понятието и ролята му в прогнозата има в допълнението ни за излитането.