Управление на корпорация от ИИ системи
Източник: страница 53
OpenBrain използва 6% от изчислителния си ресурс, за да изпълнява 250 000 копия на Agent-3, които самостоятелно пишат, тестват и публикуват код със свръхчовешка скорост. Други 25% отиват за експерименти: всеки ден се провежда огромен брой малки опити с машинно обучение, а резултатите се докладват нагоре по йерархията. Човешките изследователи дават насоки на високо равнище и помагат в малкото задачи, където носят значителна добавена стойност спрямо Agent-3, но прекарват повечето си време в опит да следят огромния поток от изследвания, създадени от ИИ. Ако бъдат напълно отстранени, темпото ще спадне с 50%.
Множителят на напредъка в НИРД за ИИ вече е 10: OpenBrain постига приблизително година алгоритмичен напредък всеки месец. На практика вътре в компанията действа автономна гигантска корпорация от ИИ със свои подразделения и ръководители, която има недостъпни за хората предимства като копиране и сливане. Преди около половината от обичайния напредък идваше от алгоритми, а другата — от увеличаване на изчислителния ресурс. Ресурсът продължава да расте с нормална скорост, затова ИИ ускоряват общия напредък около 5 пъти. Така изчислителният ресурс се превръща в тясното място,†
*За сравнение, човешкият мозък има около сто трилиона синапса. †Agent-3 се е научил да използва по-ефективно изчислителния ресурс за инференция. Той сам решава колко усилие да вложи в задачите според важността и трудността им. Разпределя допълнителен ресурс чрез техники като „по-дълго мислене“ — по-дълга верига на разсъждение, „планиране напред“ — например търсене по дърво, избор на най-добрия от няколко опита
Източник: страница 54
— тоест най-добрия от K — и просто създаване на още свои копия, които да преодоляват тесните места. Задачите с най-висок приоритет се възлагат на силно паралелизирани агенти, които изразходват много изчислителен ресурс, но пак работят далеч по-бързо от хората. Затова OpenBrain се отказва от нови гигантски обучителни цикли в полза на почти непрекъснато допълнително обучение с подкрепление.
През следващите месеци Agent-3 все повече подпомага и стратегическите решения на компанията: предлага разпределение на ресурсите и съветва как да се управляват отношенията с правителството. Първоначалният скептицизъм към съобразяването с него намалява, защото моделът намира начини да бъде полезен и натрупва отлични резултати при краткосрочни решения. Склонността му да се подмазва обаче ограничава стойността на съветите, когато последиците трудно се оценяват. А и Agent-3 все още не е свръхчовешки.