Технология за координация, осигурена от свръхинтелект
Източник: страница 62
Решението на проблема със свръхсъгласуването — как да насочваме и контролираме ИИ, много по-умни от нас — вероятно ще открие възможности за изящни, проверими и нюансирани договори и компромиси.
Сценарият показва един възможен механизъм: двете страни заедно проектират нов свръхинтелект, който осъществява компромиса между интересите им — или е безусловно обвързан с договореното — и после му позволяват да замени двата първоначални ИИ.
Първата част днес е невъзможна, но ще стане лесна, щом техническото съгласуване на свръхинтелект бъде решен проблем. Ако можете да съгласувате свръхинтелект със Спецификация, можете да го съгласувате и с Договор.
Втората част остава трудна. Всяка страна трябва да наблюдава другата, за да се увери, че подмяната действително протича и от двете страни. Предимството е, че отпада нуждата от доверие или добра воля: никой не разчита отсрещната страна да не наруши или подкопае договора. Ако например подмяната е завършена на 30% и едната страна се отметне, тя трябва едновременно да воюва с 30% от собствената си инфраструктура — вече управлявана от спазващи договора ИИ — и със 100% от противниковата. И двете страни могат да укрият центрове за данни с нарушаващи договора ИИ. Но щом основната част от националната инфраструктура премине към новите чипове, тя самата ще бъде задължена да издири и разкрие
*Смисълът на експеримента с ИИ Box е да вземе хора, които мислят по този начин – хора, които смятат, че нито един свръхинтелигентен ИИ никога не би могъл да ги убеди да го извадят от кутия, например – и да подложи на изпитание тяхното убеждение. Загубата на играта означава признаване, че те всъщност биха пуснали ИИ извън кутията; извличането на тази отстъпка е по същество условието за победа за ИИ играча. Удивително е, че някой някога губи, тъй като всичко, което трябва да направи, за да спечели, е да не допусне. Вижте също блога на tuxedage, който разказва за множество игри, играни без участието на Yudkowsky, някои загубени от ИИ играча, други спечелени.
Източник: страница 63
скритите центрове. Затова откритото или тайното нарушаване на договора става изключително рисковано.
Източникови връзки
- https://en.wikipedia.org/wiki/Gigafactory_Shanghai
- https://en.wikipedia.org/wiki/List_of_Tesla_factories
- https://epoch.ai/blog/explosive-growth-from-ai-a-review-of-the-arguments
- https://openai.com/index/introducing-superalignment/
- https://tuxedage.wordpress.com/2013/09/04/the-tuxedage-ai-box-experiment-ruleset/
- https://www.forethought.org/research/preparing-for-the-intelligence-explosion#the-industrial-explosion
- https://www.macrotrends.net/global-metrics/countries/CHN/china/gdp-gross-domestic-product
- https://www.openphilanthropy.org/research/could-advanced-ai-drive-explosive-economic-growth/
- https://www.skny.io/empire-state-building/how-tall-is-the-empire-state-building
- https://www.yudkowsky.net/singularity/aibox