Финалът със забавяне не е препоръка
Източник: страница 60
След като написахме състезателния финал според най-правдоподобния за нас ход на събитията, създадохме финала със забавяне като най-вероятния алтернативен път, при който хората запазват контрола. И двата започват от една и съща точка на разклонение и включват проблемите с несъгласуването и концентрацията на власт.
Това съществено се различава от препоръчителна пътна карта: не одобряваме много от решенията и в двата клона. Разбира се, одобряваме някои — например смятаме избора „забавяне“ за по-добър от избора „надпревара“. В бъдеща работа ще изложим политическите си препоръки, които ще се различават значително от показаното тук. За предварителен поглед вижте тази авторска статия.
Източникови връзки
- https://en.wikipedia.org/wiki/Double_descent
- https://en.wikipedia.org/wiki/Grokking_%28machine_learning%29
- https://evolution-outreach.biomedcentral.com/articles/10.1007/s12052-008-0092-1
- https://time.com/7086285/ai-transparency-measures/
- https://transformer-circuits.pub/2022/toy_model/index.html
- https://www.neelnanda.io/mechanistic-interpretability/modular-addition-walkthrough