Напомняне: този сценарий е прогноза, а не препоръка
Източник: страница 71
Не одобряваме много от действията във финала със забавяне и смятаме, че той прави оптимистични допускания за техническото съгласуване. Не одобряваме и много от действията в състезателния финал.
Една от целите ни е да предизвикаме критична обратна връзка от хора, по-оптимистични от нас. Как изглежда успехът? Финалът със забавяне е най-доброто ни предположение как бихме могли някак да се справим чрез съчетание от късмет, болезнени отрезвявания, смени на курса, усилена техническа работа по съгласуването и почтени хора, които печелят борбите за власт. Това не е план, към който според нас трябва да се стремим. Но мнозина — най-вече Anthropic и OpenAI — изглежда се целят в нещо подобно.* Бихме искали да уточнят намеренията си, например чрез десетстраничен сценарий, започващ от настоящето или разклоняващ се от нашия.
*Всъщност повечето може би се стремят към нещо по-близко до състезателния финал, но очакват добър резултат, защото според тях ИИ изобщо няма да се окажат несъгласувани. От лични разговори със служители на водещи ИИ компании оставаме с впечатлението, че повечето не очакват да се налага каквото и да е забавяне.