Процесът на обучение и психологията на LLM: защо продължаваме да казваме „надяваме се“
Източник: страница 45
„За разлика от обикновения софтуер, нашите модели са огромни невронни мрежи. Поведението им се усвоява от широк набор данни, а не се програмира изрично. Аналогията не е съвършена, но процесът прилича повече на дресиране на куче, отколкото на обикновено програмиране.“ — OpenAI
Когато искаме да разберем защо съвременна ИИ система е направила нещо или как би се държала в бъдеща ситуация, която не можем да симулираме идеално, не можем просто да помолим програмистите да ни преведат през редовете код. Вместо това сме принудени да прилагаме нещо като психология: наблюдаваме поведението ѝ в познатите случаи, изграждаме хипотези за възможните вътрешни когнитивни структури — убеждения, цели, личностни черти и т.н. — и чрез тях предсказваме бъдещото поведение.
Изводът е, че една компания може да състави документ — Спецификация — с позволени и забранени действия, цели и принципи, а после да се опита да обучи ИИ да го усвои. Не може обаче да провери дали опитът действително е успял. Може само да каже: „Доколкото можем да преценим, засега изглежда, че системата следва Спецификацията.“*
В следващ разгъваем раздел ще разгледаме по-подробно какво според нас може да става вътре в тези системи. Вижте и допълнението ни с прогноза за целите на ИИ, където обсъждаме какви цели могат да имат системите и защо. Това е само една от многото области на несигурност, които заслужават още изследвания.