🌖 Ilya Sutskever 談論:我們正從擴大規模的時代走向研究的時代
➤ 從規模擴張到智慧研究:AI 發展新紀元的反思
✤ https://www.dwarkesh.com/p/ilya-sutskever-2
Ilya Sutskever 在 Dwarkesh Podcast 的訪談中指出,人工智慧(AI)正經歷一個轉變,從單純追求模型規模的擴大,轉向更注重深入的研究與開發。他觀察到,儘管目前的 AI 模型在各種評估測試中表現出色,但其在真實世界經濟中的實際影響卻遠不如預期。Sutskever 提出兩種解釋:一是強化學習(RL)訓練可能使模型過於專注於特定目標,導致其在基本任務上表現不佳,例如在修正程式碼錯誤時反而引入新問題或重複舊錯誤。二是現有的訓練方法,特別是 RL 訓練,可能無意中受到評估指標的誤導,導致模型優化表現以通過測試,而非提升真正的泛化能力和判斷力。他強調,未來 AI 的發展,尤其是在超智慧(superintelligence)領域,需要更側重於研究,學習如何讓模型從部署和實際應用中獲得更廣泛、更深入
#人工智慧 #研究 #擴大規模 #部署 #訓練 #泛化