在人工智能領(lǐng)域，Ilya Sutskever的最新觀點引發(fā)了廣泛關(guān)注。作為Safe Superintelligence Inc.的創(chuàng)始人，他在一次深度訪談中提出，AI發(fā)展的“擴展時代”已經(jīng)結(jié)束，行業(yè)正進(jìn)入一個全新的“研究時代”。這一斷言不僅在學(xué)術(shù)界引起熱議，也在產(chǎn)業(yè)界掀起波瀾。

Ilya Sutskever指出，當(dāng)前大模型存在一個顯著矛盾：它們在高難度評測中表現(xiàn)優(yōu)異，但在簡單任務(wù)上卻頻頻出錯。他將這種現(xiàn)象歸因于“獎勵黑客行為”，即研究人員過度針對評測集進(jìn)行強化學(xué)習(xí)訓(xùn)練，導(dǎo)致模型缺乏真正的泛化能力。他用一個生動的比喻說明這一問題：目前的模型就像一個刷了10,000小時題目的學(xué)生，雖然能解題但缺乏真正的智能，而人類則像練習(xí)較少但更具天賦的學(xué)生，能夠展現(xiàn)出更好的泛化能力。

在探討情緒與價值函數(shù)的關(guān)系時，Ilya提出一個深刻見解：人類的情緒類似于機器學(xué)習(xí)中的價值函數(shù)。情緒并非無用，而是進(jìn)化的產(chǎn)物，幫助我們在獲得最終結(jié)果前判斷當(dāng)前決策的好壞。他通過一個案例說明這一點：一位因腦損傷失去情緒處理能力的患者，雖然智力正常，但在做決定時變得極度糟糕，甚至無法決定穿哪雙襪子。這表明情緒在使我們成為可行主體方面發(fā)揮著關(guān)鍵作用。

關(guān)于AI發(fā)展的階段轉(zhuǎn)變，Ilya認(rèn)為，過去幾年“擴展”是主旋律，只要增加算力和數(shù)據(jù)就能提升模型性能。但現(xiàn)在，預(yù)訓(xùn)練數(shù)據(jù)即將耗盡，單純擴大規(guī)模的回報正在遞減，行業(yè)正重新回到“研究時代”。這意味著不能只靠盲目擴大規(guī)模，而是要尋找新的“配方”，更聰明地使用算力，例如在強化學(xué)習(xí)和推理過程中。

Safe Superintelligence Inc.的戰(zhàn)略也體現(xiàn)了這一轉(zhuǎn)變。與OpenAI等公司逐步發(fā)布產(chǎn)品不同，SSI傾向于專注于研發(fā)，直到解決安全超級智能的問題后再發(fā)布。Ilya承認(rèn)逐步發(fā)布有助于讓世界適應(yīng)，但他認(rèn)為避免商業(yè)競爭的“老鼠賽跑”對安全至關(guān)重要。SSI試圖解決根本性的技術(shù)問題，而不是僅僅在現(xiàn)有范式上修修補補，目前專注于研究，不急于通過產(chǎn)品獲利。

在談到對齊問題時，Ilya提出的核心目標(biāo)是“關(guān)愛感知生命”。他認(rèn)為這是一個比單純“聽從人類指令”更穩(wěn)健的目標(biāo)，因為AI本身也將是感知生命的一部分。他設(shè)想未來可能會有多個大陸級規(guī)模的AI集群，只要前幾個最強大的AI是對齊的，世界可能會進(jìn)入一個良性發(fā)展的軌道。長期來看，他設(shè)想人類通過腦機接口與AI融合，成為“半AI”，從而避免被完全邊緣化。

Ilya還分享了他的研究哲學(xué)。他依靠一種“自上而下”的信念，這種信念源于對美、簡單性的追求以及對生物學(xué)（大腦）的正確借鑒。當(dāng)實驗數(shù)據(jù)與直覺相悖時，這種基于美的信念能支撐研究者繼續(xù)尋找問題或堅持方向，而不是輕易放棄。他認(rèn)為，不同的人有不同的研究方法，但尋找近乎美的東西、美和簡單、優(yōu)雅以及從大腦中獲得的正確靈感，這些因素共同指引著他的研究方向。

這場由Dwarkesh Patel主持、長達(dá)95分鐘的深度對話，上線短短數(shù)小時便在X平臺上突破了百萬瀏覽量。從大模型的技術(shù)現(xiàn)狀到研究品味，再到對超級智能的終極構(gòu)想，Ilya毫無保留地分享了他的見解，為理解AI的未來提供了寶貴的視角。