傳奇程序員卡馬克 （John Carmack），與強化學習之父薩頓 （Richard Sutton）強強聯(lián)手了，All in AGI。

并且與干流辦法不同，不依賴大模型范式，更追求實時的在線學習。

兩人在薩頓任教的阿爾伯塔大學機器智能研討所（Amii）特別活動上宣告了這一音訊。

薩頓會參加卡馬克的AI創(chuàng)業(yè)公司Keen Technologies，一起堅持在阿爾伯塔的教職。

兩人在活動中都承認，與擁有成百上千職工的大公司比較，Keen Technologies的團隊規(guī)劃很小。

現(xiàn)在還在剛起步階段，公司整個技術團隊都到了現(xiàn)場——

只要站著的這4個人。

其融資規(guī)劃2000萬美元，與OpenAI、Anthropic這樣動輒幾十億的也無法比。

但他們信任，終究AGI的源代碼是一個人就能編寫的量級，可能只要幾萬行。

并且其時AI領域正處在杠桿效應大的特別時間，小團隊也有時機做出大貢獻。

傳奇程序員與強化學習之父

卡馬克的傳奇閱歷，從開發(fā)國際第一款3D游戲，到轉型造火箭，再到參加Oculus成為后來Meta VR要害人物的故事都已被人熟知。

后來他與AI結緣，還和OpenAI有關。

他曾在另一場訪談中泄漏，Sam Altman曾邀他參加OpenAI，以為他能在體系優(yōu)化方面發(fā)揮重要作用。

但卡馬克其時以為自己對機器學習范式的現(xiàn)代AI沒有任何了解，也就沒有答應。

這卻成了他開端了解AI的一個要害。

他向OpenAI的首席科學家Ilya Sutskever要了一個入門必讀清單，從頭開端自學，先對傳統(tǒng)機器學習算法有了根本的了解。

等有了閑暇，打算繼續(xù)涉足深度學習的時候，他來了個一周編程挑戰(zhàn)：

打印幾篇LeCun的經典論文，在斷網情況下著手實踐，從推反向傳達公式開端。

一周曩昔后，他帶著用C++手搓的卷積神經網絡完畢閉關，沒有憑借Python上的現(xiàn)代深度學習結構。

只能說佩服大神了。

此時他的主業(yè)仍是在Facebook（后改名Meta）旗下Oculus研討VR，帶領團隊推出了Ouclus Go和Quest等產品。

不過這個過程中，他與公司管理層之間也逐步發(fā)生矛盾和不合，以為公司內部功率低下，也曾揭露宣告不滿。

2019年，他辭去Oculus CTO職位轉而擔任“參謀CTO”，開端把更多精力轉向AI。

2022年8月，他宣告新AI創(chuàng)業(yè)公司Keen Technologies宣告融資2000萬美元，出資者包含紅杉本錢，GitHub前CEO Nat Friedman等。

后續(xù)他也泄漏，其實戔戔2000萬美元，自己就拿得出手。

但是從別人那里拿錢能給他一種危機和緊迫感，有更強烈的決計把事情做好。

2022年末，他正式脫離Meta，并將VR視為現(xiàn)已曩昔的一個人生階段，接下來徹底轉向AI。

除了這條明面上的主線之外，卡馬克與AI還有一些莫名的緣分。

當年他的3D游戲激發(fā)了對圖形核算的需求，GPU也是從游戲領域開端開展壯大。

到現(xiàn)在正是GPU的算力支持了AI的爆發(fā)，他談到這些時仍為自己的貢獻感到驕傲。

……

今天的另一位主角薩頓也相同是位傳奇人物。

他被譽為強化學習之父，為強化時間差異學習和戰(zhàn)略梯度等辦法做出重要貢獻，也是強化學習規(guī)范教科書的合著者。

2017年他以出色科學家身份參加DeepMind，參與了AlphaGo系列研討，他的學生David Silver則是AlphaGo首要負責人之一。

薩頓寫過一篇著名短文The Bitter Lesson，以為企圖把人類閱歷教給AI是行不通的，至今停止所有打破都是依靠算力提高，繼續(xù)利用算力的規(guī)劃效應才是正確路途。

兩人正式溝通之前，卡馬克就曾表達過對這篇文章的重視和認同。

但兩人真實直接溝通，是薩頓主動聯(lián)絡的。

幾個月前，卡馬克宣告AGI創(chuàng)業(yè)公司融資之后，收到了薩頓的郵件。

薩頓想要問他他在研討的路途上應該走純學術、商業(yè)化仍是非盈利組織路線的問題。

但在后續(xù)郵件溝通中，兩人發(fā)現(xiàn)在AI研討方向和理念上存在驚人的一致性，逐漸確立了合作關系。

詳細來說，兩人達成了4個一致：

• 都以為其時AGI開展被約束在很窄的幾個方向上，過多依賴大數(shù)據(jù)和大算力而忽視了創(chuàng)新
• 都以為太早商業(yè)化會阻礙AGI的開展
• 都以為終究AGI不會太雜亂，一個人就能把握全部原理，乃至一個人就能寫出首要的代碼。
• 都以為2030年呈現(xiàn)AGI原型是一個可行的方針。

不只依賴大模型，小團隊也有時機

很斗膽的方針，現(xiàn)場觀眾也是這么以為的。

面臨“小團隊如何搞定這么宏大的方針”的發(fā)問，卡馬克以為完成AGI所需的數(shù)據(jù)量和算力需求可能沒有想象中那么大。

對于算力需求，他也是用這種直覺式的思維去考慮：人腦的核算才能也有限，遠遠達不到一個大型算力集群的程度。

并且跟著時間推移，算法會愈加高效，所需的算力還會繼續(xù)下降。

假如說卡馬克在3D游戲、火箭和VR，這些看似不搭邊的作業(yè)領域上有什么共同點，那就是對大型實時反饋體系的優(yōu)化。

這也是初Sam Altman約請他參加OpenAI時看中的當?shù)亍?/p>

他設想中的AGI架構應該是模塊化和分布式的，而不是一個巨大的集中模型。

學習也應該是繼續(xù)的在線學習，而不是現(xiàn)在的預練習之后大部分參數(shù)就不再更新。

他進一步表示，作為能自己寫原始Cuda代碼和能自己管理網絡通信的底層體系程序員，可能會去做一些其他人根本不會考慮的作業(yè)。

乃至不只局限于現(xiàn)有的深度學習結構，會嘗試更高效的網絡架構和核算辦法。

總體方針是模擬一個具有內涵動機和繼續(xù)學習才能的虛擬智能體，在虛擬環(huán)境中繼續(xù)學習。

不要機器人，由于制作火箭的閱歷讓他以為打交道的物理對象越少越好。

與卡馬克剛涉足AGI不久比較，薩頓在這個問題上現(xiàn)已花費了幾十年，他有更詳細的研討方案。

雖然這次活動上沒有說太多，但主體部分現(xiàn)已以“阿爾伯塔方案”的形式寫在一篇arXiv論文里。

阿爾伯塔方案提出了一個一致的智能體結構，著重普遍閱歷而不是特別的練習集，重視時間一致性，優(yōu)先考慮能隨算力發(fā)生規(guī)劃效應的辦法，以及多智能體交互。

還提出了一個分為12步的路線圖。

前6步專心于規(guī)劃model-free的繼續(xù)學習辦法，后6步引入環(huán)境模型和規(guī)劃。

其間后一步稱為智能增強 （Intelligence Amplification），一個智能體能夠根據(jù)一些通用準則，利用它所學到的常識來放大和增強另一個智能體的舉動、感知和認知。

薩頓以為這種增強是充分發(fā)揮人工智能潛力的重要組成部分。

在這個過程中，確認評估AI前進的指標非常重要但也十分困難，團隊正在探索不同的開展。

別的，卡馬克一直是開源的倡導者，但在AGI的問題上他表示會堅持必定開放性，但不會全部揭露算法細節(jié)。

作為一個小團隊，卡馬克以為需要堅持開拓精神，重視久遠開展而不是短期利益，

不會過早考慮商業(yè)化，沒有像ChatGPT這樣能夠揭露發(fā)布的中心形狀。

對于2030年能做到什么境地，卡馬克以為“有能夠向大眾展現(xiàn)的AGI”，薩頓的表述是“AI原型能夠顯示出生命跡象（signs of life）”。

2030成要害節(jié)點

2030與AGI，并不是第一次一起呈現(xiàn)。

頂尖AI團隊不約而同都把2030年前后作為完成AGI的要害節(jié)點。

比如OpenAI，在拿出20%總算力成立超級智能對齊部門的公告里寫著，咱們信任超級智能在這個十年段到來。

乃至出資界也呈現(xiàn)類似的觀念，孫正義剛剛在軟銀國際企業(yè)大會上也拿出來這樣一張PPT。

除了OpenAI和Keen Technologies，致力于開發(fā)AGI的組織并不多。

OpenAI大的競爭對手，剛剛拿40億美元融資的Anthropic，其CEO Dario Amodei在近一次訪談中說到，兩三年內AI能體現(xiàn)得像一個受過良好教育的人類。

Transformer作者Vaswani與Palmer脫離谷歌時，興辦了AdeptAI，方針也是打造通用智能。

不過現(xiàn)在兩人今年初忽然脫離這家公司，聯(lián)合開創(chuàng)人中只留下一位David Luan（右）。

兩位Transformer作者別的興辦了一家Essential AI，這家公司的愿景就沒那么“仰望星空”了，是比較務實的大模型商業(yè)化。

國內方面清晰喊出AGI方針的相同也不多，首要有MiniMax和楊植麟新興辦的月之暗面。