原文連結： Elon Musk：數位超級智慧、多行星生命、如何發揮作用

數位超級智慧與多行星生命的願景

我們正處於智慧大爆炸的極早期階段。成為一個多行星物種將大大增加文明、意識或智慧（無論是生物還是數位）的可能壽命。我認為我們離數位超級智慧非常接近了，如果它今年沒有發生，明年肯定會發生。[音樂] 請大家為 Elon Musk 鼓掌！[掌聲] Elon，歡迎來到 AI Startup School。我們真的非常榮幸您今天能蒞臨現場。謝謝邀請。

所以，從 SpaceX、Tesla、Neuralink、XAI 等等，在所有這些之前，您的人生中有沒有某個時刻，讓您覺得「我必須建立一些偉大的東西」？是什麼觸發了這個開關？嗯，我最初並沒有想過要建立什麼偉大的東西，我只是想嘗試建立一些有用的東西，但我沒想過我會建立任何特別偉大的東西，如果從機率上來說，這似乎不太可能，但我至少想嘗試一下。

您現在正在向一群全都是技術工程師的聽眾說話，他們往往是這個領域一些最傑出的 AI 研究人員。好的，我認為我們應該，我認為我更喜歡「工程師」這個詞，而不是「研究人員」。我的意思是，我想如果有一些基礎演算法的突破，那算是研究，但除此之外，都算是工程。也許我們從很久以前說起吧。我的意思是，當您，這個房間裡坐滿了 18 到 25 歲的年輕人，因為創辦人的年齡越來越年輕，所以平均年齡偏低。您能回想一下，當您 18、19 歲時，學習編碼，甚至為 Zip2 構思第一個想法時，那對您來說是什麼樣的感覺？

創業初期：Zip2 與網路熱潮

是的，回到 95 年，我面臨一個選擇，是要在史丹佛大學攻讀材料科學的博士學位，研究用於電動車的超級電容器，基本上是試圖解決電動車的續航里程問題；還是嘗試在一個當時大多數人從未聽說過的「網際網路」領域做點什麼。我跟我的材料科學教授 Bill Nyx 談了談，問他：「我可以延期一學期嗎？因為這很可能會失敗，然後我需要回到學校。」然後他說：「這可能是我們最後一次對話了。」他說對了。

所以，我當時認為事情最有可能失敗，而不是最有可能成功。然後在 95 年，我基本上寫出了我認為是第一個，或接近第一個，網路上的地圖導航、網路白頁和黃頁。我就是親自寫的，我甚至沒用網頁伺服器，我直接讀取端口，因為我負擔不起，也負擔不起 T1 專線。最初的辦公室在帕羅奧圖的 Sherman Avenue，樓下有一家 ISP，所以我鑽了一個洞穿過地板，直接拉了一條網路線到 ISP。

然後，我的兄弟也加入了，還有另一位共同創辦人 Greg Curry，他已經去世了。當時我們甚至租不起住宿的地方，所以辦公室一個月 500 美元，我們就睡在辦公室裡，然後在 Paige Millino 的 YMCA 洗澡。是的，我想我們最終做了一家還算有用的公司，Zip2 在初期。我們確實開發了許多非常好的軟體技術，但我們多少受制於傳統媒體公司，像 Knight Ridder、New York Times 等等都是投資者、客戶，也是董事會成員。所以他們一直想用我們的軟體，但方式卻毫無意義。所以我一直想直接面向消費者。總之，關於 Zip2 的故事說得太多了。

但我真的只是想在網路上做一些有用的事情，因為我當時有兩個選擇：要麼攻讀博士學學位，看著別人建立網際網路；要麼以某種微小的方式幫助建立網際網路。我想，嗯，我總是可以嘗試失敗，然後再回去讀研究所。總之，這最終相當成功，以大約 3 億美元的價格出售，這在當時是一大筆錢。現在，我認為 AI 新創公司的最低初始出價是 10 億美元。現在有這麼多獨角獸，簡直像一群獨角獸一樣。你知道，獨角獸就是 10 億美元估值的公司。此後通貨膨脹了不少，所以實際價值高了很多。是的，我的意思是，在 1995 年，你可能可以用五分錢買一個漢堡，嗯，不完全是，但我的意思是，通貨膨脹確實很嚴重。但 AI 的炒作程度非常高，正如你所見。你看到有些公司，我不知道，不到一年就獲得了數十億甚至數百億美元的估值，我想這在某些情況下可能會實現，而且很可能會實現。但看到這些估值還是令人瞠目結舌。

是的，您怎麼看？我的意思是，我個人非常看好。說實話，我非常看好。所以我認為這個房間裡的人將創造很多價值，全世界十億人都應該使用這些東西，而我們甚至還沒有觸及表面。我喜歡網路的故事，即使在當時，您就像這個房間裡的人一樣，當時所有傳統媒體公司的 CEO 都把您視為了解網際網路的人，而世界上許多人，你知道，企業界乃至整個世界，不了解 AI 正在發生的事情，他們會向這個房間裡的人尋求同樣的答案。這聽起來像是，你知道，有哪些具體的教訓？聽起來其中之一就是不要放棄董事會控制權，或者要小心，找個非常好的律師。我想對於我的第一個新創公司來說，最大的錯誤是從傳統媒體公司那裡獲得了過多的股東和董事會控制權，他們必然會從傳統媒體的角度看事情，然後會讓你做一些對他們來說看似合理，但對新技術來說卻毫無意義的事情。

投入 PayPal 與太空探索

我應該指出，我最初並沒有打算創辦一家公司。我曾試圖在 Netscape 找一份工作，我把履歷寄給 Netscape，Mark Andre 知道這件事，但我認為他從未看到我的履歷，然後沒有人回應。然後我試著在 Netscape 的大廳裡閒逛，看看能不能碰到什麼人，但我太害羞了，不敢和任何人說話。所以我想：「天哪，這太荒謬了。」所以我決定自己寫軟體，看看會怎麼樣。所以，我當時並不是抱著「我想創辦一家公司」的想法，我只是想以某種方式參與建立網際網路。因為我找不到網際網路公司的工作，所以我只好自己創辦一家網際網路公司。是的，是的，我的意思是，從 AI 將會如此深刻地改變未來，這難以想像。

但是，你知道，經濟——假設我們沒有出錯，而且 AI 沒有殺死我們所有人或它自己——那麼你最終會看到一個比現在的經濟規模大十倍不止的經濟體。最終，如果我們或我們的未來機器後代（主要是機器後代）成為卡爾達肖夫二級文明或更高等級，我們談論的是一個比今天經濟規模大數千倍，甚至可能是數百萬倍的經濟體。所以，是的，我的意思是，我確實有點感覺，你知道，當我在華盛頓特區，因為清除浪費和詐欺而受到很多指責時，那是一個有趣的支線任務，但必須回到主線任務。是的，我必須回到主線任務。

所以，回到主線任務，建立技術，這是我喜歡做的事情。政治中噪音太多，訊號雜訊比太糟糕了。我的意思是，我住在舊金山，所以你不需要跟我說兩遍。華盛頓特區就像，你知道，我想那裡都是政治。但如果你想建造火箭或汽車，或者你希望軟體能夠可靠地編譯和運行，那麼你就必須最大限度地追求真相，否則你的軟體或硬體將無法運作。就像你無法愚弄數學和物理一樣，它們是嚴格的評判者。所以我習慣於處在一個最大限度追求真相的環境中，而那絕對不是政治。所以，無論如何，我很高興能回到技術領域。

我有點好奇，回到 Zip2 的那個時刻，你當時擁有數億美元的財富，或者說你的一次退出價值數億美元。我的意思是，我得到了 2000 萬美元，好吧，所以你至少解決了金錢問題。你基本上把錢拿來，然後繼續投入到成為 PayPal 的 X.com 和 Confinity 中。是的，我把籌碼都留在桌上了。不是每個人都會這樣做，這個房間裡很多人都必須做出這個決定。是什麼驅使你再次投入競爭？

嗯，我認為對於 Zip2，我們開發了令人難以置信的技術，但它從未真正得到使用。你知道，至少從我的角度來看，我們擁有比 Yahoo 或其他任何人都更好的技術，但它受限於我們的客戶。所以我想做一些不受客戶限制的事情，直接面向消費者，這最終成就了 X.com 和 PayPal。本質上，X.com 與 Confinity 合併，共同創建了 PayPal。然後，PayPal 的散播效應，它可能創造了比 21 世紀任何其他事物都多的公司。你知道，許多有才華的人都在 Confinity 和 X.com 的結合體中。所以，我只是想，我覺得我們在 Zip2 上有點被束縛了手腳，我想，如果我們沒有被束縛手腳，直接面向消費者，那會怎麼樣？這就是 PayPal 最終的樣子。

但是，是的，我當時收到了那張 2000 萬美元的支票，作為我在 Zip2 中的份額。當時我正和四個室友住在一起，銀行裡大概只有 1 萬美元。然後這張支票寄來了，而且還是郵寄的。然後我的銀行餘額從 1 萬美元變成了 2000 萬零 1 萬美元。你就會想：「好吧。」還是得繳稅等等，但我最終把幾乎所有的錢都投入了 X.com，就像你說的，幾乎把所有的籌碼都留在桌上。

然後在 PayPal 之後，我想：嗯，我有點好奇為什麼我們沒有派任何人去火星。我上了 NASA 的網站，想找出我們什麼時候會派人去火星，結果沒有日期。我以為可能只是網站上很難找到，但事實上，根本沒有真正派人去火星的計畫。所以，你知道，這是一個很長的故事，所以我不想在這裡花太多時間。但我認為我們都在聚精會神地聽著。所以當時我正和我的朋友 Adeo Ressi 在長島高速公路上，我們是大學的室友。D 當時問我 PayPal 之後打算做什麼。我說：「我不知道，我想我可能想在太空領域做一些慈善事業。」因為我當時不認為我能在太空領域做任何商業活動，因為那似乎是國家的職責。

所以，嗯，但我有點好奇我們什麼時候會派人去火星，那時我才意識到，網站上根本沒有，我開始深入挖掘，NASA 網站上什麼都沒有。所以我就開始深入挖掘。我現在肯定省略了很多細節，但我最初的想法是進行一次慈善火星任務，叫做「生命到火星」（Life to Mars），我們將運送一個小型溫室，裡面有種子和脫水營養凝膠，將它降落在火星上，然後灌溉凝膠，這樣就能拍到一張很棒的「鈔票照」（money shot），綠色植物在紅色背景上。很長一段時間我沒意識到「money shot」是個色情用語，但無論如何，重點是那將會是綠色植物在紅色背景上的絕佳照片，試圖激勵 NASA 和大眾派遣太空人前往火星。

隨著我了解得更多，我意識到，哦，順便說一句，我在 2001 年和 2002 年去了俄羅斯購買洲際彈道導彈 (ICBMs)，那真是一場冒險。你知道，你去見俄羅斯高級指揮官，說：「我想買一些洲際彈道導彈。」這是在太空領域，不是為了核武攻擊任何人。但他們因為削減軍備談判，必須銷毀許多他們的大型核導彈。所以我想：嗯，如果我們拿其中兩枚，減去核彈頭，再增加一個上級火箭用於火星呢？但在莫斯科，2001 年，與俄羅斯軍方談判購買洲際彈道導彈，這有點詭異，太瘋狂了。但他們也一直在給我漲價，所以這與談判的初衷正好相反。所以我想：「天哪，這些東西越來越貴了。」然後我意識到，實際上問題並不是去火星的意願不足，而是沒有辦法在不耗盡預算（甚至耗盡 NASA 預算）的情況下實現。這就是我決定創辦 SpaceX 的原因，SpaceX 旨在推進火箭技術，達到能夠將人類送往火星的程度。那是 2002 年。

硬體新創的艱鉅挑戰

所以你最初並不是想創業，你只是想做一些你感興趣的事情，你認為人類需要的事情，然後當你像一隻貓拉著線一樣，線團就這樣解開了，結果這可能成為一項非常有利可圖的業務。我的意思是，它現在確實是，但在那之前，真的沒有任何火箭新創公司成功的先例。曾經有過各種嘗試建立商業火箭公司，但它們都失敗了。所以，再次強調，創辦 SpaceX 的出發點是：我認為成功的機會不到 10%，也許只有 1%，我不知道。但是，如果一家新創公司不致力於推進火箭技術，那它肯定不會來自大型國防承包商，因為他們只會迎合政府，而政府只希望做非常傳統的事情。所以，它要么來自新創公司，要么根本不會發生。所以，微小的成功機會總比沒有機會好。所以，是的，SpaceX 是我在 2002 年年中創辦的，當時預計會失敗。就像我說的，可能 90% 的機會會失敗。甚至在招募員工時，我也沒有試圖美化它，我說我們很可能會死，但有 12% 的機會我們可能不會死，但這是將人類送往火星並推進最先進技術的唯一方法。

然後，我最終成為了火箭的首席工程師，不是因為我想，而是因為我找不到任何優秀的人。好的首席工程師都不會加入，因為他們覺得：「這風險太高了，你會死的。」所以我就成了火箭的首席工程師。你知道，前三次發射確實失敗了，這是一個學習的過程。第四次發射幸運地成功了，但如果第四次發射沒有成功，我就沒有錢了，那一切就結束了。所以，如果 Falcon 的第四次發射沒有成功，那就真的是結束了，我們就會加入之前所有火箭新創公司的墳墓了。所以，我對成功的估計並沒有差太遠，我們只是險勝。

Tesla 當時也同時進行著。2008 年是艱難的一年，因為在 2008 年年中，或者說 2008 年夏天，SpaceX 的第三次發射失敗了，我們連續三次失敗。Tesla 的融資也失敗了，所以 Tesla 很快就要破產了。當時就像：「天哪，這太嚴峻了。」這將是一個關於傲慢的警示故事。在那個時期，很多人可能都在說：「Elon 是一個軟體人，他為什麼要做硬體？為什麼會？」是的，他為什麼要選擇做這個？百分之百如此。你可以看看當時的媒體報導，它們現在還在網上，你可以搜尋一下，他們一直稱我為「網路人」。所以，網路人（又稱傻瓜）正試圖創辦一家火箭公司。所以，你知道，我們受到了很多嘲笑。

這聽起來確實很荒謬，一個「網路人」創辦火箭公司，聽起來不像成功的秘訣。坦白說，我對此不以為意。我想：「是的，你知道，它確實聽起來不太可能，我也同意這不太可能。」但幸運的是，第四次發射成功了，而且 NASA 授予我們一份為太空站補給的合約。我想那大概是在 12 月 22 日，或者就是在聖誕節前。因為即使第四次發射成功，也不足以讓我們成功，NASA 也需要我們也需要一份大合約才能讓我們生存下去。所以，我接到了來自 NASA 團隊的電話，他們說：「我們將授予你一份為太空站補給的合約。」我簡直脫口而出：「我愛你們！」這通常不是他們會聽到的，因為通常情況下會非常嚴肅，但我想：「天哪，這是公司的救命稻草！」然後我們在 2008 年 12 月 24 日下午 6 點，在可能簽約的最後一天的最後一小時，完成了 Tesla 的融資。如果那筆融資沒有完成，我們就會在聖誕節後兩天發不出薪水。所以 2008 年底真的是令人神經緊繃。

成功的原則：實用性與真理

我想從您在 PayPal 和 Zip2 的經驗來看，投入這些硬核硬體新創公司，您的一個共通點是能夠找到並最終吸引到這些特定領域中最聰明的人才。您會對那些人，比如這個房間裡的大多數人，我認為他們甚至還沒有管理過一個人，他們才剛開始他們的職業生涯，您會對從未有過這種經歷的 Elon 說什麼？我通常認為要盡可能地去實用。這聽起來可能很簡單，但要做到實用真的非常困難，尤其是對很多人實用，比如說總效用的曲線下面積，就像您對同胞有多大用處乘以多少人一樣。這幾乎就像物理學中對「真實工作」的定義一樣，要做到這一點是極其困難的。我認為如果您渴望做真實的工作，您的成功機率會高得多。就像，不要渴望榮耀，要渴望工作。

你怎麼判斷這是「真實工作」？是外在的嗎？是與其他人發生的事情嗎？還是產品對人們做了什麼？你知道，當你在尋找為你工作的人時，你最看重的是什麼？或者說，如果他們是…這又是另一個問題了。我的意思是，就你的最終產品而言，你只需要問自己：「如果這個東西成功了，它對多少人會有用？」這就是我的意思。然後，無論你是 CEO 還是新創公司中的任何角色，你都要竭盡所能去成功。而且永遠要粉碎你的自我，就像，內化責任一樣。一個主要的失敗模式是當自我與能力的比率遠遠大於一。你知道，如果你的自我與能力的比率變得太高，你基本上就會打破與現實的反饋迴路。以 AI 術語來說，你會打破你的 RL 循環。所以你不想打破你的 RL 循環，你想要有一個強大的 RL 循環，這意味著內化責任並最小化自我，而且無論任務是多麼宏偉或謙卑，你都要去做。

所以我的意思是，這就是為什麼我實際上更喜歡「工程」這個詞，而不是「研究」。我更喜歡這個詞，而且我其實不想把 XAI 稱為實驗室，我只是想成為一家公司。就像，無論什麼是最簡單、最直接、理想情況下自我最低的術語，這些通常都是一個好的方向。你只是想把現實的迴路關閉得很緊，這是非常重要的一點。

第一性原理與 AI 發展

我相信這個房間裡的每個人都非常欽佩您在第一性原理方面所做的一切，以及您對這些事物的思考。您是如何實際判斷您的現實的？因為這似乎是其中非常重要的一部分。其他人，從未創造過任何東西的非工程師，有時是記者，從未做過任何事情的人，他們會批評您，但顯然您還有另一群人，他們是建造者，他們的「曲線下面積」非常高，他們在您的圈子裡。您認為人們應該如何處理這個問題？對您來說什麼是有效的？您會把什麼傳授給您的孩子們？您會告訴他們什麼，當您說「你需要在這個世界上闖出一番事業，這就是如何從第一性原理構建一個可預測的現實」時？

物理學的工具對於理解和在任何領域取得進展都非常有幫助。第一性原理顯然只是指將事物分解為最有可能為真的基本公理元素，然後盡可能清晰地從中推論，而不是透過類比或隱喻進行推論。然後，像「極限思考」這樣簡單的事情，如果你外推，比如最小化這個或最大化那個，極限思考都非常有幫助。我使用所有物理學的工具，它們適用於任何領域。這實際上就像一種超能力。

所以你可以舉個例子，火箭。你可以問，火箭應該花多少錢？人們對火箭成本的典型方法是查看歷史上火箭的成本，並假設任何新火箭的成本必須與以前的火箭成本相似。而第一性原理的方法則是，你看看火箭由哪些材料組成，無論是鋁、銅、碳纖維、鋼材，等等。然後問，這枚火箭有多重？它的組成元素是什麼？它們有多重？這些組成元素的材料價格每公斤是多少？這就設定了火箭的實際最低成本。它可以漸近地接近原材料的成本。然後你會意識到，實際上火箭的原材料成本可能只佔歷史成本的百分之一或百分之二。所以製造過程必然非常低效。如果原材料成本只有百分之一或百分之二，這將是對火箭成本優化潛力的第一性原理分析，而這還沒考慮到可重複使用性。

舉一個 AI 方面的例子，去年，當我們為 XAI 試圖建立一個訓練超級叢集時，我們向各個供應商詢問，這是在去年年初，我們需要 10 萬個 H100s 才能進行連貫的訓練。他們估計完成這項任務需要 18 到 24 個月。我們當時想，我們需要在 6 個月內完成，否則我們將失去競爭力。所以，如果你將其分解，你需要什麼？你需要一個建築、電力、冷卻。我們沒有足夠的時間從頭開始建造一個建築，所以我們必須找到一個現有的建築。我們找到了一個位於 Memphis 且不再使用的 Electrolux 產品製造工廠。但當時的輸入電力只有 15 兆瓦，而我們需要 150 兆瓦。所以我們租用了發電機，將發電機放在建築的一側，然後我們必須有冷卻系統，所以我們租用了美國約四分之一的移動冷卻設備，並將冷卻機放在建築的另一側。這並沒有完全解決問題，因為訓練期間的電壓和功率變化非常大。功率可以在 100 毫秒內下降 50%，而發電機無法跟上。所以我們結合了 Tesla Megapacks，並修改了 Megapacks 中的軟體，以平滑訓練運行期間的功率變化。然後還有許多網路挑戰，因為如果你試圖讓 10 萬個 GPU 連貫地訓練，網路電纜的挑戰非常大。

聽起來幾乎任何您提到的事情，我都可以想像有人直接告訴您：「不，您不能有那個電力，您不能有這個。」聽起來，第一性原理思維的一個顯著部分實際上是：「讓我們問為什麼？讓我們弄清楚。」而且實際上，讓我們挑戰桌對面的人，如果我得不到一個令我滿意的答案，我就會，你知道，不讓那個「不」成立。我的意思是，這感覺就像是，你知道，如果有人嘗試在硬體領域做您正在做的事情，硬體似乎特別需要這個。在軟體中，我們有很多，你知道，一些華而不實的東西，就像我們可以增加更多的 CPU，那就沒問題了。但在硬體中，它就是行不通。我認為這些第一性原理的普遍原則適用於軟體和硬體，實際上適用於任何事物。我只是舉了一個硬體例子，說明我們是如何被告知某事不可能，但一旦我們將其分解為構成元素：我們需要一個建築、我們需要電力、我們需要冷卻、我們需要電力平滑，然後我們就能解決這些構成元素。但是，這確實是，然後我們就運行了網路操作，在四個班次，24 小時不停地進行所有布線等等。我當時就睡在資料中心裡，也親自拉線。還有很多其他問題需要解決。去年沒有人進行過 10 萬個 H100s 連貫訓練的運行，也許今年已經有人做了，我不知道。然後我們最終將其翻倍，達到 20 萬個。所以現在我們在 Memphis 訓練中心有 15 萬個 H100s、5 萬個 H200s 和 3 萬個 GB200s。我們即將在 Memphis 地區的第二個資料中心啟用 11 萬個 GB200s。

您認為預訓練仍然有效嗎？而且擴展法則仍然成立，誰贏得了這場競賽，基本上就能擁有最大、最聰明的模型？嗯，除了大型 AI 的競爭力之外，還有其他各種要素。毫無疑問，人才很重要，硬體的規模以及你如何有效地運用這些硬體也很重要。所以你不能只是訂購一大堆 GPU，然後它們就不能只是插上電就能用。你必須獲得大量的 GPU，並讓它們能夠連貫穩定地訓練。然後，你是否有獨特的數據訪問權限？我猜分發在某種程度上也很重要，比如人們如何接觸到你的 AI，這些都是決定它是否能成為一個有競爭力的大型基礎模型的關鍵因素。

嗯，正如許多人所說，我想我的朋友 Isaac Asimov 說過，你知道，我們已經差不多用完人類生成的預訓練數據了，人類生成的數據的標記很快就會用完，當然是高品質的標記。然後你必須做很多，你基本上需要創建合成數據，並且能夠準確判斷你正在創建的合成數據，以驗證這是否是真實的合成數據，還是實際上與現實不符的幻覺。所以實現與現實的接地是很棘手的。但我們正處於一個階段，投入了更多精力在合成數據上。現在我們正在訓練 Grok 3.5，它非常注重推理。回到您的物理學觀點，我聽說對於推理來說，硬科學，特別是物理教科書非常有用，而我認為研究人員告訴我，社會科學對於推理完全沒用。是的，這可能是真的。

多行星未來與避免大篩選

嗯，未來非常重要的一件事是將資料中心或超級叢集中的深度 AI 與機器人技術結合起來。這樣，像 Optimus 人形機器人這樣的事物，是的，Optimus 太棒了。將會有如此多的人形機器人，以及各種尺寸和形狀的機器人。但我的預測是，人形機器人的數量將遠遠超過所有其他機器人加起來的總和，可能是一個數量級的差距，一個很大的區別。您是否真的打算建立一支機器人軍隊？無論是我們來做，還是 Tesla 來做，你知道，Tesla 與 XAI 緊密合作。就像您看到的，有多少人形機器人新創公司？我想 Jensen Bong 在舞台上展示了大量的機器人，來自不同公司的機器人。我想有十幾個不同的人形機器人。所以我的意思是，我猜，你知道，我一直在努力對抗，也許這也讓我放慢了腳步，那就是我有點，我不想讓《魔鬼終結者》成真。所以我想，至少直到近年來，我一直在 AI 和人形機器人方面拖拖拉拉。然後我意識到，無論我做不做，這都會發生。所以你只有兩個選擇：旁觀者或參與者。所以我想，嗯，我寧願成為參與者，而不是旁觀者。所以現在，人形機器人和數位超級智慧正在全力衝刺。

所以我想，你知道，還有第三件事，大家肯定聽您說過很多次，我也非常喜歡，那就是成為一個多行星物種。這件事要怎麼配合呢？這不是一個 10 年或 20 年的事情，可能是一個 100 年的事情，是一個跨越人類多個世代的事情。您是怎麼看待它的？有 AI，顯然還有實體機器人，然後還有成為一個多行星物種。所有這些都與最後一點息息相關嗎？或者說，未來 10 年、20 年乃至 100 年，您現在的動力是什麼？天哪，100 年。我希望文明在 100 年後還存在。如果它存在，它將與今天的文明大不相同。我的意思是，我預測，人形機器人的數量將至少是人類的五倍，可能十倍。

衡量文明進步的一種方式是百分比完成度，以卡爾達肖夫指數（Kardashev scale）來看。所以，如果你達到卡爾達肖夫一級，你已經掌握了一個星球上的所有能量。在我看來，我們目前只掌握了地球能量的百分之一或百分之二，所以距離卡爾達肖夫一級還有很長的路要走。然後卡爾達肖夫二級，你掌握了一顆太陽的所有能量，那會比地球多十億倍，甚至可能接近一兆倍的能量。然後卡爾達肖夫三級將是掌握一個銀河系的所有能量，那還很遙遠。所以我們正處於智慧大爆炸的極早期階段。

我希望我們正在成為多行星物種。我認為我們將在大約 30 年內，將足夠的質量轉移到火星，使火星能夠自我維持，這樣即使地球的補給飛船停止運送，火星也能繼續成長和繁榮。這將大大增加文明、意識或智慧（無論是生物還是數位）的預期壽命。這就是為什麼我認為成為一個多行星物種很重要。我對費米悖論（Fermi paradox）有些困擾：為什麼我們沒有看到任何外星人？這可能是因為智慧非常罕見，也許我們是這個銀河系中唯一的智慧生命。在這種情況下，意識的智慧就像廣闊黑暗中的一根微小蠟燭，我們應該盡一切可能確保這根微小蠟燭不會熄滅。成為一個多行星物種，或使意識多行星化，將大大提高文明的預期壽命，這也是前往其他恆星系統的下一步。一旦你至少擁有兩個行星，你就有了一個推動太空旅行改進的強制功能。最終這將導致意識擴展到星辰。

費米悖論可能表明，一旦你達到某種技術水平，你就會自我毀滅。我們如何拯救自己？我們如何才能做到？你會建議，比如說，這個房間裡的工程師們，我們可以做些什麼來防止這種情況發生？是的，我們如何避免大篩選？其中一個大篩選顯然是全球熱核戰爭，所以我們應該努力避免。我想，建立仁慈的 AI 機器人，讓 AI 愛人類，以及，你知道，有幫助的機器人。我認為在建立 AI 時，有一件事極其重要，那就是嚴格遵守真相，即使那個真相在政治上不正確。我對於什麼可能使 AI 變得非常危險的直覺是，如果你強迫 AI 相信不真實的事情。

您怎麼看待，你知道，存在這種關於開放為了安全與封閉為了競爭優勢的爭論？我的意思是，我覺得很棒的是，您有一個競爭模型，許多其他人也有競爭模型，從這個意義上說，我們或許擺脫了我會擔心的最壞情況：就是快速崛起且只掌握在一個人手中，那可能會導致很多事情崩潰，而現在我們有選擇，這很棒。您怎麼看？是的，我確實認為將會有幾個深度智能體，可能至少有五個，也許多達十個。我不確定會不會有數百個，但大概會接近十個左右。其中可能會有四個在美國。所以我不認為會是某一個 AI 擁有失控的能力。但，是的，會有幾個深度智能體。這些深度智能體實際上會做什麼呢？會是科學研究，還是試圖互相攻擊？可能以上皆是。

我的意思是，希望他們會發現新的物理學，而且我認為他們肯定會發明新的技術。我想，我認為我們離數位超級智慧非常接近了，它可能今年就會發生，如果今年沒有發生，明年肯定會發生。數位超級智慧的定義是，在任何方面都比任何人類更聰明。那麼我們如何將其導向超級豐饒呢？我們將擁有機器人勞動、廉價能源、隨需智能。這是一種「白藥丸」的感覺嗎？您處於這個光譜的哪一端？有沒有什麼具體的事情，您會鼓勵這裡的每個人去努力，讓這個「白藥丸」變成現實？我認為這很可能是一個好的結果。我想我會同意 Jeff Hinton 的說法，也許有 10% 到 20% 的毀滅機率，但從好的方面看，那也有 80% 到 90% 的機率會有一個美好的結果。所以，是的，我無法足夠強調這一點：嚴格遵守真相，這對 AI 安全來說是最重要的。而且顯然，要對人類和我們所知的生命抱持同理心。

我們還沒有討論過 Neuralink。但我很好奇，您正在努力縮小人類與機器之間的輸入和輸出差距。這對 AGI 和 ASI 有多關鍵？一旦這個連結建立起來，我們是否不僅能讀取，還能寫入？Neuralink 並非解決數位超級智慧的必要條件，在 Neuralink 達到規模化之前，數位超級智慧就會發生。但是，Neuralink 能夠有效地解決輸入輸出頻寬的限制，特別是我們的輸出頻寬非常低。人類在一天之內持續輸出的資訊量不到每秒 1 位元，一天有 86,400 秒，人類在一天內輸出超過這個符號數量的資訊極為罕見，當然連續數日更是如此。

所以，透過 Neuralink 介面，你可以大幅增加你的輸出頻寬和輸入頻寬。輸入是指對大腦進行寫入操作。我們現在有五個人接受了讀取信號的植入，他們患有 ALS，他們是四肢癱瘓者，但他們現在可以用與身體機能完全正常的人相似的頻寬進行交流，並控制他們的電腦和手機，這非常酷。然後，我想在接下來的 6 到 12 個月內，我們將進行首次視覺植入，即使是完全失明的人，我們也可以直接將信息寫入視覺皮層。我們已經在猴子身上取得了成功，我想我們其中一隻猴子現在已經有視覺植入三年了。一開始解析度會相對較低，但長期來看，將會達到非常高的解析度，並且能夠看到多光譜波長，所以你可以看到紅外線、紫外線、雷達，就像一種超能力的情況。在某個時候，人機植入將不只是修正問題，而是大幅增強人類能力，大幅增強智能、感官和頻寬，這遲早會發生。但數位超級智慧會在那之前很久就發生，至少如果我們有 Neuralink，我們或許能更好地欣賞 AI。

未來展望與給技術人才的建議

我想，在您所有這些不同領域的努力中，一個限制性的因素是能否接觸到最聰明的人。是的，但與此同時，我們有，你知道，Grok 可以說話和推理，它們現在可能智商是 130，而且它們可能很快就會變得超級智能。您如何調和這兩件事？在未來 5 到 10 年會發生什麼？這個房間裡的人應該做什麼，以確保他們是創造者，而不是，你知道，在 API 線以下？嗯，他們稱之為奇點是有原因的，因為我們不知道在不遠的將來會發生什麼。人類智能的百分比在某個時候將會非常小，所有智能的總和中，人類智能將少於 1%。

如果事情達到卡爾達肖夫二級文明，我們談論的是人類智慧，即使假設人類人口和智慧增強有顯著增加，例如大規模的智慧增強，就像每個人都有 1000 智商那樣，即使在這種情況下，人類的集體智慧可能也只有數位智慧的十億分之一。總之，數位超級智慧的生物啟動程式在哪裡？我想，最後，他會說：「我是一個好的啟動程式嗎？」我們從這裡走向何方？我的意思是，所有這些都是非常瘋狂的科幻內容，但這個房間裡的人也可以建造它們。對於這一代最聰明的技術人才，您有什麼收尾的想法嗎？他們應該做什麼？他們應該研究什麼？今晚他們去吃飯時應該思考什麼？嗯，就像我開頭說的，如果你在做有用的事情，那很棒。如果你只是盡可能對你的同胞有用，那麼你就在做一些好事。

我一直在強調這一點：專注於超級真實的 AI，這對 AI 安全來說是最重要的事情。你知道，顯然，如果你，嗯，任何人對在 XAI 工作感興趣，請務必告訴我們。我們的目標是讓 Grok 成為最追求真相的 AI，我認為這是一件非常重要的事情。希望我們能理解宇宙的本質，這大概是 AI 希望能告訴我們的。也許 AI 可以告訴我們外星人在哪裡，以及宇宙是如何真正開始的，它將如何結束，還有哪些我們不知道但應該問的問題，以及我們是否處於模擬之中，或者我們處於哪種模擬層級？我想我們會找到答案的。Elon，非常感謝您加入我們！大家請為 Elon Musk 鼓掌！