作者：赵颖；来源：華爾街見聞
面對不可阻擋的AI狂潮，埃隆·馬斯克給出了激進的時間表和務實的監管方案：預計AI将在五年内超越人類智力，業內頂尖公司應立即建立模型「相互審查」機制來兜底安全風險。
近日，特斯拉CEO埃隆·馬斯克接受了《經濟學人》總編Zanny Minton Beddoes的專訪。在本次訪談中，馬斯克不僅對人工智慧（AI）超越人類的時間節點及潛在風險做出了最新研判，還首次詳細闡述了針對目前頂尖AI大模型研發公司的監管構想，並毫不避諱地談及了矽谷AI巨頭核心人物之間的恩怨局。
市場目前高度關注AGI的落地時間表。对此，馬斯克給出了一個極其明確且激進的預測：「大約在5年後，人工智慧的智力水準可能會超過人類。」
伴隨智力爆發而來的是控制權的喪失。在被問及人類10年後是否還能掌控局面時，馬斯克直言這「不太可能」。他用了一个殘酷但生動的生物學比喻來解釋這一邏輯：「如果人工智慧與人類的智力差異遠遠大於人工智慧與黑猩猩的智力差異，那麼很難想像黑猩猩會佔據主導地位。我們實際上不過是黑猩猩的進化版本罷了，不久前，我們還在叢林中吃著香蕉呢。」
此前，馬斯克曾多次警告AI可能帶來人類的終結。在本次訪談中，當被問及殺人機器人導致人類終結的概率是否仍在10%到20%之間時，馬斯克並未否認這一風險，但他選擇了一種帶有宿命感的樂觀態度。
他用火箭發射進行了極具畫面感的類比。當主持人詢問「如果你的火箭有10%到20%的概率會爆炸並殺死你，你還會坐上它嗎」時，馬斯克給出了肯定的回答：「會的。我們唯一能做的就是盡量減少出現糟糕結果的概率。」
他進一步解釋了自己不得不「登船」的現實邏輯：「人工智慧和機器人的發展似乎是不可阻擋的，就算我想停止它，我也做不到。」他認為，既然無法阻止，最好的選擇是身在局中以期影響走向，「最有可能的結果就是為所有人帶來巨大的好處」。排除全球熱核戰爭等極端因素，馬斯克預測到了2036年左右，人類最有可能迎來一個「物質極為豐富的時代，每个人都能擁有他們想要的一切」。
隨著OpenAI、Google、Anthropic等AI巨頭在底層大模型上的軍備競賽日益白熱化，如何進行有效監管成為市場關注的焦點。馬斯克在此次訪談中提出了一個非常接地氣的方案：讓競爭對手互相審查模型。
馬斯克透露，他曾與DeepMind創始人Demis Hassabis進行過長談，他認為最緊迫的做法是「讓那些領先的AI公司至少定期舉行會議或交流，討論任何與安全相關的問題，比如每週或每兩週一次。」
馬斯克指出，政府官員缺乏深厚的技術背景，很難判斷一個前沿模型是否該發布。因此，應該利用巨頭之間的商業博弈來保障安全：「對於競爭對手來說，只要給他們一兩週的時間來審查一個新模型，就能發現其中的問題，從而激勵所有競爭對手保持誠實。」
這一機制的核心邏輯在於，「競爭激烈的公司們能夠意識到某些東西可能屬於安全風險，因此他們不會猶豫地指出，應該推遲發布競爭對手的模型。」如果公司拒絕處理風險，政府才需要介入。馬斯克強調這一機制必須立刻建立，業內所說的「六個月內建立」實在太長，因為現在AI的突破是一天內就有好幾個。
在談及AI行業的合作壁壘時，馬斯克毫不掩飾對OpenAI現任CEO山姆·奧特曼（Sam Altman）的不滿。這段直白的表述也向市場揭示了頂級AI實驗室之間缺乏信任的根源。
「我不喜歡山姆·奧特曼，是因為OpenAI原本是一家旨在實現開源的人工智慧公司，原本應該是屬於全世界的公司。然而，不知怎麼的，它變成了一家價值8000億美元、採用閉源技術的盈利公司。」馬斯克直言，這完全違背了他當初捐款的初衷。
同時，馬斯克還爆料了Anthropic（目前估值最高的AI新創公司之一，由前OpenAI核心成員創立）的內幕：「達里奧（Anthropic CEO）也不喜歡山姆·奧特曼，實際上，Anthropic團隊離開OpenAI的原因就是他們不信任山姆·奧特曼，否則他們現在應該還在OpenAI工作。」
盡管巨頭之間存在強烈的個人恩怨，但馬斯克在訪談最後表現出了妥協的姿態。他評價Anthropic團隊是「有原則、關心世界未來」的人。為了推進AI安全互查機制的建立，馬斯克呼籲：「為了世界的利益，讓我們把個人之間的分歧放在一邊吧。」
文字記錄
馬斯克
我認為，大約在5年後，人工智慧的智力水準可能會超過人類。5年時間，大概就是這樣的預測時間。所以，除了作為人類本身之外，人工智慧確實可以做得比人類更好。
主持人
那麼，未來生活會是什麼樣呢？
最有可能的情況是，迎來一個物質極為豐富的時代，每个人都能擁有他們想要的一切。這聽起來可能有些荒謬，但是，我們現在就生活在2026年。讓我們看看到了2036年時，我們的處境會如何吧。
當然，也有一些因素可能會阻礙這一目標的實現，比如一場大規模的全球熱核戰爭之類的事件。不過，假設第三次世界大戰不會發生的話，我認為我們將進入一個物質豐富的時代。所以，這或許可以算是一種對未來的樂觀和興奮的訊號吧。
你确信在10年後，人類將不再能掌控局面嗎？
我覺得那不太可能。如果人工智慧與人類的智力差異遠遠大於人工智慧與黑猩猩的智力差異，那麼很難想像黑猩猩會佔據主導地位。我們實際上不過是黑猩猩的進化版本罷了，不久前，我們還在叢林中吃著香蕉呢，現在我們也仍然吃香蕉。
你認為，擁有殺人機器人的情況還有10%到20%的可能性會導致人類的終結嗎？現在你對此似乎很放鬆。你改變你的看法了嗎？
我仍然認為人工智慧和機器人存在風險，這種風險並非為零。不過，我得採取一種樂觀的態度。關於人工智慧和機器人的發展，有時候我甚至想，即便有停止按鈕，我們也未必應該按下它——因為最有可能的結果就是為所有人帶來巨大的好處。我意識到，現在似乎大家都認定這種發展是不可避免的。讓我們期待最好的結果，繼續前行吧。人工智慧和機器人的發展似乎是不可阻擋的，就算我想停止它，我也做不到。
你覺得殺人機器人導致人類終結的概率是否還有10%到20%？
這真是很糟糕的情況。從長遠來看，我們所有人最終都會走向死亡。根據物理的標準模型，宇宙的終結將會是一個漫長而無聊的過程——就像一杯逐漸冷卻的稀薄灰色液體一樣，也就是所謂的「宇宙熱寂」。所以，如果宇宙熱寂確實是我們這個現實世界的最終結局，那麼這一切都只是旅程的一部分而已。
如果你認為你的火箭有10%到20%的概率會爆炸並殺死你，你還會坐上它嗎？
會的。我們唯一能做的就是盡量減少出現糟糕結果的概率。我一直不願參與人工智慧或相關領域的工作。當初，OpenAI作為對谷歌的一種制衡力量而存在，因為當時谷歌幾乎壟斷了人工智慧領域的發展。而現在，Anthropic已經成為人工智慧領域的領導者。這些舉措實際上加速了人工智慧的發展，而那並非我的初衷。看起來一切似乎都指向了人工智慧的進一步發展。於是我就想，好吧，你可以對此感到難過，或者加入這個行列——而你顯然已經加入了。
如果無法擊敗他們，那就加入他們吧。據了解，其他一些模型研發領域的領導者也在努力尋找方法來降低風險。就在上週，Demis Hassabis提出了一個關於建立公私合作監管機構的建議。你覺得你們應該更加積極地參與這件事嗎？為了控制這些風險，我們是否可以採取一些措施呢？
是的，我對Demis的建議是：在我們發表他的文章之前，我和他進行了幾小時的交談。我們認為，最緊迫的做法就是讓那些領先的AI公司至少定期舉行會議或交流，討論任何與安全相關的問題，每隔幾週進行一次。你為什麼還沒有這麼做呢？我的意思是，你們之間並不都彼此喜歡，你們畢竟都在競爭，都想成為第一名。
不過，我覺得，這種競爭可以促使人們保持誠實。對於那些沒有深厚技術背景、不引領人工智慧前沿發展的政府官員來說，要判斷某個模型是否應該被發布，確實很困難。但是，對於競爭對手來說，只要給他們一兩週的時間來審查一個新模型，就能發現其中的問題，從而激勵所有競爭對手保持誠實。這樣，模型創作者就可以互相檢查彼此的工作。如果有什麼讓他們擔心的事情，他們就可以告訴政府，政府就能判斷出是否有什麼問題需要解決——如果那家公司並沒有採取任何措施來應對這一風險，那麼就是政府應該介入並採取行動的時候了。
應該立即採取行動。人們一直告訴我，必須在未來六個月內建立起這樣的系統，因為模型的改進速度越來越快了。六個月的時間確實很長，應該縮短這個時間。現在有太多關於人工智慧的突破性進展了，有時候一天內就有好幾個，上週就有很多。
所以，你們需要現在就聚一聚，把這件事安排好。聽起來你是在告訴我這一點。
是的，我建議至少定期舉行一些非正式的會議，比如每週或每兩週一次。這樣就能確保有那麼一兩週的時間可以提前存取相關內容。
這就是為什麼我認為這種激勵機制有效——競爭激烈的公司們能夠意識到某些東西可能屬於安全風險，因此他們不會猶豫地指出，應該推遲發布競爭對手的模型。
你們彼此不太喜歡對方，也缺乏信任，在社交媒體上經常互相攻擊。所以，你認為自己能這樣對待那些自己不喜歡的人嗎？這些領導者之間確實存在個人恩怨。
我不喜歡山姆·奧特曼，是因為OpenAI原本是一家旨在實現開源的人工智慧公司，原本應該是屬於全世界的公司。然而，不知怎麼的，它變成了一家價值8000億美元、採用閉源技術的盈利公司。我覺得這完全違背了我當初捐錢的目的，這是我非常不滿的地方。另外，達里奧也不喜歡薩姆·阿爾特曼，實際上，Anthropic團隊離開OpenAI的原因就是他們不信任山姆·奧特曼，否則他們現在應該還在OpenAI工作。
我覺得達里奧是個非常有原則的人，他很關心各種事情，也關心世界的未來。到目前為止，我在Anthropic遇到的每個人都是如此，沒有人讓我覺得他們有惡意——他們看起來都是出於好意。通往地獄的道路往往是由善意鋪成的，雖然也有少數人是出於好意，但我們不能掉以輕心。不過，如果真的需要討論的話，那我們就討論吧。為了世界的利益，讓我們把個人之間的分歧放在一邊吧。
1.1萬 熱度
136.68萬 熱度
7.15萬 熱度
181.71萬 熱度
39.55萬 熱度
馬斯克：AI 可能滅絕人類，但我還是會坐上去享受旅程
作者：赵颖；来源：華爾街見聞
面對不可阻擋的AI狂潮，埃隆·馬斯克給出了激進的時間表和務實的監管方案：預計AI将在五年内超越人類智力，業內頂尖公司應立即建立模型「相互審查」機制來兜底安全風險。
近日，特斯拉CEO埃隆·馬斯克接受了《經濟學人》總編Zanny Minton Beddoes的專訪。在本次訪談中，馬斯克不僅對人工智慧（AI）超越人類的時間節點及潛在風險做出了最新研判，還首次詳細闡述了針對目前頂尖AI大模型研發公司的監管構想，並毫不避諱地談及了矽谷AI巨頭核心人物之間的恩怨局。
AI 5年內超越人類智力，終結人類概率在10%到20%，自己不得不「登船」
市場目前高度關注AGI的落地時間表。对此，馬斯克給出了一個極其明確且激進的預測：「大約在5年後，人工智慧的智力水準可能會超過人類。」
伴隨智力爆發而來的是控制權的喪失。在被問及人類10年後是否還能掌控局面時，馬斯克直言這「不太可能」。他用了一个殘酷但生動的生物學比喻來解釋這一邏輯：「如果人工智慧與人類的智力差異遠遠大於人工智慧與黑猩猩的智力差異，那麼很難想像黑猩猩會佔據主導地位。我們實際上不過是黑猩猩的進化版本罷了，不久前，我們還在叢林中吃著香蕉呢。」
此前，馬斯克曾多次警告AI可能帶來人類的終結。在本次訪談中，當被問及殺人機器人導致人類終結的概率是否仍在10%到20%之間時，馬斯克並未否認這一風險，但他選擇了一種帶有宿命感的樂觀態度。
他用火箭發射進行了極具畫面感的類比。當主持人詢問「如果你的火箭有10%到20%的概率會爆炸並殺死你，你還會坐上它嗎」時，馬斯克給出了肯定的回答：「會的。我們唯一能做的就是盡量減少出現糟糕結果的概率。」
他進一步解釋了自己不得不「登船」的現實邏輯：「人工智慧和機器人的發展似乎是不可阻擋的，就算我想停止它，我也做不到。」他認為，既然無法阻止，最好的選擇是身在局中以期影響走向，「最有可能的結果就是為所有人帶來巨大的好處」。排除全球熱核戰爭等極端因素，馬斯克預測到了2036年左右，人類最有可能迎來一個「物質極為豐富的時代，每个人都能擁有他們想要的一切」。
呼籲建立AI「互查機制」：利用商業競爭保持誠實
隨著OpenAI、Google、Anthropic等AI巨頭在底層大模型上的軍備競賽日益白熱化，如何進行有效監管成為市場關注的焦點。馬斯克在此次訪談中提出了一個非常接地氣的方案：讓競爭對手互相審查模型。
馬斯克透露，他曾與DeepMind創始人Demis Hassabis進行過長談，他認為最緊迫的做法是「讓那些領先的AI公司至少定期舉行會議或交流，討論任何與安全相關的問題，比如每週或每兩週一次。」
馬斯克指出，政府官員缺乏深厚的技術背景，很難判斷一個前沿模型是否該發布。因此，應該利用巨頭之間的商業博弈來保障安全：「對於競爭對手來說，只要給他們一兩週的時間來審查一個新模型，就能發現其中的問題，從而激勵所有競爭對手保持誠實。」
這一機制的核心邏輯在於，「競爭激烈的公司們能夠意識到某些東西可能屬於安全風險，因此他們不會猶豫地指出，應該推遲發布競爭對手的模型。」如果公司拒絕處理風險，政府才需要介入。馬斯克強調這一機制必須立刻建立，業內所說的「六個月內建立」實在太長，因為現在AI的突破是一天內就有好幾個。
痛批OpenAI背離初衷，但願為世界利益放下個人分歧
在談及AI行業的合作壁壘時，馬斯克毫不掩飾對OpenAI現任CEO山姆·奧特曼（Sam Altman）的不滿。這段直白的表述也向市場揭示了頂級AI實驗室之間缺乏信任的根源。
「我不喜歡山姆·奧特曼，是因為OpenAI原本是一家旨在實現開源的人工智慧公司，原本應該是屬於全世界的公司。然而，不知怎麼的，它變成了一家價值8000億美元、採用閉源技術的盈利公司。」馬斯克直言，這完全違背了他當初捐款的初衷。
同時，馬斯克還爆料了Anthropic（目前估值最高的AI新創公司之一，由前OpenAI核心成員創立）的內幕：「達里奧（Anthropic CEO）也不喜歡山姆·奧特曼，實際上，Anthropic團隊離開OpenAI的原因就是他們不信任山姆·奧特曼，否則他們現在應該還在OpenAI工作。」
盡管巨頭之間存在強烈的個人恩怨，但馬斯克在訪談最後表現出了妥協的姿態。他評價Anthropic團隊是「有原則、關心世界未來」的人。為了推進AI安全互查機制的建立，馬斯克呼籲：「為了世界的利益，讓我們把個人之間的分歧放在一邊吧。」
文字記錄
馬斯克
我認為，大約在5年後，人工智慧的智力水準可能會超過人類。5年時間，大概就是這樣的預測時間。所以，除了作為人類本身之外，人工智慧確實可以做得比人類更好。
主持人
那麼，未來生活會是什麼樣呢？
馬斯克
最有可能的情況是，迎來一個物質極為豐富的時代，每个人都能擁有他們想要的一切。這聽起來可能有些荒謬，但是，我們現在就生活在2026年。讓我們看看到了2036年時，我們的處境會如何吧。
當然，也有一些因素可能會阻礙這一目標的實現，比如一場大規模的全球熱核戰爭之類的事件。不過，假設第三次世界大戰不會發生的話，我認為我們將進入一個物質豐富的時代。所以，這或許可以算是一種對未來的樂觀和興奮的訊號吧。
主持人
你确信在10年後，人類將不再能掌控局面嗎？
馬斯克
我覺得那不太可能。如果人工智慧與人類的智力差異遠遠大於人工智慧與黑猩猩的智力差異，那麼很難想像黑猩猩會佔據主導地位。我們實際上不過是黑猩猩的進化版本罷了，不久前，我們還在叢林中吃著香蕉呢，現在我們也仍然吃香蕉。
主持人
你認為，擁有殺人機器人的情況還有10%到20%的可能性會導致人類的終結嗎？現在你對此似乎很放鬆。你改變你的看法了嗎？
馬斯克
我仍然認為人工智慧和機器人存在風險，這種風險並非為零。不過，我得採取一種樂觀的態度。關於人工智慧和機器人的發展，有時候我甚至想，即便有停止按鈕，我們也未必應該按下它——因為最有可能的結果就是為所有人帶來巨大的好處。我意識到，現在似乎大家都認定這種發展是不可避免的。讓我們期待最好的結果，繼續前行吧。人工智慧和機器人的發展似乎是不可阻擋的，就算我想停止它，我也做不到。
主持人
你覺得殺人機器人導致人類終結的概率是否還有10%到20%？
馬斯克
這真是很糟糕的情況。從長遠來看，我們所有人最終都會走向死亡。根據物理的標準模型，宇宙的終結將會是一個漫長而無聊的過程——就像一杯逐漸冷卻的稀薄灰色液體一樣，也就是所謂的「宇宙熱寂」。所以，如果宇宙熱寂確實是我們這個現實世界的最終結局，那麼這一切都只是旅程的一部分而已。
主持人
如果你認為你的火箭有10%到20%的概率會爆炸並殺死你，你還會坐上它嗎？
馬斯克
會的。我們唯一能做的就是盡量減少出現糟糕結果的概率。我一直不願參與人工智慧或相關領域的工作。當初，OpenAI作為對谷歌的一種制衡力量而存在，因為當時谷歌幾乎壟斷了人工智慧領域的發展。而現在，Anthropic已經成為人工智慧領域的領導者。這些舉措實際上加速了人工智慧的發展，而那並非我的初衷。看起來一切似乎都指向了人工智慧的進一步發展。於是我就想，好吧，你可以對此感到難過，或者加入這個行列——而你顯然已經加入了。
主持人
如果無法擊敗他們，那就加入他們吧。據了解，其他一些模型研發領域的領導者也在努力尋找方法來降低風險。就在上週，Demis Hassabis提出了一個關於建立公私合作監管機構的建議。你覺得你們應該更加積極地參與這件事嗎？為了控制這些風險，我們是否可以採取一些措施呢？
馬斯克
是的，我對Demis的建議是：在我們發表他的文章之前，我和他進行了幾小時的交談。我們認為，最緊迫的做法就是讓那些領先的AI公司至少定期舉行會議或交流，討論任何與安全相關的問題，每隔幾週進行一次。你為什麼還沒有這麼做呢？我的意思是，你們之間並不都彼此喜歡，你們畢竟都在競爭，都想成為第一名。
馬斯克
不過，我覺得，這種競爭可以促使人們保持誠實。對於那些沒有深厚技術背景、不引領人工智慧前沿發展的政府官員來說，要判斷某個模型是否應該被發布，確實很困難。但是，對於競爭對手來說，只要給他們一兩週的時間來審查一個新模型，就能發現其中的問題，從而激勵所有競爭對手保持誠實。這樣，模型創作者就可以互相檢查彼此的工作。如果有什麼讓他們擔心的事情，他們就可以告訴政府，政府就能判斷出是否有什麼問題需要解決——如果那家公司並沒有採取任何措施來應對這一風險，那麼就是政府應該介入並採取行動的時候了。
應該立即採取行動。人們一直告訴我，必須在未來六個月內建立起這樣的系統，因為模型的改進速度越來越快了。六個月的時間確實很長，應該縮短這個時間。現在有太多關於人工智慧的突破性進展了，有時候一天內就有好幾個，上週就有很多。
主持人
所以，你們需要現在就聚一聚，把這件事安排好。聽起來你是在告訴我這一點。
馬斯克
是的，我建議至少定期舉行一些非正式的會議，比如每週或每兩週一次。這樣就能確保有那麼一兩週的時間可以提前存取相關內容。
馬斯克
這就是為什麼我認為這種激勵機制有效——競爭激烈的公司們能夠意識到某些東西可能屬於安全風險，因此他們不會猶豫地指出，應該推遲發布競爭對手的模型。
主持人
你們彼此不太喜歡對方，也缺乏信任，在社交媒體上經常互相攻擊。所以，你認為自己能這樣對待那些自己不喜歡的人嗎？這些領導者之間確實存在個人恩怨。
馬斯克
我不喜歡山姆·奧特曼，是因為OpenAI原本是一家旨在實現開源的人工智慧公司，原本應該是屬於全世界的公司。然而，不知怎麼的，它變成了一家價值8000億美元、採用閉源技術的盈利公司。我覺得這完全違背了我當初捐錢的目的，這是我非常不滿的地方。另外，達里奧也不喜歡薩姆·阿爾特曼，實際上，Anthropic團隊離開OpenAI的原因就是他們不信任山姆·奧特曼，否則他們現在應該還在OpenAI工作。
馬斯克
我覺得達里奧是個非常有原則的人，他很關心各種事情，也關心世界的未來。到目前為止，我在Anthropic遇到的每個人都是如此，沒有人讓我覺得他們有惡意——他們看起來都是出於好意。通往地獄的道路往往是由善意鋪成的，雖然也有少數人是出於好意，但我們不能掉以輕心。不過，如果真的需要討論的話，那我們就討論吧。為了世界的利益，讓我們把個人之間的分歧放在一邊吧。