人工智慧會拯救人類——還是終結人類?

本週,四位傑出的技術專家和超人類主義者就建立人工通用智慧(或稱 AGI)究竟會拯救人類還是毀滅人類展開辯論,人工智慧未來的尖銳分歧因此浮現。

由非營利組織 Humanity+ 主辦的座談會匯集了最直言不諱的 AI「末日論者」之一 Eliezer Yudkowsky(他呼籲關閉先進 AI 開發),以及哲學家兼未來學家 Max More、計算神經科學家 Anders Sandberg 和 Humanity+ 榮譽主席 Natasha Vita‑More。

他們的討論揭示了對於 AGI 能否與人類生存保持一致,或其創造會使滅絕不可避免的根本性分歧。

「黑盒子」問題

Yudkowsky 警告,現代 AI 系統從根本上來說是不安全的,因為其內部決策過程無法被完全理解或控制。

「任何黑盒子最終可能會遇到與當前技術極為相似的問題,」Yudkowsky 警告道。他主張,在安全開發先進 AI 之前,人類需要「非常、非常遠離當前的範式」。

人工通用智慧是指一種能夠在廣泛任務範圍內進行推理和學習的 AI 形式,而不是為文字、圖像或影片生成等單一工作而建立。AGI 通常與技術奇點的概念相關聯,因為達到該智慧水平可能使機器以超過人類跟進速度的方式自我改進。

Yudkowsky 指出哲學家 Nick Bostrom 推廣的「迴紋針最大化器」類比來說明風險。這個思想實驗描述了一個假設性 AI,它將所有可用物質轉化為迴紋針,以犧牲人類為代價來推進其對單一目標的執著。Yudkowsky 表示,增加更多目標並不會有意義地提高安全性。

提到他最近關於 AI 的書名「如果有人建造它,所有人都會死」時,他說:「我們的標題不是說它可能會殺死你,」Yudkowsky 說。「我們的標題是,如果有人建造它,所有人都會死。」

但 More 挑戰了極度謹慎能提供最安全結果的前提。他主張 AGI 可以為人類提供克服老化和疾病的最佳機會。

「對我來說最重要的是,AGI 可以幫助我們防止每個因老化而活著的人的滅絕,」More 表示。「我們都在死亡。我們正逐一走向災難。」他警告,過度克制可能會推動各國政府走向威權控制,作為在全球範圍內阻止 AI 開發的唯一方式。

Sandberg 將自己定位在兩個陣營之間,形容自己「更樂觀」,同時比超人類主義樂觀主義者更謹慎。他講述了一次個人經歷,當時他幾乎使用大型語言模型來協助設計生物武器,他將這一事件描述為「令人恐懼」。

「我們正達到一個放大惡意行為者也將造成巨大混亂的地步,」Sandberg 說。儘管如此,他主張部分或「近似安全」是可以實現的。他拒絕了安全性必須完美才有意義的觀點,並建議人類至少可以在生存等最小共同價值觀上趨同。

「所以如果你要求完美的安全,你不會得到它。從這個角度來看,這聽起來非常糟糕,」他說。「另一方面,我認為我們實際上可以擁有近似的安全。這已經足夠好了。」

對對齊的懷疑

Vita-More 批評了更廣泛的對齊辯論本身,主張這個概念假設了一種即使在長期合作者之間也不存在的共識水平。

「對齊的概念是一個盲目樂觀的計劃,」她說。「它永遠不會對齊。我的意思是,即使在這裡,我們都是好人。我們彼此認識了幾十年,但我們並沒有對齊。」

她將 Yudkowsky 關於 AGI 將不可避免地殺死所有人的主張描述為「絕對主義思維」,不為其他結果留下空間。

「我對所有人都會死這個籠統的陳述有意見,」她說。「作為一個未來學家和務實的思考者來處理這個問題,它不留下任何後果、任何替代方案、任何其他情境。這只是一個生硬的斷言,我想知道這是否反映了一種絕對主義思維。」

討論包括關於人類與機器之間更緊密整合是否可以減輕 AGI 帶來的風險的辯論——這是 Tesla 執行長 Elon Musk 過去曾提出的觀點。Yudkowsky 駁斥了與 AI 融合的想法,將其比作「試圖與你的烤麵包機融合」。

Sandberg 和 Vita-More 主張,隨著 AI 系統變得更強大,人類將需要與它們更緊密地整合或融合,以更好地應對後 AGI 世界。

「整個討論是對我們作為人類的現實檢驗,」Vita-More 說。