工程意識型 AI 所需的生物學原則

連結表格

摘要和1. 引言

1. 背景和歷史
2. 通往意識人工製品的路線圖
3. 隱藏的寶藏
4. 最終思考、致謝和參考文獻

3 通往意識人工製品的路線圖

表1是從我在圖1中的筆記重新打出來的。任何有幸參加過Gerald Edelman會議的人都會知道，他的思想如同連珠炮般地轟炸聽眾。或者，如他所說，像是「從消防水管中喝水」。沒有筆記或其他書面提示，Edelman快速地列出了通往意識人工製品的10個關鍵步驟。我盡我所能地跟上。這些步驟大致按照構建意識人工製品的順序呈現。前四個步驟是團隊已經取得一些進展的領域。剩餘的步驟是需要進一步研究的領域。我可以說，到目前為止，所列的步驟都沒有得到充分解決。然而，本文的目的不是回顧當前的技術水平，而是盡我所能地描述這些步驟。

\ 3.1 再入架構

\ Edelman的神經達爾文主義和神經元群體選擇理論(TNGS)的一個主要組成部分是再入信號[1]。之所以稱為再入，是因為它與反饋信號不同。神經元群體通過突觸連接雙向連結。具有特定特徵的不同群體可以通過這些連接共享信息。依賴經驗的可塑性選擇了這些群體之間的關聯。這些全局映射（見圖1的邊緣）最終產生了感知類別和行動計劃。

\ 在NSI工作的理論神經科學家創建了許多模型來測試這些想法，既在模擬中，也在物理機器人平台上實例化[2, 3]。通過這些模型，他們能夠展示特徵映射、通過同步性的綁定、記憶回憶和其他大腦特性。這些在我的筆記中被生動地稱為「摸索」。

\ 3.2 丘腦-皮質系統

\ 在一系列書籍中，Edelman描述了他的意識理論，該理論基於TNGS[4, 5]。正如他後來的一些出版物中所列舉的，這一理論的關鍵是動態核心的概念[6]。動態核心本質上是丘腦和新皮質之間的再入信號。動態核心的動態性對於產生有意識的思想或更高階的意識是必要的。

\ 在會議時，NSI的研究人員正在開發丘腦和新皮質的極其詳細的計算模型。這些模型顯示了睡眠-清醒週期，以及在有意識思想期間觀察到的其他大腦節律[7, 8]。在其中一個模型中，Eugene Izhikevich和Gerald Edelman能夠展示由於可塑性和動態神經元活動而形成的神經元群體[9]。

\ 3.3 價值系統

\ 價值系統是神經結構，對於生物體根據環境線索的顯著性或價值修改其行為是必要的。基於大腦的設備中的價值系統類似於神經調節系統，因為其單元在激活時顯示相位性反應，其輸出在多個途徑中擴散作用以促進突觸變化。

\ 價值系統首先由Karl Friston在NSI進行的理論工作中探索，當時該研究所位於紐約市洛克菲勒大學校園內[10]。每個基於大腦的設備都配備了一個價值系統，用於塑造行為並建立預測價值和觀察價值之間的關聯[11]。Edelman指出，價值可以傳達飢餓、恐懼和獎勵等信號，以及其他對行為主體顯著的信號。

\ 3.4 表型

\ 在NSI創建的機器人平台的情況下，表型由給定設備的物理設計組成。特別是，它是機器人的形狀或形態，以及板載傳感器的佈局和類型。Darwin系列自動機有一個基本形狀；值得注意的是，它們都是輪式機器人。但儘管它們的外部設計相對簡單，它們擁有廣泛的聽覺、視覺、味覺和觸覺傳感器。Darwin自動機的後期版本包括全向輪，以及關節手臂和腿部。

\ 有趣的是，Edelman指出表型需要是順應性的，並且必須包括本體感覺。通過柔軟材料和彈性的順應性是生物系統的一個重要特性。Edelman相信，本體感覺會導致自我和身體意識的概念。這些表型在當時不是我們設計的一部分，需要通過納入額外的機器人平台進行進一步研究。同樣值得注意的是，Edelman在會議結束時回到了觸覺的重要性。見圖1和表1的最後一行，我引用他說「任何傳感器都可以，但需要觸覺」。

\ 3.5 運動控制

\ Edelman的意識理論與行為和預期行動緊密相連。因此，在他看來（以及可能是參加會議的人看來）運動控制是創建意識人工製品的重要一步。特別是，Edelman提到了傳出副本和身體感覺。每次行動後，運動命令的副本被反饋到神經系統。這被稱為「運動傳出副本」。大腦使用運動傳出副本來檢查生成的行動是否產生了預期的感覺刺激和預期的身體位置。通過這種方式，代理可能產生身體感覺。

\ 同樣值得注意的是，Edelman特別指出基底神經節（在我的筆記中為BG）是運動控制的重要方面和意識的關鍵功能解剖特徵。因此，實現意識人工製品的關鍵步驟是納入基底神經節功能。基底神經節選擇行動並生成假定的運動序列。在我的筆記中，我寫道「原始語法」。Edelman認為，行動選擇和行動序列是邁向語言的第一步。他強烈支持語言植根於行動和運動控制的觀點。

\ 3.6 學習和記憶中的泛化

\ 在這段時間，NSI的研究人員正在構建海馬體和長期記憶的複雜模型[12, 13]。然而，這些模型很脆弱。它們無法將信息從一個任務轉移到另一個任務，也缺乏泛化能力。我發現有趣的是，直到今天，轉移學習和泛化仍然限制著AI系統。此外，在一生經驗中學習的能力仍然超出了當前人工系統的範圍。

\ 3.7 通信

\ 對於展示意識人工製品至關重要的是某種形式的準確報告。在語言之前，報告可以通過基於大腦的設備之間的通信實現（圖1中的BBD <–> BBD）。通過向另一個代理報告其意圖和狀態，代理顯示了一定程度的自我意識。同樣有趣的是推測，意識，特別是自我意識（或更高階的意識），可能在單一代理中不可觀察。相反，它可能需要社交互動。

\ 3.8 思想

\ 不幸的是，我對這一步驟沒有太多補充。我只能猜測，在這裡，Edelman暗示的是心理模擬和想像。這是動態核心理論的預測，在丘腦-皮質部分簡要描述，並在Edelman的著作中有更詳細的描述。

\ 3.9 語言

\ 再次，報告被提出作為創建意識人工製品的重要步驟。然而，Edelman明確表示，語言明顯比通信步驟中描述的通信更為複雜。語言是微妙的，充滿了情感、思想、意圖和行動。可以安全地說，Edelman認為，在意識人工製品中體現的語言，將遠超自然語言處理或僅僅通過圖靈測試。通過語言的準確報告需要證明代理具有與身體感覺和自我緊密相連的更高階意識形式。

\ 3.10 幼兒園

\ 類似於圖靈的理論和發展機器人學領域，Edelman提出，為了實現上述所有內容，意識人工製品需要接受某種課程。在給定模擬的初始化時加載這些特性太多了。更重要的是，意識與個體的經驗相連。這就是從經驗中學習和記憶變得至關重要的地方。此外，通信和語言對於與教師或照顧者互動是必要的，更不用說報告自己的意圖和狀態了。

\ 3.11 其他筆記

\ 在會議結束時，提出了一些實用問題。當時的一個限制因素是計算能力，這在今天仍然是一個約束。我不確定「必要的最小神經元」是什麼意思，這是我在筆記本中引用的。它可以被視為等同於計算能力。或者它可能與稀疏性和能量有關。生物學施加的代謝約束是Edelman在NSI內部會議中經常重新審視的話題。

\

:::info 作者：

Jeffrey L. Krichmar，認知科學系，計算機科學系，加州大學爾灣分校，爾灣，CA 92697-5100 (jkrichma@uci.edu)。

:::

:::info 本論文可在arxiv上獲取，採用CC BY 4.0許可證。

:::

\