AI需要意識嗎?

為什麼大腦會產生意識? 中,我解釋了為什麼人類大腦需要意識。那麼AI需要意識嗎?

從計算的角度看,意識及注意力系統的作用是在思維過程中對自身狀態與資源進行監控,以及對關鍵思維資訊進行篩選,當我們設計AI時,只需要從這個角度思考即可。

具體而言,AI在思維過程中,只需要能夠即時篩選出當前思維過程中最重要的部分,適時地切換“主執行緒”,就可以持續不斷地執行下去。(注意:在基於神經網路的AI的實際思維過程中,是不存在主執行緒、子執行緒的說法的,這裡只是為了便於理解。)

結合了人腦產生意識的原因,我們就可以理解,採用現有電腦硬體創造出的AI是不需要產生意識的, 除非我們想要AI完全類比人腦運行方式。生物神經元的生理特點導致了只能維持一個主要的思維任務,多個思緒可能會互相干擾。但基於電腦硬體的人工神經元無此限制,記憶體中資訊一旦形成就可以隨意讀取,不需要持續地佔用資訊傳輸通道。另外通過某些設計,如果AI可以將神經網路與傳統資料存儲系統結合,可以很容易地確保資料不會彼此干擾、覆蓋。

總之,AI可以同時運行多個思維任務而不必擔心思維任務之間彼此干擾,除非是思維任務之間主動地施加影響。AI可以進行大規模並行思維,這點是它們的巨大優勢。人腦也可以進行一定程度的平行計算,比如所謂的潛意識,但是人腦這種並行思維能力非常有限。

 

我發現很多AI科學家對意識投入了過多的關注,而如前所述,我認為從應用的角度來說這實際是不必要的,甚至可能干擾人們對AI的理解。在動態秩序論中,高智慧的AI是最核心、最重要的社會改革的前提,在政治領域,需要由AI替代人類官員;在經濟、福利、教育等領域的種種改革,都需要由AI提升整個社會的生產力。因此, AI科學家們應該將解決具體問題作為其研究的核心目標,而非類比人類的思維過程。

更進一步說,保留人類思維的獨特性,也更好地維持了人類存在的意義,使得人類可以與AI更和諧地共存。反之,如果AI技術過早地模擬人腦,很可能破壞人類社會現有秩序,其結果很難預測,我們必須要謹慎。

 


關於智道

智道(iDao)致力於培養民智,以及推廣動態秩序論動態秩序論是一種面向未來的極簡化哲學,其意義在於為全人類提供一種基礎性的社會發展共識。