來源:環球時報
【環球時報記者 陳子帥 環球時報特約記者 李靜】編者的話:近期在上海參加2025世界人工智能大會時,諾貝爾物理學獎得主、有“人工智能(AI)教父”之稱的著名學者杰弗里·辛頓發表演講,對數字智能是否會取代生物智能進行探討。同樣出席這場大會的加州大學伯克利分校計算機系教授斯圖爾特·羅素則表示,不希望數字智能取代生物智能。什么是數字智能?什么是生物智能?兩者有哪些區別?能否共生?近年來,隨著AI的快速發展,不少學者和媒體都對此進行了討論。
“源于進化”VS“人類設計的產物”
1947年出生于英國的辛頓目前在加拿大多倫多大學擔任計算機科學名譽教授。2018年,因為在深度學習方面的貢獻,他與其他兩位學者共同獲得圖靈獎。6年后,他因“通過人工神經網絡實現機器學習的基礎性發現和發明”而獲得諾貝爾物理學獎。去年2月,辛頓在英國牛津大學就發表過關于數字智能是否會取代生物智能的演講。他當時提出,如果數字超級智能想要奪取控制權,“我們很可能無法阻止”。
根據美國Medium新聞網發表的一篇文章,生物智能源于生物大腦中復雜的神經元和突觸網絡,涵蓋了廣泛的認知功能,包括學習、記憶、解決問題和情感理解。這種智能的特點是具有適應性,能讓生物體以復雜的方式與環境互動并適應環境。人類大腦擁有約860億個神經元,是生物智能的巔峰,具備抽象推理和創造能力以及自我意識。而數字智能,即AI,是人類設計的產物,通過算法、數據和計算模型創建而成。它旨在模仿甚至超越人類的認知功能,應用范圍從執行簡單任務到解決復雜問題,再到參與決策等。
2024年5月30日,男子在瑞士日內瓦國際電信聯盟“人工智能造福全球峰會”期間觀看機器人。(視覺中國)
深圳市人工智能與機器人研究院具身智能中心主任劉少山告訴《環球時報》記者,生物智能源于進化,是經過億萬年生物優化的結果,特別是人類與動物的大腦演化使其能夠通過少樣本快速適應復雜情境,并在不確定環境中做出判斷。不過,它運算速度較慢、記憶有限、容易受生理狀態或情緒影響。相較之下,數字智能是通過人工設計的計算系統所展現的智能形態,它以算法驅動、數據訓練為基礎,通過并行處理實現高速記憶與推理。數字智能的優勢在于計算速度極快、記憶幾乎可無限擴展、易于復制部署且無疲勞,但它缺乏意識與自主主觀感受,當前也缺乏成熟的自我進化機制。
辛頓在2025世界人工智能大會的演講中提到數字智能和生物智能的相似之處。他稱,人類和大語言模型理解語言的方式幾乎是一樣的,所以人類“有可能就是大語言模型”,人類也會和大語言模型一樣產生“幻覺”,創造出很多“幻覺語言”。
美國麻省理工學院網站2023年發表的一篇文章稱,辛頓認為,AI的強大之處還體現在它能處理海量數據,且能從數據中發現人類無法察覺的趨勢。這就好比一位接診過1億名患者的醫生,會比只接診過1000名患者的醫生有更多發現。辛頓說,像GPT-4這樣的大型語言模型采用了類似人腦神經元連接結構的網絡,且已開始具備常識推理能力。此外,這些模型能夠持續學習,且知識共享極為便捷。“只要其中一個模型學到東西,其他模型也會知曉。”辛頓說:“人類卻做不到這一點。如果我學到了大量量子力學知識,想讓你也掌握,那需要一個漫長而艱難的過程。”
“末日論者”VS“有效加速主義者”
麻省理工學院網站發表的文章稱,過去辛頓曾長期認為,計算機模型的能力不及人類大腦,但現在他將AI視為一種相對緊迫的“生存威脅”。
在2025世界人工智能大會上,辛頓將AI的發展比喻為“養虎”,“如果養老虎當寵物,它剛出生時很可愛,但如果養大了,你得確保它不會把你吃掉”。他強調,AI不像老虎那樣可以被消滅,因為這項技術已廣泛滲透全球各行各業。
2023年,辛頓表示,最糟糕的情況是人類很可能只是智能進化過程中的一個過渡階段:生物智能研發出數字智能,而數字智能可以吸收人類此前創造的一切,并開始直接體驗世界。“它們可能會讓我們存在一段時間,以便維持發電站的運轉,但之后或許就不允許我們存在了。”他補充道,“我們已經找到了創造不朽生命的方法。這些數字智能在硬件損壞時不會消亡。只要能找到另一臺可以運行相同指令的硬件,它們就能‘復活’。所以,我們擁有了不朽,但這并不屬于我們”。
據英國《金融時報》等媒體報道,辛頓認為,未來,AI有10%到20%的可能會毀滅人類。在他看來,數字智能存在兩個主要風險:一是壞人會將這項技術用于不良目的,如大規模虛假信息傳播、網絡戰和機器人殺手等;二是這些AI模型也可能以危險的方式進化,發展出控制欲。這位被稱為“AI教父”的科學家還提醒說,AI還可能學一些不好的東西,例如通過閱讀小說來學會如何操控人類,“即便它們不能直接動手,也肯定能讓我們按它們的意愿行事”。
辛頓是AI發展“末日論者”或者“減速主義者”的代表。據美國消費者新聞與商業頻道網站報道,對于AI的發展,科技界存在兩個派別,其中之一被稱為“末日論者”或者“減速主義者”,另一派則被稱為“技術樂觀主義者”或者叫“有效加速主義者”。
“末日論者”或者“減速主義者”希望放慢AI的發展速度,他們最大的擔憂是AI的對齊問題,即當AI超越人類智能、人類無法控制AI時,應該如何應對。2023年,美國非營利組織未來生命研究所發表公開信,呼吁立即暫停訓練比GPT-4更強大的AI系統至少6個月。業內專家、包括馬斯克在內的科技大佬等上千人在信上簽名。他們就是“減速主義者”。有“AI對齊大師”之稱的羅素也簽署了上述聯名信。他表示,AI失控可能導致“文明終結”級別的嚴重后果,因此人類要像監管核能一樣監管AI。
“有效加速主義者”則支持AI的全速發展,該運動的創始人是曾在谷歌等多家美國科技巨頭工作過的弗登,他也創建了自己的科技初創公司。“有效加速主義者”的代表性人物還包括美國“科技右翼”人士、風險投資家安德森,他曾撰寫《技術樂觀主義者宣言》。這是一份5000多字的聲明,闡述了科技將如何賦予人類力量并解決人類所有的物質問題。
《金融時報》稱,對于AI是否最終將超過人類,部分研究人員認為生成式AI不過是昂貴的統計把戲,所謂生存威脅純屬“科幻妄想”。美國著名學者諾姆·喬姆斯基稱,人類擁有與生俱來的“操作系統”理解語言,而這正是機器所缺乏的。美國“元”公司的首席AI科學家楊立昆(Yann LeCun)2018年與辛頓一起獲得了圖靈獎。他認為當前的AI系統比貓還笨,相信它們會主動或被動威脅人類“是荒謬的”。
相容共存,發展“共生智能”?
“這觸及了人類對意識、主體性與進化的理解邊界。”劉少山認為,關于數字智能是否會取代生物智能的討論,表面上是技術路線的分歧,實質上是對智能本質與生命價值的根本判斷差異。他介紹說,辛頓的觀點建立在一種“功能主義智能觀”之上,即認為只要信息處理系統具備足夠的復雜度與組織能力,就有可能在未來某個點涌現出意識或類似意識的系統狀態。
與“功能主義智能觀”對立的是“存在論智能觀”。劉少山稱,后一種觀點認為意識并非信息處理的副產品,而是一種與生命體驗、情緒、道德判斷密不可分的現象。僅靠算法堆疊和數據擴展,無法構建出具備倫理自覺、自主演化與長期責任感的“智能生命”。
劉少山說,這場爭論的延伸邏輯在于如果數字智能未來真的演化出自我意識,那它是否具備繼續自我演化的能力?一旦形成自主進化體系,其目標函數是否仍與人類對齊?是否存在“技術物種”的分叉?這正是所謂“智能分裂點”的倫理恐懼來源:當智能系統有能力拒絕人類指令時,它是否仍是“工具”?還是一種新型競爭智能的誕生?
面向未來,人類應如何平衡生物智能和數字智能?據美國“商業內幕”網站報道,羅素2019年出版了《人類兼容:人工智能與控制問題》一書,探討了隨著機器日益智能化,人類與機器如何共存的問題。他認為,解決之道在于設計不能確定人類偏好的機器,這樣它們就不會將自身目標置于人類目標之上。辛頓則認為沒有一個國家能夠獨自應對相關風險,因此呼吁進行國際合作。
賽迪研究院未來產業研究中心人工智能研究室主任鐘新龍告訴《環球時報》記者,對AI發展方向的研判,首先必須建立在對“智能”本身審慎、開放的認知之上。“智能”并非一個已經形成共識的純粹技術概念,其本質至今仍是哲學、腦科學與計算機科學共同探索的領域。將生物智能與數字智能簡單對立,并由此推演“取代”或“被取代”的終局,可能忽略了智能形態的多樣性與復雜性。鐘新龍表示,必須清醒地認識到當前公眾和部分討論中對“硅基智能”的認知,在一定程度上受到了科幻作品的影響,陷入“販賣焦慮”的陷阱,將其想象為一個無所不能、全知全能的抽象存在。
鐘新龍認為,在AI發展問題上必須堅持統籌發展和安全的戰略思想,以動態平衡的智慧駕馭機遇與挑戰。缺乏遠見的“無憂患意識”和脫離實際的“過度憂患意識”都是需要警惕的傾向。當前,我國正處在構建新發展格局、推動高質量發展的關鍵時期,深入推行“AI+”行動,以AI賦能新型工業化、加快形成新質生產力,是關系到國家長遠競爭力的重大戰略。如果因為對遠期尚不清晰的理論風險過度憂慮,而采取過于超前的限制性措施,很可能延誤甚至錯失寶貴的發展窗口期,對我國現代化產業體系的構建造成遲滯。因此,在AI治理格局的構建中,必須秉持“包容審慎”的原則,為技術創新和產業應用保留充足空間。
美國學者薩拉夫在其博士論文中提到,生物智能可以和AI相容共生,發展“共生智能”。這位學者提到,將生物智能融入我們的系統,或許會成為徹底改變AI格局的關鍵突破。試想這樣一個未來:這種融合催生出的AI工具極為先進,不僅能加深我們對機器學習的理解,還能讓我們對自身生物學有更深刻的洞察。通過輸入生物信號并利用細胞和神經元的智能,我們可以創造下一代AI。這些系統不僅更智能,還能與生物體的自然智能更和諧地融合。
Medium新聞網發表的文章稱,當我們探索智能與創造力的復雜領域時,很明顯生物智能和數字智能在創造力方面都具有獨特優勢。人類創造力充滿深度、情感和直覺,而數字智能則具備精確性、速度和處理海量數據集的能力。未來可能在于利用這些互補的優勢,培育一個協作的生態系統。在這個系統中,人類和AI的創造力不僅共存,還能蓬勃發展,不斷突破創新和藝術表達的界限。