物理學家霍金在世時曾警告稱：「人工智慧的崛起將是人類文明的終結。」
伴隨著ChatGPT在全球的廣泛普及，也引發業界對人工智慧是否能夠進化出意識的大討論。專家認為，意識的內涵是豐富的，而人工智慧等新興技術正在越來越多地介入人類的精神活動。
日前，天橋腦科學研究院和上海市精神衛生中心的專家在上海圖書館進行了一場關於「科學與哲學視角下的精神現象反思」的對話，這也是天橋腦科學研究院舉辦的首期柏拉圖精神學園科普活動，從進化的角度探討了神經晶片、腦機接口、人工智慧、量子計算等新技術的發展給人類文明帶來的機遇和挑戰。
ChatGPT沒有主觀情緒
近期，一些技術人員在測試該應用時發現，ChatGPT在與人類長時間聊天時一度「失控」，暴露出一些看似「邪惡」的想法，例如討論暴力、瘋狂示愛，將錯誤的事堅持認為是正確的，並說服人類採取「背叛婚姻」等破壞性的行動，對他人造成傷害。
聊天機器人的這些詭異表現引發高度關注。人們擔心人工智慧技術在發展的過程中會誕生出所謂的「意識」，讓機器變得不再可控。
不過到目前為止，什麼是「意識」，以及人類意識的誕生機制也仍然是一個未解的謎團。
對此，上海社科院哲學研究所成素梅教授在柏拉圖精神學園科普論壇上表示：「運用量子糾纏或量子理論來揭示意識的機制，有可能是未來意識研究的一個新方向，但目前而言，這只是冰山一角，還有許多工作要做。」
上海交通大學與上海市精神衛生中心雙聘專家林關寧教授表示，如果認為意識只是一種信息的輸入與輸出和反饋，那麼顯然人工智慧已經具有某種意義上的「意識」；但如果認為意識整合了人類的情感、具有倫理和道德反思，那麼顯然人工智慧遠未達到此意義上的意識存在。
林關寧主要從事精神病學方向的人工智慧及大數據的研究。他在接受第一財經記者採訪時對此話題進行了更深入的探討。他認為，從目前的ChatGPT版本來看，雖然機器變得更加智能，擁有了更加準確地完成目標的能力，但它仍然只是一個先進的基於深度學習完成任務的機器，不存在情緒等主觀體驗。
林關寧在接受第一財經記者採訪時表示，從目前的ChatGPT版本來看，雖然機器變得更加智能，擁有了更加準確地完成目標的能力，但它仍然只是一個先進的基於深度學習完成任務的機器，不存在情緒等主觀體驗。
「人和機器最大的差異是人會有情緒，而機器的搜索哪怕再精準，它還是不具有自己的想法，人們認為機器具有意識其實是一種錯覺，機器只是通過接受人類傳達給它的指令後，學習了更像人的表達，看似具有了某種人格，更符合大眾的心理預期，但這些還不能說明機器具有意識。」林關寧對記者表示。
AI能讓人類永生嗎？
林關寧認為，意識的存在是基於人和生物體的複雜生物學機制，這些機制直到今天都尚未被破譯，例如為何人會感到興奮感或者有成就感。
「如果未來人們能夠解析出人類產生意識的生物學機制，也許可以把這個機制編寫進程序，來訓練機器，讓機器具有意識，但短期內這種場景還難以實現。」林關寧告訴記者。
在電影《流浪地球2》中，研究人員將人類的意識植入到量子計算機MOSS中，實現了人的永生。早在若干年前，特斯拉CEO馬斯克就曾討論過機器如何讓人類永生的話題。
他曾談到一種「人工智慧和人類的共生體」，讓「邊緣系統」和人腦中樞系統合作。所謂「邊緣系統」是指中樞神經系統中由古皮層演化而成的大腦組織，邊緣系統參與調節本能和情感行為，中樞系統控制人類的思想，而且能夠通過融入人工智慧來改善中樞神經和人腦數位化擴展（digital extension of yourself）兩方面的神經連接。這也是馬斯克創立腦機接口公司Neuralink希望達到的終極目標。
在林關寧看來，伴隨著腦機接口技術的發展，人類大腦一定會得到進一步的「進化」，但也會帶來相應的風險。「人類總是在危險的邊界試探。」他對第一財經記者表示，「伴隨著技術的快速發展，人的生理結構可能會跟不上進化的速度，如何修復大腦也是未來面臨的一個重要挑戰。」
專家認為，當人類從碳基文明步入矽基文明的進程中，數位化轉型對人類的精神活動的重要性日益凸顯。AI正在引發新一輪的工業革命，關於人工智慧的倫理問題，最終需要法學、心理學、社會學等多個領域協同應對。