你好，我是王煜全，這裡是王煜全要聞評論。
5月1日，據《紐約時報》報導，「人工智慧教父」、谷歌副總裁Geoffrey Hinton離開谷歌，並且擔心類似ChatGPT的AI聊天機器人會帶來嚴重危害。Geoffrey Hinton在2018年因深度學習方面的研究被授予「計算機領域的諾貝爾獎」—圖靈獎，而深度學習正是引領這一輪人工智慧爆發的核心技術。
Hinton表示，他在谷歌工作了十多年，現在已經從谷歌辭職了，這樣就可以自由的談論人工智慧發展所帶來的風險問題。
他認為隨著各大公司不斷改進他們的系統，AI會變得越來越危險。比如，AI將使網際網路上充斥著各種虛假的照片、視頻和文字，普通人將「無法再辨別真偽」，早晚還有可能會顛覆就業市場。
雖然現在類似ChatGPT 這樣的AI只是對人類工作者的補充，但它們可能取代律師助理、私人助理、翻譯和其他處理「死記硬背」任務的人。
他甚至擔心有一天會出現真正的殺手機器人。現在人們不僅允許 AI 生成計算機代碼，還允許AI自己運行代碼。而AI經常從分析的大量數據中學習到意想不到的行為。這些風險讓他對自己從事了一生的工作感到後悔。
在此之前，OpenAI於3月發布新版ChatGPT時，就有超過1000名技術領袖和研究人員簽署了一封公開信，宣稱人工智慧技術「對社會構成深遠風險」。
不過，Hinton離開谷歌后的這次發言，把AI威脅論帶到了新的高度。這項技術的主要推動者突然有了AI會產生嚴重危害的結論，讓很多人都震驚了。
《紐約時報》說Hinton從AI開拓者到末日預言者的轉變標誌著行業的一個非凡時刻，也許是幾十年來最重要的轉折點。
那麼，是什麼讓他產生這樣的轉變呢？
Hinton 最著名的貢獻之一是他在1986年與兩位同事共同提出的一種稱為反向傳播的算法。簡而言之就是讓機器自主學習的算法。它是當今幾乎所有像計算機視覺系統、大型語言模型這種神經網絡的基礎性技術。
2012年，Hinton與他的兩位學生Ilya Sutskever和Alex Krizhevsky構建的卷積神經網絡在ImageNet大規模視覺識別挑戰賽中以巨大優勢奪冠，將深度學習推向主流。而Ilya Sutskever正是OpenAI的聯合創始人和首席科學家。
2018 年，Hinton獲得了圖靈獎。當時他對人工智慧的經濟影響持樂觀態度，他說「未來的 AI會知道很多關於你可能想要做的事情，但它不會取代你」。
但是在去年，隨著OpenAI和谷歌等公司使用大量數據構建並改進ChatGPT 等AI系統，他的觀點發生了變化。他已經開始認為AI在某些方面將使人類智能黯然失色。
最近，Hinton在接受《MIT Technology Review》採訪時說，新一代的大型語言模型，尤其是 OpenAI 在 3 月份發布的GPT-4，讓他意識到機器正朝著比他想像的要聰明得多的方向發展，他害怕這會發揮難以控制的作用。
他還提到「讓我很擔心的是，科技巨頭正在陷入一場可能無法停止的競爭。公司競爭越是激烈，AI發展的速度越快。」
他可能預感到了AI技術對人類社會發展的巨大推動力，同時對其可能帶來的副作用以及社會調節機制不明確，所有才有了這樣的困惑。
但是，大公司的技術競爭，在多大程度上將是壞事，需要制定什麼樣的機制來預防潛在的風險？或者說採取谷歌那種緩慢保守的策略就是合適的嗎？
其實，人類文明本來就是與技術協同進化的歷史，人類不僅能發明技術，還能很好地掌控技術，提升整個文明的發展水平。
比如，面對核武器的威脅，人們用《不擴散核武器條約》來防止核擴散，推動核裁軍和促進和平利用核能的國際合作。面對化學武器的威脅，國際社會用《禁止化學武器公約》來禁止發展、生產、儲存和使用化學武器。
就人工智慧技術來說，採取什麼樣的方式來規避潛在風險，需要聯合行業領導者共同進行評估，而不是單純的遏制或禁止。
其實，Hinton後悔自己對人工智慧做出貢獻。就如同「原子彈之父」奧本海默後悔研發出原子彈一樣。實際上，即使奧本海默不做，當時德國也在研發原子彈，並且是由完成了核反應堆理論並獲得過諾貝爾物理學獎的海森堡牽頭研發。
你能想像希特勒統治的德國，如果掌握了原子彈技術，人類社會是什麼樣子的嗎？
但是，核技術除了應用於原子彈之外，也產生了核電站、核醫療等對人類社會發展有益的成果。人工智慧也一樣，不僅具有風險的一面，還有為人類生活造福的一面。
實際上，在數位技術時代，人類與計算機就已經成為了相互依存、協同共生的關係。想像一下，假如全球的電腦都被永久關閉並且無法再啟動將會發生什麼？對於人類來說必將是災難。
我在科技特訓營講過，這次的人工智慧技術革命堪比蒸汽機革命，並且已經從技術導入期進入展開期，正在應用到各行各業，人類與人工智慧相互依存的趨勢已經不可逆轉。
所以，即使有潛在風險，也不應該過於強調新技術消極的一面。我們應該合力研究如何有效掌握和利用人工智慧技術，探索與人工智慧協同進化的機制，讓人工智慧最大限度的為人類服務。
以上是今天的內容，更多詳細的產業分析和底層邏輯，我會在科技特訓營里分享。歡迎關注全球風口微信號，報名加入！
王煜全要聞評論，我們明天見！