問題

Will artificial intelligence replace humans?

人工智慧會取代人類嗎？

狼來了的故事

人類高坐在地球生態鏈之巔，作為一個成功的物種，其實沒什麼太多的眼前的煩心事。能說的上來的都並沒那麼迫切。

• 家園危機

全球變暖，溫室效應。

• 能源危機

化石能源枯竭，於是寄希望於新能源。

• 自我危機

被其他物種取代，好吧幾乎不可能了，但人工智慧是一個。

其實能源危機里有兩個狼來了的故事：

第一個是化石能源枯竭，但那些石油，天然氣又總是有意外的儲量增加，讓人類苟延殘喘。

第二個其實不是狼來了，是狗來了（狗算朋友吧）：可控核聚變，核能是宇宙和人類的終極能源。核聚變的著名笑話就是「距離實現可控核聚變,永遠只差30/40年」。

人工智慧威脅論，在人工智慧技術起起伏伏中不斷的出現。這頭狼，來還是不來？還是永遠跟人類玩若隱若現的遊戲？

人工智慧-超越人類而非取代人類

人工智慧超越人類是必然的，圍棋作為人類的智慧遊戲巔峰，已經被超越了。

當然圍棋程序是專有算法，通用算法還不行。（參考另外一個關於智慧機器人無法開普通門把手的笑話）。

但通用算法也是算法，人類能做的，機器都能做。人類智能全方位被超越是遲早的問題。

既然能超越人類，那能否威脅人類呢。

解決方案：直面人工智慧威脅論

其實從以上討論，人工智慧威脅論是無法用邏輯駁倒的。人類最自豪的「智慧」被超越，那人工智慧威脅人類也是自然的。

我這裡不打算痛斥這一理論，給人類以虛幻的安全感（雖然也可以水一通）。

方案就是：讓人工智慧逐步在人類監督下逐步進化為「文明」的智慧物種。其實不難：

• 要點1：慢一點

人類不斷的發明劃時代的戰爭武器，為什麼還沒有自相廝殺到滅亡。因為人類還不夠快，當一件武器威力足夠毀滅地球，但人類自身又無法了解/掌控，那就充滿危險。比喻一下就是：偶然拿到手榴彈的兒童。

• 要點2：教化人工智慧

在人類的文明環境中，其實已經有很多和平的種子。人類雖然偶爾出幾個戰爭狂人，但總體可控。事實上這些和平也是在不斷戰爭的重複博弈中達成的平衡。只要給人工智慧以人類文明的和平要素，就不會完全失控。

到時候就跟人類一樣，一兩個人工智慧的戰爭狂人，會被更多愛好和平的人工智慧制衡。

以上兩點，其實不用太刻意，因為人類已經在這麼做了：

人工智慧其實進展的並不快（專用算法上下棋贏過人類，並沒有想像的那麼有價值，要我說幾十塊錢的計算器幾十年前就能贏人類了），而且也人類也一直很警惕（就不提機器人三原則了）。

最終，「文明的」人工智慧將大概率人類共存。其實即使人類滅絕，人工智慧作為人類文明的延續，人類也應欣然接受。

上帝：人類自身的智能，也是人類通過教育和學習養成的，不也是「人工」的嗎？

雲智熵：所有智能其實都是人類文明的產物。有的在大腦里實現，有的在計算機上實現。

上帝：大腦不也是一台廣義的計算機？

雲智熵：人工智慧/人的智能最終將無法區分，都是算法。