首頁 人工智能三部曲(全三冊)

25 可能出現什麽差錯嗎

擁有一個沒有疾病、貧窮、饑餓和戰爭的世界是人類亙古不變的夢想,也是我們即將實現的夢想。之所以會這樣想的理由簡單明了:人類勞動力因技術而倍增,這使繁榮得以不間斷地增長。無論財富分配多麽不平等,我們都將進入一個更富足的世界,甚至那些最貧窮的人也將豐衣足食。利用技術,我們也將解決所有的技術問題,擺脫疾病,提供充足的清潔能源,並解決我們共同麵臨的一係列問題。然而,人們因被來自世界各地的新聞所淹沒,往往對未來心懷忐忑。當人們被一遍又一遍地追問他們被謀殺或房子被闖入的可能性時,他們總會高估這些事件實際發生的概率。許多人將這種誤解歸咎於媒體,畢竟“五點新聞”總是在放廣告的前一秒播報,“稍後回來,我們會找出自來水裏有什麽正在殺死你”,但也不能說都是媒體的錯。還有另外一個原因,我們不擅長評估某些類型的風險:你被紐約人咬傷的可能性是被鯊魚咬傷的10倍;在北美,你被香檳軟木塞殺死的可能性遠遠大於被蛇殺死的可能性;而在美國,被運轉失靈的自動販賣機殺死的人比被熊殺死的人還要多。但你永遠猜不到這些。我們本能地知道要遠離響尾蛇,而不是自動售貨機;盡管幾十年來民用航空都很安全,但我們憑直覺錯誤地認為開車比坐飛機更安全。

人類偏好過分謹慎。對我們的祖先來說,神經過敏也是一種長處。把一塊石頭誤認為是一隻熊,然後逃走,總比把一隻熊誤認為是一塊石頭而留在原地要好得多。對恐懼的認知偏見並不總是壞事。

那麽未來我們需要擔心什麽呢?最明顯的挑戰是生物學。沒有什麽能阻止人們將“病原體”生物工程化。CRISPR基因編輯是如此簡單和廉價,小學生可以用100美元的工具包修改酵母基因。現有的病原體已經夠糟糕的了,但對其基因進行修修剪剪,可能會導致更可怕的情況。這種技術也可以用於製造種族武器,比如一種對具有特定種族血統的人影響病原體。此外,如果將其用在改變人類上,即使是意圖是善意的,也將帶來我們在本書中探索過的文化挑戰,還會給我們帶來生存的生物風險。最後,我們應該考慮生物學方麵更抽象的挑戰:我們之所以能夠發展人權的概念,隻是因為構成人的物質基礎是明確的。但是,如果在醫療設施中培育克隆人來獲取器官又怎麽樣呢?