人类制造的最后一台机器？

□ 尹傳鴻

史蒂芬·霍金，一位著名物理學家，半個月前去世，他在他的專業領域之外有兩個驚人的理論：一個是他主張不主動接觸或接觸外星人，另一個是警告人工智能可能最終毀滅人類。對于第一個話題，大多數人認爲這位科學明星太“科幻”了，不是特别嚴肅。第二個話題似乎是正确的，因爲比爾·蓋茨和埃隆·馬斯克等大人物的呼應和支持。

事實上，叫賣AI不止一次地吓唬人。2014年5月，他和包括諾貝爾獎獲得者弗蘭克·威爾切克（Frank wilchek）在内的幾位著名科學家在《英國獨立報》（British independent）上聯合發表了一篇文章，警告人工智能的快速發展，創造一台真正有思維的機器“将是人類曆史上最大的事件”。一台超出人類智能水平的計算機可能“超越人類研究人員的發明和人類領導者的控制能力”。将所有這些視爲科幻小說“可能是我們曆史上最嚴重的錯誤”。

擁有機器人學博士學位的美國作家丹尼爾·威爾遜（Daniel Wilson）出版了一本科幻小說《機器人啓示錄》，生動地描述了幾年前機器人對人類發動的戰争。在小說中，一個看似簡單的嬰兒形狀機器人ACOS教給制造他的人：“你們人類隻是一台生物機器，旨在創造更多的智能工具。你們已經到達了你們物種金字塔的頂端，……你們的最後期限已經到了。你們已經完成了所有你們被設計用來完成的任務。”

自從20世紀40年代計算機發明以來，人們對機器寄予厚望。大多數人工智能的先驅并不認爲他們的職業生涯會有危險。然而，“計算機科學之父”英國著名數學家艾倫·圖靈，早在1951就表達了一種擔憂：“一旦思維開始，就不需要太長的時間來超越我們脆弱的人類……他們可以通過交流來增強他們的思維。因此，在一定的階段，我們将不得不考慮機器控制世界的問題。”

美國應用數學家、信息論創始人諾伯特·維納是第一個預見到信息技術雙重可能性的人。在二十世紀中旬的計算機時代開始時，威納描述了我們未來的一個可怕場景：…如果我們轉向制造機器，這些機器可以學習，它們的行爲可以通過經驗得到糾正，那麽我們必須面對這樣一個事實：我們給予機器的任何程度的獨立性都可能導緻對我們自己意願的抵制。從瓶子裏跑出來的酒精不會自願回到瓶子裏。同樣，我們沒有理由期望他們對我們好。

英國數學家歐文·約翰·古德可能是第一個清楚解釋人工智能未來的人。1965年，他指出，我們将超智能機器定義爲具有超越所有智能人類的智能活動的機器。一旦機器設計成爲一種智能活動，超級智能機器就可以設計出更好的機器。毫無疑問，将出現“情報爆炸”的局面，人類的情報将遠遠落後。因此，第一台超級智能機器将是人類制造的最後一台機器，如果機器不夠順從并告訴我們如何控制它的話。

在關于第一台超級智能機器的推測中，古道爾還談到了科幻小說：“這本書的内容對一些讀者來說可能是荒謬的，但對作者來說，它是真實而緊迫的。它不僅僅是科幻小說的内容，應該受到重視。”

許多行業專家非常重視超智能機器。美國發明家和未來學家雷·庫茲韋爾（ray Kurzweil）于2005年出版了《奇點逼近：當計算機智能在2045年超越人類時》一書。他在書中解釋的“奇點”吸引了很多關注和廣泛影響。這是一個英語單詞，表示獨特的事件和奇怪的影響。數學家用這個詞來表示一個超過任何極限的值，比如除以一個越來越接近零的數字，結果會急劇上升。

據說奇點最早是由計算機的重要創始人之一馮·諾依曼提出的，并将其表達爲一種撕裂人類曆史結構的能力。美國計算機專家和科幻小說作家維諾·芬奇（Verno Vinci）用這個詞來描述科學技術的無情和快速發展最終将達到的一種關鍵的聚合狀态。

關于創新技術的神奇想法聽起來像科幻小說，但它們總是如此。在我們創新科技的浪漫故事中，風險和收益總是并存，并且總是在好與壞之間保持平衡。似乎不可避免的是，我們不久将與前所未有的事物共享地球。這真是一件不可思議的事，有着超凡的智慧。〔1002〕〔1000〕我們下一步該做什麽？