(照片來自於 Youtube)
本文來自於：the guardian《The superhero of artificial intelligence: can this genius keep it in check?》，由 TECH2IPO 編譯，INSIDE 獲授權轉載。
現年 39 歲的 Hassabis 除了是一位國際象棋大師以外，還是一名電子遊戲設計師。由他一手創立的人工智慧企業「DeepMind」在 2014 年被 Google 以 6.25 億美元的價格收購。 Demis Hassabis 的父母都是新移民，他曾就讀於 Finchley 的綜合學校，後來分別在劍橋大學（Cambridge University）和倫敦大學學院（University College London）取得了計算機科學和認知神經學專業學位。同事紛紛表示 Hassabis 是一位很有遠見的管理者，他認為自己成功找到了一種能讓科學研究更具效率的方式，而且堅信自己是「 21 世紀阿波羅計劃」（Apollo）的領導者。 Hassabis的長相非常平凡，倘若在大街碰到你絕對不會再多看他一眼。但「互聯網之父」Tim Berners-Lee）卻堅信 Hassabis 是這顆星球上最聰明的人之一。
人工智慧技術已經來了？
人工智慧技術已經來到了我們身邊，我們時常接觸的 Siri 和 Android 設備上的語音助手就是最好的兩個例子。在短期內， Google 的產品將會成為 Hassabis 研究成果的最早受益者，儘管個性化產品，智慧化搜尋， YouTube 、智慧語音和臉部識別等領域在嚴格意義上並不屬於人工智慧的範疇。 「僅僅是軟體，對嗎？」 Hassabis 笑著說道，「反正就是一些能運作的東西。」
從更長遠的角度看來， Hassabis 正在開發的技術所覆蓋的範圍絕不僅僅是情感機器人和智慧手機，也絕不僅僅是 Google。不甘落後的 Facebook 、 Microsoft 、 Apple 等科技巨頭也在大肆吸納人工智慧領域的人才，這些公司已經在該領域投入了數十億美元。人工智慧技術所帶來的顛覆性勢必會超乎所有人的想像。
確實，這一切聽起來難免有種野心勃勃的感覺。絕大部分人工智慧係統都相對比較狹隘，預先編程完畢的媒介只能處理特定領域的任務，對其他領域則並不擅長。由此可知，儘管 IBM 公司的「深藍」（Deep Blue）能夠在圍棋上勝過世界冠軍 Gary Kasparov ，但它在「三子棋」遊戲中甚至不能打敗一個三歲的小孩。而這一次， Hassabis 卻計劃從人類的大腦中獲取靈感，期望打造出第一款面向多種用途而且可以自主學習的人工智慧機器。這款機器所使用的演算法非常靈活，足以適應周邊的環境，這意味著它完全可以像生物系統一樣進行學習。只需接觸到原生數據，它就可以從零開始學習技能。
這項技術被稱為「人工通用智慧技術」，重點在於「通用」二字。 Hassabis 認為，在將來具備超高智能的機器人將會和人類的專家聯手解決所有的難題。 「不論是癌症、氣候變化、能源、染色體、宏觀經濟、財務系統還是物理範疇，我們需要掌握的系統正變得越來越複雜。」他表示，「面對無窮無盡的訊息，即便是最聰明的天才窮盡一生也很難處理完畢。在這種情況下，我們應該如何在資訊的汪洋中篩選出有用的訊息，以幫助我們解決問題呢？所謂的人工通用智慧技術，其中一個用途就是將沒被結構化的數據轉化為可用訊息。我們所研究的是為所有問題的源解決方案。」
萬能的源解決方案距離我們或許還有數十年之久，但我們無疑正在朝著這個目標邁進。在 2015 年 2 月，權威科學雜誌《Nature》在封面刊登了一篇關於「具備自主學習功能的人工智慧軟體在電子遊戲上取得了和人類相近的表現」的報導，並為該篇報導配了《太空入侵者》遊戲的圖片。據報導，DeepMind 公司所發表的論文表明其人工智慧產品配備有第一款真正意義上的「端對端」學習系統，這款產品的人工智慧媒介（一款被稱為「Deep-Q 網路」的圖像處理元件）已經學會瞭如何處理螢幕上的數據輸入。在完全弄懂數據輸入之後，這款產品會自行採取行動以便實現期望的結果。在報導中，這款人工智慧產品在 2,600 款經典遊戲中都取得了驕人的成績，這項突破震驚了整個技術界。
隨後在上一個月， DeepMind 公司再度登上了《Nature》雜誌的封面。在短短幾個月內，這家公司再度實現了一項偉大的成就。這一次，他們的測試機床不再是 70 或者 80 年代的經典遊戲，而是把目光放到了擁有超過 2,500 年歷史，甚至曾被孔子提及的圍棋上面。圍棋分支係數的體量非常龐大：它所蘊含的可能性的數量甚至比整個宇宙的原子數量還多。而且和國際象棋不同，圍棋所依靠的並不是單純的計算。讓人感到雪上加霜的是，開發人員不可能為圍棋設計出評價函數，他們不能通過演算法集合表述哪一方正處於領先位置，比劣勢方領先多少等情況。圍棋所依賴的更像是人類的「直覺」：每當被詢問為何採取特定的行動時，專業棋手總是會給出讓人感到模棱兩可的答案，例如「感覺就該這麼下」。
眾所周知，電腦一直以來在直覺方面的表現並不是那麼優秀。正因為如此，圍棋一直被視為人工智慧技術難以攀登的一座高峰。研究人員甚至曾悲觀地預測，電腦想要攻克圍棋至少需要再過十年的時間。
但在上年秋季的一次秘密比試中， DeepMind 公司的全新人工智慧算法「 AlphaGo 」卻以 5 比 0 的絕對優勢擊敗了 3 度蟬聯歐洲圍棋冠軍的樊麾。在今年 3 月， AlphaGo 還將迎戰世界冠軍李世乭。 Imperial College 認知機械人學專業的 Murray Shanahan 教授認為這是一項驚人的成就。超人類主義哲學家 Nick Bostrom 也認為AlphaGo 所取得的成果具有里程碑意義，他在《超級智慧：路線圖、危險性與應對策略》一書中寫道，倘若人類真的成功研發出人工通用智慧技術，我們的世界將會迎來前所未有的改變。或許我們應該借用 Google 公司技術總監 Ray Kurzweil 的觀點，他認為人工通用智慧技術甚至有可能會改變我們的歷史進程。 「 AlphaGo 所取得的成就完全是戲劇性的，它是過去數十年來機器學習領域的集大成者。」 Bostrom 在 University of Oxford 的人類未來研究所中說道。
「不錯，這確實很酷。」Hassabis 對 Bostrom 的觀點表示同意。和往常一樣， Hassabis 的穿著毫無特色可言，還是黑色的上衣、長褲和鞋子。據說 Google 向 Hassabis個人支付了 8,000 萬美元的資金，但不得不說，他給人的感覺更像是一位實習生。 「圍棋是棋類的至尊，它代表著棋類的高峰。就玩家所需的智力深度而言，圍棋更加是緯度豐富的代表，這個遊戲非常容易讓人著迷。但更讓我們感到激動的是，我們不僅僅是本人掌握了這個遊戲，我們還能通過有趣的演算法來對這個有趣的遊戲進行操作。圍棋所蘊含的藝術色彩要濃於科學色彩。」 Hassabis 說道，「圍棋的玩法非常貼近人類的風格，人們可以通過貼近人性的方式對其進行學習，並在實踐中進步。這就是我們人類學習圍棋的方式。」
也許 Hassabis 看起來就像是一個學生，但在說這些話時他的臉上卻洋溢著驕傲父母的神情。在他的職業生涯中，圍棋是最讓他感到興奮的事物。 「圍棋的順序和量級都遠超人們的想像。」他熱忱地說道，「更讓我們感到興奮的是，我們的系統和那些需要人工設置規則的專家系統不同，它可以運用通用的機器學習技巧自學圍棋。在以後，我們希望可以將這些技術應用到氣候建模和病毒分析等複雜的現實問題上。每次只要想要這點，我們都會感到格外激動。」
Demis Hassabis 何許人也？
(照片取自 第一次和 Demis Hassabis 見面是 2014 年的夏季，當時 DeepMind 的收購事件已經過去了好幾個月的時間。自那時以來，我一直對他保持關注。為了完成這篇文章，我在過去 8 個月中分別在 3 個不同的場合對 Hassabis 進行了採訪。我見證著他從 Google 的人工智慧天才蛻變成一位令人嘆服的高效溝通者，他顯然已經找到了向非科學領域的群體描述這項複雜工作的有效方式，他對自己的工作抱有十足的熱忱。謙遜有禮且風度翩翩的 Hassabis 非常擅長對 DeepMind 所使用的新舊技術進行分解，他還會將不同領域的人工智慧搜索技術巧妙地運用到產品上。 AlphaGo 就是一個絕佳的案例，這個系統很好地將傳統的「樹狀搜尋」技術和新興的「深度神經網路」技術結合到了一起，其結構和人體大腦的神經元結構非常相似。
而 DeepQ 則結合了深度神經網路技術和強化學習技術，因此這款產品的學習方式和動物所具有的學習方式非常相近，動物在學習的時候主要依賴大腦中由多巴胺驅動的激勵系統。而在 AlphaGo 中，他們甚至對技術再度進行了深化：他們為 AlphaGo 添加了一種層次更深的強化學習技術，在這種情況下， AlphaGo 將會具備進行長期計劃的能力。下一步，相信他們將會為系統整合如記憶等每一項具有里程碑意義的功能。 「我們有一張線路圖，上面列舉了所有這方面的功能。」 Hassabis 說道，「如何將不同的領域結合起來才是關鍵，因為在我們眼裡，只有能將學習能力應用到全新領域的算法才能締造出優秀的人工智慧產品。」
這一切聽起來和 Hassabis 的風格非常一致。第一眼看到他的簡歷的時候，你很容易誤認為他是一個並不那麼「專注」的人：不論是棋類游戲、電子遊戲、電腦編程、認知神經科學還是人工智慧技術，這些統統都在他的涉獵範圍之內。但實際上， Hassabis 之所以能取得今天的成就，完全有賴於其出眾的專注力：他將自己出類拔萃的智力和終身奮鬥的學科結合到了一起。 （ Hassabis 的主要成就包括：在 8 歲的時候設計了人生第一款電腦遊戲；在 13 歲即成為國際象棋大師；在 17 歲創作出整合了人工智慧技術的電子遊戲先驅《主題公園》； 20 歲即以優異的成績從劍橋大學計算機科學專業畢業，畢業後創立了具有開創意義的電子遊戲公司「 Elixir 」；在 2011 年，他創立了 DeepMind 公司。此外，他還是海馬體和情景記憶領域的學術研究先驅，他的研究成果被譽為「領域內最後一塊拼圖」。）
「我很容易會對事情感到厭倦，世界卻又那麼繽紛多彩，酷炫的事物實在是太多了。」他表示，「如果我是一名運動員的話，我希望自己可以成為一名十項全能選手。」在有著智力界奧林匹克之稱的「Pentamind」項目中， Hassabis 曾 5 次奪得冠軍稱號。
Hassabis 是利物浦足球俱樂部的一位狂熱粉絲，他也喜歡觀看各式各樣的運動項目，但劇烈運動的光環卻未能照耀到他身上。 Hassabis 從 4 歲開始學習國際象棋，一年內即在英國開始比賽，隨後更是進軍國際棋壇。幼年階段的 Hassabis 已經充分顯露出了其心智天賦。
Hassabis 於 1976 年出生於倫敦，他的父親是塞浦路斯希臘裔（Greek-Cypriot），母親是新加坡華人，他是 3 兄弟姐妹中最年長的一個。 Hassabis 的父母都是教師，他們曾經經營過一家玩具店。 Hassabis 的妹妹是一位作曲家和鋼琴師，弟弟則在學習創意寫作。在 Hassabis 的整個家庭環境中，科技似乎並沒有佔據多大的比重。 「我完全是一匹黑馬。」他打趣地說道。據 Hassabis回憶，他會用從象棋比賽中所贏取的獎金購買「 ZX Spectrum 48K 」和「 Commodore Amiga 」等設備。他會馬上將這些設備拆開，並從中學習編程知識。「我的父母親是技術恐懼者，他們並不喜歡電腦，而且很有波希米亞人的風範，而妹妹和弟弟則進入了藝術行業。除了我之外，我們全家沒有人選擇進入數學或者科學領域。」 Hassabis 無奈地表示，「這看起來確實有點奇怪，甚至連我自己也不知道我的天賦究竟來自於哪裡。」
DeepMind：一家可以讓天才齊聚一堂的公司
(照片取自 youtube)
被 Google 收購的時候 Hassabis 的公司只有 50 名成員，現在 DeepMind 已經擁有接近 200 位員工。 DeepMind 的員工來自 45 個國家，他們的工作場所是位於國王十字火車站附近的一棟 6 層建築。儘管一直有人建議 Hassabis 將公司轉移到其他地方（例如位於矽谷的山景城），但他堅信自己應該將公司置身於自己的根源地附近。
「我在倫敦北部出生，並在那里長大。」 Hassabis 表示，「我非常喜歡這個城市，這也是我堅持留下來的原因。我並不認為倫敦不配擁有一家世界級的人工智慧研究機構，我對這個地方感到非常自豪。」在DeepMind 的辦公大樓內，所有的房間都以心智巨匠的名字命名，包括特斯拉、拉馬努金、柏拉圖、費曼、亞里士多德和瑪麗· 雪萊（Mary Shelley）等等。 Hassabis 是 Mary Shelley 的粉絲，他曾經多次閱讀《科學怪人》一書，並認為自己從中收穫了許多感悟。
辦公樓一層有一家餐廳。在一樓的接待區域有幾台塞滿飲料的冰箱和桌上足球遊戲機，還有一些懶人沙發，可謂延續了典型的科技公司作派。而加建的頂樓所採用的則是開放式結構，你可以從中欣賞倫敦的大好風光。
每逢週五晚上， DeepMind 的員工都會齊聚樓頂開懷暢飲。其中一位僱員曾經興高采烈地描述道：「這是公司的一大慣例，我們會在高處作興，以歡送一周的流逝。」 DeepMind 會組織跑步俱樂部、足球隊、棋類俱樂部等活動，其中最受歡迎的要數棋類俱樂部。 DeepMind 的員工認為社交活動是生活不可或缺的其中一塊。最引人注目的是掛在辦公室牆上的一幅掛圖，掛圖上面掛著一些可移動的圖片，這些圖片標示了每一位員工的辦公位置。由於 DeepMind 的辦公形式非常開放，因此員工每天都可以選擇不同的辦公位置。我在走廊上看到了一些工程人員（絕大部分是男性），他們完全打破了過去工程師給我的呆板印象：他們看起來體態良好，而且你能從他們臉上捕捉到愉悅的表情。不得不說，這家公司甚至連空氣似乎都瀰漫著一種智慧的氣息，難怪世界上最聰明的人都紛紛想要進入這家公司。截至目前， DeepMind 的員工留存率還是 100% 。考慮到其他科技巨頭以及全球各大院校也在大力增加對人工智慧技術的投入，這樣的留存率更是顯得驚人。
就目標等級和人才儲備的質量和速度而言， Hassabis 認為 DeepMind 和阿波羅計劃（ Apollo Programme ）以及曼哈頓計劃（ Manhattan Project ）完全具備可比性。 「我們非常幸運，每一年我們都能各國的優秀科學家。在我們的員工當中，有的曾經在國際奧林匹克物理競賽中脫穎而出，有的則是所在國水準一流的數學碩士。目前我們的人手還遠遠不足以支撐我們的想法，而與此同時，每一年我們都會收到遠超錄取數的求職申請，因此我們感覺自己非常幸運。唯一的局限在於我們在不損害企業文化的前提下所能吸收的人才數量。」 Hassabis 說道。
DeepMind 公司企業文化的深度要遠遠超過懶人沙發、免費零食和屋頂啤酒宴會等表象。 Hassabis 堅稱 Google 的收購絲毫沒有讓他偏離預定的研究路徑，他還表示自己在 DeepMind 的效率問題上所花費的時間和在演算法上所花費的時間大致相當。在他眼中， DeepMind 除了是一家優秀的創業公司以外，還是一家優秀的學院。 Hassabis 認為憑藉無窮無盡的能量和創造力， DeepMind 必將推動宏達的進程。 Hassabis時常將「創造力」掛在嘴邊，他認為儘管自己所接受的是正統科學教育，但他的本質卻更貼合於「創意和直覺」的範疇。 「我並不是一個標準意義上的科學家。」他不帶諷刺意味地直言。他認為對於DeepMind 而言最關鍵的是各種思想的融匯：一群擅長多個科學領域的博學多才者，他們可以快速找出不同領域的交匯點，並以客觀的方式識別出各學科之間的連接方式。在基準線得當的情況下，這些博學多才者每隔數週會對工作小組的成果進行一次檢視，並且快速、靈活地按照需求調配資源和工程人手。 「你所依賴的是一個才華洋溢的天才研究員，而且和傳統學院那一套不同，來自其他領域的成員也可以馬上接過指揮棒，以便將他們的專長加入到產品之中。」他描述道，「在這種模式的驅動下，不可思議的結果往往會應運而生。」確實，誕生於 18 個月前的 AlphaGo 就是一個最佳例證。
「超人」 Hassabis 的日常
每天晚上， Hassabis 都會坐地鐵回到位於倫敦北區的家里和家人共進晚餐。他們在海格特區生活，這裡距離 Hassabis 長大的地方並不遠。 Hassabis 的妻子是一位意大利裔的分子生物學家，她的研究方向是阿茲海默症（Alzheimers，即老人癡呆症）。他有兩個孩子，分別為 7 歲和 9 歲。 Hassabis 會和他們一起玩遊戲和讀書，還會在功課上為他們提供幫助。 「兩個孩子在才能上各有千秋。其中一個在科學方面的才能更加顯著，而另一個則更具創造力，可以說他們分別繼承了我的其中一樣特質。」 Hassabis 表示。
和平常的父親一樣，他也會哄孩子們入睡。然後大概到晚上 11 點左右，在大部分人正準備入眠的時候， Hassabis「全新的一天」就開始了。他會和美國的同事召開 Skype 會議，時間大概會持續到凌晨 1 點。隨後就是他的思考時間，他會思考和研究以及即將面臨的挑戰相關的問題，同時編寫演算法設計文件，這個環節會持續至凌晨 3、4 點。
Hassabis 表示他的工作不會涉及太多和實際編寫程式的相關工作。 「我的數學已經退化了不少。」他直言不諱，「我所做的更多是直覺思維方面的工作以及和公司相關的策略思考，例如公司的成長和管理問題。有時在某篇文章或某條新聞中讀到一些東西，我也會思考自己的研究應該如何應用到該領域。」
這難免讓人想起 AlphaGo，這個系統正不斷地在 Google 強大的雲端運算系統中進行博弈。它會一刻不停地進行博弈，並從中吸取經驗。
「它難道從不休息嗎？」我不禁發問。
「不，它無時無刻都在博弈，即使是聖誕節也是一樣。」
聽到這個答案，我不免有些遲凝：「它難道就不需要休息嗎？」
「也許它就喜歡無時無刻地進行博弈呢。」 Hassabis 回答道，他的眼裡閃耀出一絲光芒。
我接受了這個說法。那麼， Hassabis 本人又是什麼情況呢？
在一次休閒場合， Hassabis 的一位同事直接將他稱為」超人」。
「你有停止的時候嗎？」我不禁問道。
「實在是太難了。」他承認，「在我眼中，工作和生活並不存在絲毫的衝突，因為兩者都是非常重要的組成因素。我喜歡閱讀、看電影和聽音樂，這些愛好對於我的工作有很大幫助。我的大腦完全被自己的工作佔據了。」 Hassabis 表示自己是電影的狂熱愛好者，他還提及自己曾經和美國電影製作人 Brian Grazer 會面，他們還談論了一些和人工智慧領域相關的問題。
那麼，他的孩子、朋友以及日常生活又該如何平衡呢？ 「當然，我會盡量為這些範疇留出一定的時間，否則我也太瘋狂了。孩子最好的一點是，他們總是能夠自然而然地佔據你的腦海，這一點和愛好非常相似。」 Hassabis 說道。
Hassabis 會和朋友保持緊密聯繫，他和 DeepMind 其中一位聯合創始人 Shane Legg 是在倫敦大學學院就讀碩士期間認識的。而另一位聯合創始人 Mustafa Suleyman 更是他從小的密友。 Hassabis 很喜歡談論在劍橋大學期間教本科同學 Dave Silver 下棋的趣事，他甚至還把一種歷史悠久的中國棋類的玩法教給了這位同學。而在 20 年後，西爾韋則成為了 DeepMind 公司 AlphaGo 團隊的主力工程師，他還是最近發表在《Nature》雜誌上那篇論文的主要作者。 「沒錯，我和 Dave 的淵源很深。」 Hassabis 笑道，「在過去，我們時常會夢想從事和當下一樣的工作。今天我們終於實現了當年的夢想， 19 歲的我們應該也會感到欣慰吧。」
Hassabis 還補充稱：「確實，我的生活完全說不上正常。我無時無刻不在思考和工作相關的事情，甚至連在走路和睡夢中也停不下來。我認為自己的工作實在是太有趣了，其重要性顯而易見，我對它抱以非常飽滿的熱情。」
他的眼睛經常會給人一種光芒四射的感覺，看起來滿含著孩子的童真。 「我認為自己非常幸運，世界上很少有這麼有趣的問題在等著我解決，我無時無刻都在思考著這些問題。我對自己的工作抱有全身心投入的決心，否則我為什麼要做這些工作呢？畢竟韶華易逝。」 Hassabis 說道。
人工智慧技術到底有多恐怖？
(photo by 路透社)
史蒂芬· 霍金、比爾· 蓋茲、 Elon Musk 、 Jaan Tallinn 以及 Nick Bostrom 等人一直對於人工智慧技術的發展表示擔憂。一旦他們所憂慮的事情不幸成為現實，人類恐將迎來滅頂之災。他們擔心人工通用智能技術的濫用有可能迎來「智能爆炸」的局面，屆時機器將通過不斷的更新自我提升，進而取得超越人類智慧水平的智能。換而言之，最終機器有可能會失控。至於這樣的可怕景像是否會出現，歷史顯然不能給出可靠的參考答案。在一切變得太晚之前，我們是否有足夠的遠見和魄力及時停止這場人工智慧領域的「軍備競賽」呢？ 「每當你發現某種先進技術的時候，你會不顧一切地對其進行探索。只有在取得了技術上的成功之後，你才會思考接下來的應對方案。」這是 Robert Oppenheimer 的名言。
「如果說存在能確保人工智慧技術不會對人類造成傷害的方法，那麼人工智慧技術終將問世。但即便我們對於確保安全方法的有無並不確定，人工智慧技術還是會被創造出來。」 Bostrom 說道。最近霍金發表了一段高度概括的文字：「成熟人工智慧技術的出現必將成為人類歷史上最具意義的事件，但很不幸，它也可能成為人類歷史上的最後一起重大事件。」
「我當然不希望人工智慧技術最終演變成為噩夢。」 Hassabis 面無表情地說道，他認為公眾對於人工通用智能技術的擔憂模糊了這項技術所能帶來的即期利益。他認為這種擔憂並不恰當，至少在當下看來言之過早。 「我們距離開發出和人類智力水平相當的技術至少還有數十年的事件。」 Hassabis 提醒道，「我們才剛剛邁上了這個階梯的第一步，目前還處於遊戲階段。」他承認我們確實應該考慮人工智慧技術所蘊涵的風險，但這種風險不會是超級智能機器人殘酷屠殺人類的科幻小說情景。
此外， Hassabis 堅稱 DeepMind 在消除人工通用智慧技術的潛在威脅方面也佔據了領先地位。儘管 DeepMind 並不像阿波羅或者曼哈頓計劃一樣需要接受官方審查，但這家公司的運作方式卻非常透明。他們傾向於公佈自己所使用的程式碼，他們和 Google 公司的合同條款也規定了相關技術禁止用於軍事和情報領域。在 2015 年， Hassabis 和其他 DeepMind 同仁甚至還協助召開了於波多黎各舉行的人工智慧技術研討會，並簽署了承諾將人工智慧技術應用於善意領域的公開信。在公開信中，他們還承諾會竭力避免人工智慧技術的潛在威脅。最近，在 Hassabis 和他的同事的協助下，紐約也組織了一場相似的會議。 Hassabis 表示 DeepMind 公司的內部道德及諮詢委員會會議已經開始召開（儘管以非公開形式）。 「 Hassabis 對於人工智慧技術的安全問題非常熟悉。」Murray Shanahan 教授指出，「他顯然沒有那麼天真，也不會像鴕鳥一樣把頭埋在沙子裡面。」
「 DeepMind 一直是人工智慧領域的領導者，它一直在推動該領域的參與者對安全問題進行討論。」Bostrom 表示，「除此以外，這家公司還參與到了防範長期風險的研究中來。」
我曾經請 Hassabis 列出他認為最首要的長期風險。「隨著這些系統變得越來越老練，我們需要思考它們所使用的優化方式以及這種方式將會導致的優化結果。」他回覆道，「技術本身是中立的，但我們所接觸的是一個會不斷學習的系統，它們將會不可避免的接觸到一些和價值體係以及設計者偏好相關的資訊。因此，我們需要嚴肅思考它們所接觸的價值體系。」
在被問到關於超級智慧機器人的問題時，他的回答是這樣的：「我們需要確保目標被以正確的方式表述詳盡，中途不應該存在任何模糊不清的表述。與此同時，我們還需要確保目標的長期穩定性。在我們的所有系統中，最高層級的目標通常會由系統的設計者進行表述。儘管每一位設計者實現目標的方式或許各有千秋，但這些系統並不會自行創造目標。」
他的口吻非常堅定，顯得信心十足。 「看吧，有趣而又困難重重的挑戰就是這些。在全新的強大技術出現的時候，我們需要確保它們的用途合乎道德和信任標準。正因為如此，我們才會積極推進關於人工智慧技術安全問題的討論和研究。我們希望但成熟技術來臨的時候，一切已然就緒。」
成熟技術來臨的時候世界將會變成什麼樣子？屆時機器是否會變得過於智能化，以至於完全超越人類？ Hassabis 對這些問題付諸一笑。 「不不不，我所說的階段距離你們所恐懼階段還有一段非常遙遠的距離。」
儘管 Hassabis 的表現會讓人感到輕鬆，但在 2011 年，他的創業夥伴 Shane Legg 卻明確說過：「在我看來，人類的滅絕或許真會來臨，而技術將會在人類的滅絕中佔據一個重要席位。」但 Hassabis 很快就進行了澄清：「我所指的是可以將這些系統應用到一些遊戲以外的領域，一些和現實世界的聯繫更加緊密的領域，一些更加重要的領域，例如醫療保健領域。我們需要確認這些系統的能力到底有多強，只有這樣我們才能阻止機器全面接管世界的局面。」說到這裡，他笑了起來。
Hassabis 是一位笑口常開的人，他待人友善，說話的時候也很有說服力。他所說的一切聽起來都那麼有依有據，卻又不會給人一種傲慢的感覺。關於未來的事情，誰也不能給出一個確切的說法，或許人工通用智能技術確實會維持在我們的掌控之中呢？ 「顯然，如果某種全面超越人類智能的數位化技術確實存在，那麼我們當然不能指望它會心甘情願地給我們帶來協助。」 Elon Musk 說道，他在最近曾明確表示人工智慧技術的發展是一種「召喚惡魔」的行為。這位傑出的企業家是 DeepMind 公司的初始投資人之一，而他投資的動機並不是為了賺錢。 「我並不是為了投資而投資。」他在位於加州的辦公室說道，「我投資DeepMind ，完全是為了更好地認識人工智慧技術發展的過程及其潛在風險。如果我們因為不夠謹慎而導致毀滅性惡果的發生，銀行帳戶又還有什麼意義呢？」
「 Elon 是世界上最聰明的人之一，我很享受和他聊天。」 Hassabis 說道，「這麼一個傑出的人能夠投身人工智慧領域，我認為這是一件好事，因為這也從側面印證了人工智慧技術確實意義非凡。」 Hassabis 在回覆這類問題時會表現地非常老練，但一些來自其他領域的科學家卻總是喜歡針對人工智慧技術發表高談闊論，這種行為會讓 Hassabis 感到非常懊惱。他表示自己絕不會對粒子物理學指手畫腳。
「一般而言，我認為非人工智慧技術從業者對於這項技術並不了解。由於他們通常沒有和大量領域專家接觸的經驗，因此他們所進行的思維實驗往往會出現偏差。在我眼裡，他們所作出的絕大部分假設都經不起推敲。」說到這裡，他再次提及了自己所成立的內部道德及諮詢委員會，這個委員會的成員分別是來自科學和哲學領域的頂尖人物，他們會對人工通用智慧技術進行監管。此外， Hassabis 還強烈尋求保持現階段的隱私性。 「此前從未有人作過這方面的嘗試，因此在被強加上公共監督的枷鎖之前，我們還有許多的探索性工作需要進行。我不想因為人們在 Twitter 等社群媒體上的意見而選擇妥協。現階段最重要的任務是讓專案進一步加快，只有這樣，我們才能夠在下一個階段就算法和應用等問題進行討論。對於被牽涉在內的許多人而言，人工智慧技術並非他們的核心領域。我們需要他們的專業技能，但他們需要首先明白當下所發生的到底是什麼。」
史蒂芬 · 霍金教授正是所謂「專案加速」的最佳見證。最近 Hassabis 在劍橋大學和霍金進行了會面。 「能和他見面對我而言是一項極高的榮譽。」他激動地說道，並拿出了自己的 iPhone 向我展示他和霍金的合照。 「我們的會面原本計劃為 1 個小時，但他想問的問題實在是太多了，我們最終談論了整整 4 個小時。他甚至因此而錯過了午餐，他的照料人對此很不高興。 」 Hassabis 表示。
Hassabis 指出在會面期間，霍金絲毫沒有提及關於人工智慧技術的煽動性言論。更讓人驚訝的是，在上週的 BBC 欄目上，霍金並未將人工智慧技術列為人類所面臨的潛在威脅。 「多和踐行者接觸無疑是一件大有助益的事情，通過這種方式，聆聽者能夠了解我們即將打造的會是怎樣的一個系統。此外，他們還可以從中了解到我們即將採取的檢驗和控制措施。你只需了解其中所涉及的工程原理，關於人工智慧技術的一切進展都會變得更加容易理解，也加合理。」 Hassabis 說道。在他的辦公室內有一塊白色的書寫板，上面寫滿了不知所云的字符。
至少對於我而言，想要理解其中的工程原理絕對毫無希望，但霍金又是怎麼想的呢？他最後被 Hassabis 說服了嗎？ 「是的，我認為是這樣，因為在會面結束時他似乎不再擔憂，而是回歸了其一貫特有的幽默形象。在離開之前，我諮詢了他的看法，他通過電腦打出了『祝你好運』這幾個字。隨後他的眼睛閃爍出機智的光芒，又再補充了一句『但我希望你的好運不要過於徹底』。「 Hassabis 笑道，「我認為他確實對人工智慧技術改觀了。」
留言列表
Personal Priority 
