【GMIS 2017】與 LSTM 之父一起回顧 20 世紀人工智慧發展與預測未來
文/李澤南
全球機器智能峰會(GMIS 2017),是全球人工智能產業信息服務平台機器之心舉辦的首屆大會,邀請了來自美國、歐洲、加拿大及國內的眾多頂級專家參會演講。本次大會共計 47 位嘉賓、5 個 Session、32 場演講、4 場圓桌論壇、1 場人機大戰,兼顧學界與產業、科技巨頭與創業公司,以專業化、全球化的視角為人工智能從業者和愛好者奉上一場機器智能盛宴。
5 月 27 日,機器之心主辦的全球機器智能峰會(GMIS 2017)在北京 898 創新空間正式開幕。中國科學院自動化研究所複雜系統管理與控制國家重點實驗室主任王飛躍為本次大會做了開幕式致辭,他說:「再過幾年,90% 的工作將是機器提供的。希望人工智慧可以為我們提供更美好的未來」。本次大會邀請了「LSTM 之父」Jürgen Schmidhuber、《人工智能:一種現代方法》(Artificial Intelligence: A Modern Approach)的作者 Stuart Russell、Citadel 首席人工智慧官鄧力等知名人工智慧專家登台演講。
Jürgen Schmidhuber 第一個上台演講,他的演講題目是:「真正的人工智能會改變一切」。「我來這裡對 20 世紀的人工智慧進行一次簡要的回顧,並對未來做出自己的展望。」這是 Jürgen 的開場白。
Jürgen Schmidhuber 是瑞士人工智能實驗室 IDSIA 的科學事務主管,同時任教於盧加諾大學和瑞士南部應用科學與藝術學院。他於 1987 年和 1991 年在慕尼黑工業大學先後獲得計算機科學的學士和博士學位。從 1991 年開始,他成為深度學習神經網絡領域的開拓者。隨後,他在 IDSIA 和慕尼黑工業大學的研究團隊開發了一種循環神經網絡(RNN,是 LSTM 的基礎),並率先在正式的國際性比賽中獲勝。他獲得的其他獎項還包括,2013 年國際神經網絡協會的亥姆霍茲獎,以及 2016 年電氣與電子工程師協會的神經網絡先鋒獎等。
30 年前,Jürgen Schmidhuber 正在慕尼黑工業大學忙於完成電腦科學專業的畢業論文。在論文的封面上,他設計了一個可以進行自我學習、自我進化的機器人,內文詳述了這類系統背後的一種可以自動修改代碼的元程序(meta-program),它可以改善特定領域某些系統的性能,還可以自我改進學習算法,甚至改進改進學習的算法…
這就是 Jürgen Schmidhuber 建立自我優化人工智能的目標,也開啟了他此後一系列關於遞歸式自我改進算法的研究。Jürgen 表示,他早在 1970 年代就已萌生這一目標,並為此在大學期間學習數學及電腦科學。
「我最大的偶像是阿爾伯特•愛因斯坦。我在某個時候意識到,如果我打造出了比我自己,乃至比愛因斯坦更聰明的東西,我會擁有更大的影響力。」Jürgen Schmidhuber 說道:「從 1987 年將這個問題作為論文選題以來,我一直在研究包羅萬象的內容,但是現在,我能看到這個主題開始變成一個可能實現的現實。」
Jürgen Schmidhuber 開發了 LSTM 等著名深度學習方法。1997 年,他和 Sepp Hochreiter 共同撰寫論文,其中提出了一種利用記憶功能來增強人工神經網絡(模擬人類大腦的計算機系統)的方法,也就是根據之前獲得的信息,添加解釋文字或圖像模式的循環。稱之為「長短期記憶網絡」(即 LSTM)。
「長短期記憶跟人的大腦有關,」Jürgen 說道。「在我們的大腦皮層中有 100 多億的神經元。它們就像小的處理器,有的是處理輸入,有的是用於圖像捕捉。你會有疼痛神經來捕捉疼痛,還有一些肌肉的神經來控制你的肌肉。另外還有一些用於思考的神經元,它們之間會彼此交流。在執行任務時,神經元會影響其他與之相連的神經元,這些連接的強度,會隨著隨著人們的學習會改變,我們稱之為持續連接,這也是長短期記憶網絡獲得啟發的地方。」
今天,LSTM 已被大量應用在科技領域。基於 LSTM 的系統可以學習翻譯語言、控制機器人、圖像分析、文檔摘要、語音辨識、圖像辨識、手寫辨識、控制聊天機器人、預測疾病、點擊率和股票、合成音樂等等任務。
Jurgen 介紹,在 2015 年,Google 通過基於 CTC 訓練的 LSTM 程序,大幅提升了安卓手機和其他設備中語音辨識的能力,其中就使用了他的實驗室在 2006 年發表的方法。此外,百度也使用了 CTC;蘋果的 iPhone 在 QucikType 和 Siri 中使用 LSTM;微軟不僅將 LSTM 用於語音辨識,還將這一技術用於虛擬對話形象生成和編寫程序代碼等等;亞馬遜的 Alexa 則通過雙向 LSTM 與用戶交流。
後來 Google 擴大 LSTM 的應用範圍,它可以生成圖像字幕,自動回復電子郵件,包含在新的智能助手 Allo 中,也顯著地提高了 Google 翻譯的質量(從 2016 年開始)。目前, Google 數據中心很大一部分的計算資源現在都在執行 LSTM 任務。「我們都希望人工智慧最終會變得容易接觸,」Jürgen 說道。「隨著它進入人們的手機,現在我們已經做到一部分了。」
Jürgen 的團隊在多個不同機器學習競賽中獲得很好的成績。其中包括醫療圖像辨識競賽。目前,機器學習方法在很多任務中的成績已經超過了人類專家水平,為機器學習的應用指出了方向。
「這個圖片是一個女性乳腺的圖像,在癌症之前,我們會看到有似分裂的現象,」Jürgen 介紹道。「我們可以讓神經網絡也能識別這些問題,雖然目前電腦做這種事成本很高,但隨著技術發展,它們的速度和成本都可以讓我們做到更多的事情。」
在 LSTM 的研究後,Jürgen 的團隊繼續朝著通用人工智慧目標前進。他們在 2015 年研發出具有好奇心的自我學習人形機器人。這種機器人可以通過自己的機械臂,與世界接觸、感受並學習重力等概念。這距離自我學習人工智慧的目標又更近了一步。
Jürgen 預測,在未來幾年,人類將創造出具有靈長類動物智能的人工智慧系統。人工智慧至今僅僅經歷了 70 餘年的發展,這個速度相比數億年的生物進化有了很多倍的提高。
Jürgen 介紹了他領導的人工智慧公司 Nnaisense,這是 Jürgen 等人在慕尼黑和瑞士實驗室的成果之一。
Nnaisense 讀起來有點像「Nascence(起源)」,與基於神經網絡的通用人工智慧(NNAI)有關。共有 5 位創始人(CEO Faustino Gomez,此外還有 Jan Koutnik、Jonathan Masci、Bas Steunebrink 和 Jürgen 自己),擁有強大的顧問群(Sepp Hochreiter、Marcus Hutter、Jaan Tallinn 等)以及優秀的員工。目前已在工業和金融領域擁有營利項目。
這家公司的願景與目前的商業成功只是一個開始,Jürgen 認為,人類可以遠遠超出當前的可能性,通過新的神經元學習和機器好奇心創造更多可能性,並透過優化程序搜索和大規模強化學習神經網絡的效率,帶來新的突破,改變一切。Jürgen 指出自己在 20 世紀 70 年代說過:「要構建一種人工智慧,超越我自己,然後讓我退休。」
最後,Jürgen Schmidhuber 對奇點過後的世界進行預測。2014 年,他就發現了一個令人難以置信的指數加速模式:宇宙歷史中重大事件之間的間隔時間,似乎正在以指數級的速度縮短——每個大事件到來的時間,是前一個大事件的四分之一。如果依照這個模式,看起來下一個歷史上的事件將出現於 2030 年。
在這之後會發生什麼?我們雖然無從得知,但 Jürgen 認為,人工智慧將代替人類,展開殖民宇宙的旅途。或許這個預測距離我們還有很遠,但由人工智慧引發的技術爆炸,必將會逐漸改變人們的生活方式。
(本文授權轉載自 GMIS 2017大会Jürgen Schmidhuber演讲:真正的人工智能会改变一切)
機器之心 SYNCED 主辦的 2017 全球智能機器峰會(GMIS 2017)於北京圓滿結束。從大咖參會、「人機大戰」,到六場主題 Session 和 IME 主題展的設置,GMIS 2017 上有哪些吸睛的亮點與最新趨勢?請參考泛科技「GMIS 2017 機器智能時代」特輯。
留言討論