2012年令深度學習和NVIDIA股價火爆起來的真正關鍵──GPU

人工智慧評論

Written by:

本篇是『機器學習專題』的第七篇文。


2012年,「GPU+深度學習」真正引爆革命火花

2006 年,Hinton 以深度信念網路第一個提出「深度神經網路可行」的說法,讓學界把眼光重新放回神經網路這個領域。可以說 RBM 只是深度學習浪潮的一個開端。

但由於多層神經網路的計算量龐大、訓練時間過長,常常跑一次模型就噴掉數週、甚至數月的時間,2006 年該時也僅是讓學界知道:「深度神經網路這項技術是有可能實現的」而已,並沒有真正火紅起來。

真正的轉捩點,還是要到 2012 年——那年 10 月,機器學習界發生了一件大事。

還記得我們在機器學習的機器是怎麼從資料中「學」到東西的?超簡單機器學習名詞入門篇!一文中提過的 ImageNet 嗎?美國普林斯頓大學李飛飛與李凱教授在 2007 年合作開啟了一個名為「ImageNet」的專案,他們下載了數以百萬計的照片,供機器從圖像資料中進行學習。每年史丹佛大學都會舉辦 ImageNet 圖像識別競賽,讓各家企業或機構測試系統的效能極限,堪稱機器學習界一大盛事。

以往無論是淺層、還是深度學習的機器學習模型,都是採用 CPU 進行運算。2012 年 10 月, Hinton 的兩個學生使用輝達 (NVIDIA) 出產的 GPU 、加上深度學習模型 (他們採用了專做圖像識別的捲積式神經網路 CNN ),一舉拿下 ImageNet 的冠軍,正確率更超過第二名將近 10%。

有興趣的讀者可以參考由 Hinton 撰寫的這篇論文《Imagenet classification with deep convolutional neural networks》,內文詳細介紹了相關模型與比賽結果。

看到此情此景,大家都瘋了,NVIDIA 也瘋了。沒想到採用 GPU 運算的深度學習能有如此殺傷力強大的效果,運算速度是 CPU 的 70 倍以上,終於讓深度學習真正火爆起來。2012 年之後的 ImageNet 競賽,大家都紛紛採用 GPU 做運算;2015 年,Microsoft 更是以 3.5% 的錯誤率贏得冠軍,超越人類肉眼 5% 錯誤率的辨識能力。

為什麼 GPU 運算會比 CPU 更強呢?GPU 不是用來處理圖形運算的嗎?由於圖形運算需要大量的向量和矩陣運算,這正是平行架構的 GPU 最擅長的事情,而深度學習正是使用大量的向量和矩陣進行運算;CPU 執行矩陣運算的速度則遠遠不及 GPU。

事實上,CPU 是用來進行更通用的運算,需要協調硬軟體資源;而 GPU 計算是用於增大計算的吞吐量。CPU 需要很快的將資料一個個的依次處理完畢,降低延遲時間;而 GPU 到記憶體的抓資料回來運算的速度比 CPU 慢很多,所以 GPU 計算都是希望一下子有很多數據可以計算,然後一口氣將這些數據計算光。

深度學習矩陣運算+大數據平行運算=首選GPU

流言終結者 (Mythbuster) 的兩位主持人 Adam Savage 和 Jamie Hynema 曾以特效裝置示範 CPU 和 GPU 平行運算的效能差異(還被NVIDIA官方頻道貼出來lol),推薦讀者可以看一看,好笑又好懂。

既然 GPU 的平行運算能力很強,為什麼這麼久以來都沒人想到要用 GPU 取代 CPU 來做類神經網路的運算呢?

我們之所以能用 CPU 做運算,是因為 CPU 有編譯器 (Compiler) 這樣的設計,能讓工程師寫完程式後、經過編譯器的轉譯、成為 CPU 看得懂的機械碼。然而一般 GPU 並沒有類似的設計,因此工程師難以直接寫程式讓 GPU 來運算

CUDA——NVIDIA成為深度學習運算必用硬體的關鍵

NVIDIA 一直想從設計圖形處理器的傳統硬體公司轉型、成為大規模運算伺服器和整合軟體公司;因而在深度學習爆紅之前,早已推出了 GPGPU(通用圖形處理器)。

2006 到 2007 年間,NVIDIA 發表了一項全新的運算架構,稱為 CUDA;這也是 NVIDIA 正式給 GPGPU 的名稱。使用者可以撰寫 C 語言、再透過 CUDA 底層架構轉譯成 GPU 看得懂的語言。這也是自 GPU 可以拿來做大規模運算的概念推出之後,首次可以讓人使用 C 語言來運用 GPU 蘊藏已久的強大運算能力,故 NVIDIA 從 GeForce 8 系列之後的顯示卡全開始支援 CUDA 技術。

風口上的NVIDIA公司:從遊戲、VR到深度學習

GPGPU 的興起,大概就是 CUDA 帶起來的;而 CUDA 的成功,更直接導致了深度學習的運算全部都使用 NVIDIA 家的 GPU。這種驚人的影響力,不論是深度學習、機器學習、自動車、虛擬實境 (VR)、電競遊戲,每一項都跟 NVIDIA 習習相關。Tesla 創辦人 Elon Musk 更是親自寫 Email,向 NVIDIA 執行長黃仁勳表達希望成為第一個拿到最新 AI  GPU 的人。

2016 年 8 月,NVIDIA 在其每年舉辦的 GTC 大會上(GPU Technology Conference,俗稱老黃的傳教大會),執行長黃仁勳強調 NVIDIA 在人工智慧領域上的深耕、能提供最完整的軟硬體解決方案。整場大會以深度學習為重要主角,同時宣佈推出全世界第一個專門用來運算深度學習的超級電腦—— DGX-1 伺服器,售價 129,000 美金。

在今年 10 月 26 日舉行的 GTC 大會上,黃仁勳表示:過去用在 CPU 製程的摩爾定律已到尾聲,電晶體雖然每年持續增長 50%,但 CPU 效能成長僅 10%,使 CPU 不可能再成長。透過 GPU 運算的深度學習將是另一種解決方案,NVIDIA 的 GPU 是產業專用加速器,能補足 CPU 大量運算上的不足。

也就是說,藉由深度學習運算,將能使遲緩成長多年的摩爾定律持續演進。搭上人工智慧熱潮,NVIDIA 在 2016 年的漲幅高達 255.95%,2017 年至今市值已翻了一倍 (11 月 9 日發布 2018 財年第一季財報顯示,其營收成長達 48.4% )。 MarketWatch 報導,NVIDIA 是今年迄今標準普爾 500 指數表現最好的成分股。

 

顛覆性的第四次工業革命:深度學習

如今深度學習技術對各大產業領域都將產生深遠的影響,堪稱第四次工業革命。從天氣預測、醫療影像辨識、金融股市預測、電信商客戶流失率預測、網路異常入侵偵測、智慧交通…無不採用深度學習技術。

基於深度學習方法,Facebook 的 DeepFace 專案的人臉識別技術的識別率已經達到了 97.25%,接近人類的 97.5% 的識別率,幾乎可媲美人類。

Google 現在則有超過 1000 個深度學習產品,包括地圖、GMAIL、自動翻譯、自動車、Android 等。 2013 年 7 月,Google 收購了  DNNresearch 公司,其背後創辦人正是大名鼎鼎的深度學習之父 Hinton 教授;2014 年 1 月, Google 以逾 6 億美元價碼收購英國人工智慧公司 DeepMind。

2016 年 3 月,由 DeepMind 團隊所打造的 AlphaGo 圍棋系統在擊敗的南韓圍棋好手李世石之後聲名大噪;隨後 Google 也利用 DeepMind 的深度學習技術,把各資料中心的用電效率提高 15%、成功讓其龐大的資料中心冷卻用電量減少了 40%。

(今年 10 月,Deepmind 在 Nature 發布了一篇論文展示了 AlphaGo Zero《Mastering the game of Go without human knowledge》DeepMind 開發團隊只輸入基本圍棋規則,之後 AlphaGo Zero 會自行下棋,並記錄每次的勝負決策。最後只需 3 天時間就以 100:0 打敗舊版與李世石對弈的 AlphaGo )

深度學習能推廣應用的產業範疇非常的多,各家科技公司更是摩拳霍霍、無不想搶進最新發展。在人工智慧領域中,目前領先的四大巨頭分別為 Google、Microsoft、Facebook 與百度 (Baidu);尤其在語音識別和圖像辨識上,每個月都可以看到這四家公司公布新的技術發展。每分每秒,AI巨頭們都在使用深度學習改變你我的生活。

當然你可能會想:說了這麼多、什麼機器學習、深度學習,還不是只有大公司玩得起。

2015 年,約每 22 天就有一個深度學習的工具集 (toolkit) 被發布出來。深度學習正從高冷的數學模型、逐漸邁向黑盒子的過程。這是什麼意思呢?

以網頁開發來比喻—— 20 年前架網站,工程師得用 Perl、C++ 寫 CGI、瞭解 TCP/IP 標準、Solaris 伺服器、Oracle 資料庫;簡單來說,寫網頁是一個具備高度 Domain-knowhow 的活兒。

然而現在不需要瞭解底層架構,用 Ruby on Rails、Bootstrap 等框架,輕輕鬆鬆就能兜一個網頁出來。市面上隨意可見「1 天教你學會架站」之類的書籍。

同樣地,機器學習和深度學習模型在目前已經是一個封裝地很好的黑盒子;使用者只要下載 Package、透過 Tensorflow、Caffe 等開源平台 Toolkit、調一下 API,把資料丟進去,就能神奇地完成某個任務。即使不瞭解背後的數學模型,仍然可以很輕鬆地使用深度學習做數據分析。

先前在日本就有個有趣的案例——小池誠原本在車廠當工程師,一年前辭去工作回到老家幫父母經營小黃瓜農場。農場並不大,然而小黃瓜分類的工作卻讓他吃了不少苦頭。

小池誠不懂深度學習的數學模型,但透過 TensorFlow 平台、他成功利用深度學習來為自家的小黃瓜進行圖像辨識和自動化分類。

你能想像在你家的農場使用深度學習技術嗎?或許就像使用 Excel 做數據分析一般,在未來,人人都能輕易地使用深度學習模型來跑海量數據。

人工智慧有可能取代人類嗎?在本篇系列的最後,讓我們來討論一下這個恆久不變的問題。

問題 1. 人工智慧有可能毀滅人類?

在許多科幻小說中,屢見不鮮人工智慧程式透過自我學習,最終逐漸統治世界的故事。既然機器學習能自行從歷史資料中學會技能,目前人工智慧的技術發展有可能導致這種情況發生嗎?會導致強人工智慧(Strong A.I.)的出現嗎?

機器學習算是弱人工智慧

目前人工智慧的自我學習還是限定在人們指定的方式、只能學習解決特定的問題,比如說 AlphaGo 不能直接去下象棋,仍然不是通用的智慧、或能理解「下棋」的意義,對於 AlphaGo 來說只是跑完一個運算模型。

資料清整仍是機器學習的關鍵環節

還記得我們提過,機器要能從海量資料中挖掘出規律,必須經過資料清整 (Data Cleaning) 的過程嗎?資料科學家得為系統輸入規整化的訓練資料,格式要求相當嚴格。這也意味著即使把人工智慧程式連到網上,它也不能直接對於網路上格式不一的「骯髒」資料進行學習。

 

問題 2. 機器學習和深度學習是不是沒有達不到的事?

這個問法或許可以改成:什麼是機器學習能解的問題、什麼是機器學習不能解的問題?

機器學習重預測、較缺乏解釋現象的能力

機器學習是一門結合了機率學與統計學的學科,早期做機器學習的學者幾乎都是統計學家,直到後來有電腦科學背景的研究人員進來、結合統計和資工兩方的 Domain-Knowledge,成為一個叫機器學習的新門派。因此無論是線性回歸、Sigmoid 函數邏輯回歸、SVM、RBM …等模型,事實上都是統計學模型。

既然如此,統計和機器學習有什麼差別呢?他們想要解決的問題是不一樣的——傳統統計更在乎解釋能力 (explanation power),機器學習則在乎預測能力 (prediction power)。目標不一樣,發展出的建模方法就不一樣。

機器學習就像一個黑盒子,可能跑出了非常精準的預測結果、卻不明白機器是透過什麼樣的過程、用什麼方法預測出這個答案的。

對於統計學家而言,關心的問題則是:我的模型到底能不能解釋整個母體的現象;如果預測錯誤率更低、但沒辦法解釋原因,就會放棄該模型。若目標在於解釋的話,不用做出一個「預測準到不行」的模型,但估計式要穩健 (robust)。

你可能會想:預測準確不是比較重要嗎?為什麼要在乎解釋能力呢?在發展科學理論的時候,若不解釋、就算預測的再準,我們還是不能理解一個現象為什麼會發生。比如說,我們可以透過機器學習模型很準確地預測點擊率,但我們仍不知道是什麼因素影響點擊率,如此一來就很難去改良產品設計,就算將點擊率預測地很準也沒用。

因此在許多深度學習研究論文中,可以發現其理論都不太「漂亮」——理論不甚完備、但實務上的預測結果跑的不錯。

機器學習需要大量的歷史資料

既然說機器學習需要過去的資料來學會技能、並透過新進資料逐步優化,因而對於深度學習模型來說,十萬筆資料都是小數字。但若是沒有歷史資料呢…?

比如我們可以從一個消費者過去的購買資料中,精準預測到他會買產品 A,然而在公司想販售一款新產品 B 時,由於無法解釋他為什麼會買產品 A,也沒有產品 B 的歷史資料、因此無法預測該消費者會不會買這款新產品。

況且對一般人而言,很難輕易達到數十萬筆以上的資料量,如此使用 Excel 進行一般統計運算即可。進一步說,多數台灣企業的資料庫老舊、許久沒有維護更新,說要能拿出夠「乾淨」的海量數據來進行分析,也是頗為困難的事情。

針對上述問題,有時候用統計、另一種時候用機器學習模型。實務上,資料科學家會依據問題的類型和自身經驗、考量後選擇適當的工具。

大家對於人工智慧、機器學習和深度學習有了更進一步的認識了嗎?從人工智慧、機器學習到深度學習,人工智慧領域的發展日新月異;深度學習的浪潮方引爆,未來世界的運作方式將會如何受變化呢?就讓我們拭目以待吧。

這次的機器學習系列專題就到這邊告一個段落,感謝您的收看!

3 Replies to “2012年令深度學習和NVIDIA股價火爆起來的真正關鍵──GPU”

  1. 灰塵 說:

    「我不清楚這個題目是怎麼解的,但是答案就是這樣」by機器學習

  2. 原來如此,覺得你講解的很有意思,感謝。

  3. dachu 說:

    滿滿收穫

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *