2024物理諾獎背后，改變歷史的故事

2024年諾貝爾物理學(xué)竟然頒給了AI領(lǐng)域，獲獎?wù)呤侨斯ぶ悄芊矫娴目茖W(xué)家：杰弗里·辛頓 (Geoffrey Hinton)和約翰·霍普菲爾德(John Hopfield)

獲獎理由是：他們利用了物理學(xué)方法來尋找信息的特征，構(gòu)建了現(xiàn)代人工智能的基礎(chǔ)。

不管這理由充不充分，至少說明AI已經(jīng)成為萬眾矚目的焦點(diǎn)。

今天就來講講眾所不周知的辛頓和那些改變歷史的人。

首先，霍普菲爾德采用物理諾學(xué)中自旋系統(tǒng)能量的方式，提出了Hopfield神經(jīng)網(wǎng)絡(luò)，而辛頓則在此基礎(chǔ)上歷經(jīng)五十年，最終讓人工智能浪潮席卷全球。

人工智能教父辛頓

時(shí)間回到2012年6月，谷歌公司公開了一項(xiàng)名為“谷歌貓”的研究成果，他們模擬人腦學(xué)習(xí)的方式，搭建了一個(gè)神經(jīng)網(wǎng)絡(luò)系統(tǒng)，用算法來識別網(wǎng)上視頻中的“貓”。而這些大量的視頻，不做任何標(biāo)記，讓模型自己學(xué)習(xí)“貓”的特征。

谷歌在背后動用了各個(gè)數(shù)據(jù)中心共16000塊CPU進(jìn)行訓(xùn)練，最終以74.5%的準(zhǔn)確率，驚動了業(yè)界。

這個(gè)項(xiàng)目的發(fā)起人叫吳恩達(dá)，項(xiàng)目接近尾聲時(shí)，他離開了谷歌，同時(shí)請來了自己的老師接替他完成，這位老師就是已經(jīng)64歲的辛頓。

時(shí)年64歲的辛頓

辛頓看了“谷歌貓”項(xiàng)目的技術(shù)細(xì)節(jié)，意識到他的學(xué)生可能用錯(cuò)了神經(jīng)網(wǎng)絡(luò)。

于是他在“谷歌貓”項(xiàng)目結(jié)束后，開始行動起來，找來了自己另外兩個(gè)學(xué)生——IlyaSutskever和Alex Krizhevsky，（兩人都是出生于蘇聯(lián)的猶太人，前者極具數(shù)學(xué)天賦，后者擅長工程實(shí)現(xiàn)）合作創(chuàng)建了一個(gè)新的卷積神經(jīng)網(wǎng)絡(luò)。

而后馬上參加了ImageNet圖像識別比賽，結(jié)果以高達(dá)84%的識別準(zhǔn)確率奪得冠軍，更令人吃驚的是他們只用了4塊GPU 。

學(xué)術(shù)界和產(chǎn)業(yè)界驚呆了！

辛頓他們3個(gè)人加4塊GPU，是如何干掉谷歌一個(gè)團(tuán)隊(duì)外加16000塊CPU的。

此時(shí)，最想知道答案的，恐怕是一位還在休產(chǎn)假的斯坦福華人教授，也是ImageNet項(xiàng)目的發(fā)起人李飛飛，她意識到人工智能的歷史有可能在這一天被改寫了。

出生于北京的她，從普林斯頓畢業(yè)后，研究方向是計(jì)算機(jī)視覺與機(jī)器學(xué)習(xí)，就是讓機(jī)器能夠像人一樣，理解圖像的意義。

傳統(tǒng)方式是將“貓”的圖像，抽象成簡單的幾何圖形，以此降低識別難度。

傳統(tǒng)方式，將“貓”的圖像抽象成簡單的幾何圖形，再識別

但現(xiàn)實(shí)中有可能會出現(xiàn)各種奇形怪狀的“液體貓”，這讓李飛飛意識到，問題可能不是出在算法上，而是沒有足夠的高質(zhì)量數(shù)據(jù)，讓機(jī)器來學(xué)習(xí)。

各種奇形怪狀的“液體貓”，讓抽象成幾何圖形變得沒有意義

李飛飛從孩子認(rèn)識世界的過程中，得到了很大的啟發(fā)：如果小孩每轉(zhuǎn)一次眼睛，代表機(jī)器拍下一張圖片，那么一個(gè)3歲小孩就已經(jīng)學(xué)習(xí)了上億張圖片。

如果有足夠多的標(biāo)記好的數(shù)據(jù)，讓機(jī)器每看一張就和背后標(biāo)記的答案核對一次，那么經(jīng)過足夠多次的學(xué)習(xí)，機(jī)器就能和小孩一樣理解“貓”的含義。

但哪兒來這么多標(biāo)記好答案的圖片呢？

依靠亞馬遜眾包平臺，李飛飛團(tuán)隊(duì)完成了人工標(biāo)注的龐大工作量。

李飛飛團(tuán)隊(duì)通過眾包平臺，召集了來自167個(gè)國家的48940位合作者，共同完成了大量圖片的標(biāo)注工作

2009年，包含了320萬張圖片的ImageNet數(shù)據(jù)集誕生了。三年后，這個(gè)數(shù)量達(dá)到了1500萬張。李飛飛用6年時(shí)間大力出奇跡，彌補(bǔ)了數(shù)據(jù)的短板。

而此時(shí)，辛頓和他的兩位學(xué)生出現(xiàn)了，他們的AlexNet在經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上，摒棄了此前的逐層無監(jiān)督方法，對輸入值進(jìn)行有監(jiān)督學(xué)習(xí)。也就是每次識別后，比對與李飛飛人工標(biāo)注的答案之間的差異，進(jìn)行反饋優(yōu)化，大大提高了準(zhǔn)確率。

同時(shí)，卷積核會在輸入圖像上滑動，所以無論被檢測物體在哪個(gè)位置，都能被檢測到相同的特征，大大減少了運(yùn)算量。算法的瓶頸終于突破了，此時(shí)只剩下最后一塊拼圖，那就是算力。

辛頓和他的兩位學(xué)生創(chuàng)造的圖像識別產(chǎn)品AlexNet

長期被認(rèn)為不務(wù)正業(yè)，只能作為游戲顯卡的GPU，卻被辛頓看好，因?yàn)樗l(fā)現(xiàn)GPU有超強(qiáng)的并行運(yùn)算能力，與深度學(xué)習(xí)高度適應(yīng)。類似于：GPU能同時(shí)進(jìn)行很多次簡單的四則運(yùn)算，而CPU只能一次做少量難度很高的函數(shù)運(yùn)算。這就是4塊GPU，就能抵得上16000塊CPU的原因。

終于，算力被另一位美籍華人給補(bǔ)上了，他的名字叫黃仁勛。

英偉達(dá)（NVIDIA）公司首席執(zhí)行官黃仁勛

算法、數(shù)據(jù)與算力三駕馬車終于齊備，之后就是大家熟悉的故事了：深度學(xué)習(xí)的繁榮、GPU與英偉達(dá)的崛起、AlphaGo的稱霸、大模型的誕生、ChatGPT的橫空出世、AIGC時(shí)代的到來。

這個(gè)改變歷史的時(shí)期將我們現(xiàn)代熟悉的人工智能發(fā)展都串聯(lián)了起來

當(dāng)一個(gè)跨時(shí)代的偉大產(chǎn)物出現(xiàn)時(shí)，往往意味著早有一群開拓者默默前行了許久，如果從辛頓1972年進(jìn)入愛丁堡大學(xué)算起，這位AI教父已經(jīng)在人工智能領(lǐng)域鏖戰(zhàn)了五十余年。

每一次科技浪潮洶涌而來時(shí)，背后都有一些閃耀的光芒，值得被更多人知道。