1950年，“計算機科學之父”阿蘭·圖靈提出這樣一個問題：機器會思考嗎？

在你給出肯定或否定的回答之前，我們首先思考一下——什么是“思考”。

自然界中，作為人主要區(qū)別于其他生物的能力，“思考”將我們置于統(tǒng)治者的至高地位。這種分析、綜合、判斷、推理、概括的思維活動，讓人類善于發(fā)現(xiàn)事物發(fā)展規(guī)律，我們暫且簡單粗暴地將其歸納為“學習能力”。

目前科學家認為人類“學習”主要由大腦皮層完成的，人類平均擁有860億個神經(jīng)元，其中大腦皮層占據(jù)了160億個。神經(jīng)元的神奇之處在于它們之間的連接數(shù)量巨大，每個神經(jīng)元可能有成千上萬個連接，而這些連接以毫秒級的速度傳遞著“信息”。

人腦是物種進化的產(chǎn)物，這是大自然的饋贈。在大腦的驅(qū)使下，人類繼續(xù)在探尋著大腦的秘密。

機器

“我發(fā)現(xiàn)了人腦是如何工作的！”

多倫多大學的一個實驗室每周都會傳出這樣的吶喊聲，從事人工智能研究已經(jīng)四十余年的杰弗里·欣頓（Geoffrey Hinton）終于從非主流變成主流。再次驗證了“科學沒有主流”的說法。

1972年，離開劍橋大學的欣頓進入了愛丁堡大學研究人工智能——這個從誕生之初便帶有科幻色彩的學科。他執(zhí)著于尋找大腦工作的原理，直到遇見了發(fā)明于20世紀50年代的神經(jīng)網(wǎng)絡(luò)，他找到自己的“繆斯”。

神經(jīng)網(wǎng)絡(luò)是一種模仿大腦結(jié)構(gòu)和功能的數(shù)據(jù)模型，模仿人類神經(jīng)網(wǎng)絡(luò)，經(jīng)典神經(jīng)網(wǎng)絡(luò)包含了輸入層、中間層與輸出層。

1958年，由兩層神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)“感知器”被計算科學家 Frank Rosenblatt 提出，他證明了機器識別手寫字母的潛力。但那時“感知器”只能處理簡單的線性分類任務(wù)，因此獲得人們言過其實的贊譽后便進入了冰河期，連人工智能領(lǐng)域權(quán)威人士馬文·明斯基都曾著書稱“神經(jīng)網(wǎng)絡(luò)實際上無法實現(xiàn)人們期望的功能”。

盡管如此，欣頓始終相信大腦一定是通過某種原理進行工作的。上世紀70年代時他的研究方向一直受到質(zhì)疑，念研究生的他不斷央求導師再給他六個月的時間，他一定可以證明大腦是如何工作的。而六個月之后，這樣的執(zhí)拗會繼續(xù)上演。

事實上，早期科研人員曾分成了人工智能（AI）和智能增強（IA）兩大陣營，“用計算機取代人類”的 AI 兩度陷入困境，“用計算機來增強人類智慧”的 IA 則在迅猛發(fā)展，從鼠標、個人計算機到智能手機的普及似乎讓人們逐漸淡忘了人工智能的童話。

欣頓博士畢業(yè)后在英國找不到工作糊口，便去了美國。但是他發(fā)現(xiàn)在那里從事人工智能領(lǐng)域研究仍存在局限，因為相關(guān)研究的資金支持幾乎都來源于軍隊。欣頓曾半開玩笑地說：“計算機會比美國人先理解諷刺。”相比之下，加拿大的研究環(huán)境更加自由，后來他加入多倫多大學任教。

那時，學界對神經(jīng)網(wǎng)絡(luò)的態(tài)度還充斥著偏見，想要發(fā)表提及“神經(jīng)元”或者“神經(jīng)網(wǎng)絡(luò)”的論文都十分困難。即便如此，欣頓始終進行著這些看似“浪費”的基礎(chǔ)性研究，并用一些比較含糊的描述方式發(fā)表關(guān)于神經(jīng)網(wǎng)絡(luò)的論文。

欣頓的實驗室一度被奉為多倫多大學“不可久留之地”，他的研究方向也從未被看好。實驗室每周的“吶喊”還是會繼續(xù)，作為深度學習的積極推動者，欣頓培育影響了一批現(xiàn)在卓有成就的科學家，其中包括“卷積神經(jīng)網(wǎng)絡(luò)之父”、現(xiàn) Facebook 人工智能實驗室（FAIR）負責人楊立昆（ Yann LeCun）。

楊立昆出生于法國巴黎，后來與欣頓一樣走上了神經(jīng)網(wǎng)絡(luò)研究的“不歸路”。同樣經(jīng)歷人工智能寒冬的楊立昆經(jīng)歷過質(zhì)疑和批評，甚至在團隊研究取得成功的那天項目被解散。

將神經(jīng)網(wǎng)絡(luò)運用于計算機視覺在上世紀80年代的主流學界看來“并不科學”。哪怕到了21世紀初，其他學者仍不允許楊立昆其會議上發(fā)表論文。

幾乎一夜之間，計算機視覺領(lǐng)域出現(xiàn)了爆炸式增長。隨著計算能力的增強和互聯(lián)網(wǎng)的海量數(shù)據(jù)，加之欣頓與楊立昆、約書亞·本吉奧等許多同行在過去十幾年中踩過的坑，他們“信仰”的神經(jīng)網(wǎng)絡(luò)終于征服了世界。

在2012年斯坦福大學人工智能實驗室主任李飛飛組織的 ImageNet 視覺識別挑戰(zhàn)賽上，欣頓與他的研究生憑借“卷積神經(jīng)網(wǎng)絡(luò)”（CNN）一鳴驚人，不僅識別出了貓，還區(qū)分出了不同品種的貓。這樣顛覆式的識別方式，準確率超過第二名東京大學10%以上，獲得冠軍。而自2015年起，人工智能在 ImageNet 的錯誤率已經(jīng)低于人類水平。

同樣是2012年，谷歌大腦的一名實習生 Quoc Le 從 YouTube 中獲取了大量數(shù)據(jù)之后訓練神經(jīng)網(wǎng)絡(luò)總結(jié)出一張圖片，于是機器視覺中的“貓”就誕生了。深度學習一炮而紅。次年谷歌收購了欣頓的初創(chuàng)公司DNNresearch，這位神經(jīng)網(wǎng)絡(luò)領(lǐng)域的先驅(qū)成了谷歌門下的“實習生”。

發(fā)笑

“我不能創(chuàng)造的東西，我就不了解。”

現(xiàn)在就職于谷歌人工智能實驗室的伊恩·古德費洛（Ian Goodfellow）引用了物理學家理查德·費曼（Richard Feynman）的這句話，想要表達的卻是“人工智能不能創(chuàng)造的東西，它就不了解。”

面對已經(jīng)可以識別圖像的人工智能，這位曾夢想成為一名作家的年輕人工智能研究者說：“如果一個人工智能可以基于逼真的細節(jié)來想象這個世界，學習如何想象出逼真的圖像和逼真的聲音，這將鼓勵人工智能學習實際存在的世界的結(jié)構(gòu)。”

2014年，還在加拿大蒙特利爾大學攻讀博士的古德費洛構(gòu)想出“生成對抗網(wǎng)絡(luò)”（GANs）——生成逼真的模型“愚弄”人工智能。楊立昆曾稱贊“生成對抗網(wǎng)絡(luò)”（GANs）是“過去20年深度學習領(lǐng)域最酷的想法”。

在古德費洛的試驗中，小狗圖像被機器識別成鴕鳥，不同的物體都能被識別成飛機，甚至連下圖中的高斯噪聲也被識別為一架飛機。

他們將加過噪點的樣本稱為“對抗性樣本”，對抗性樣本的實際應(yīng)用場景包括欺騙惡意軟件檢測器網(wǎng)絡(luò)、欺騙通過遠程托管的API（MetaMind、亞馬遜、谷歌）訓練的真實分類器等。

古德費洛在2016年10月份參加了 GeekPwn硅谷站，與來自谷歌的Alexey Kurakin博士現(xiàn)場分享了“對抗性圖像在物理世界中欺騙機器學習”的成果。

如果僅僅用一張計算機生成的圖片傳給機器進行識別，這便剔除了外部環(huán)境中眾多的不可抗干擾。于是，他們采用了白盒攻擊模型（即在攻擊者已經(jīng)獲得機器學習使用算法和參數(shù)的情況下進行攻擊）。結(jié)果表明87%的對抗性圖像在外接環(huán)境中仍能成功欺騙機器，因此對抗樣本在真實環(huán)境下仍然有效。

此外，有研究表明對抗樣本針對強化學習（Reinforcement Learning）同樣有作用。在深度學習取得突破性進展的情況下，隨著AlphaGo的成功，強化學習也得到了越來越多的關(guān)注。但是伯克利大學、OpenAI、賓大以及內(nèi)達華大學等研究者發(fā)現(xiàn)強化學習智能體也能被對抗性樣本操控。

造就

現(xiàn)在機器學習正處于風口浪尖，無論是“人工智能面臨第三次寒冬”或者“奇點降臨”的論調(diào)都不絕于耳。好在這些鼓吹、唱衰都還是人類干的。

個人助理、安防終端、自動駕駛、醫(yī)療診斷、電商零售、金融以及教育......人類將會被這些人工智能裹挾，當算法統(tǒng)治世界時，人類是否還有能力控制算法？

以史蒂芬·霍金、比爾·蓋茨等為代表的眾多科技界人士紛紛表示，人類應(yīng)該警惕人工智能，超人工智能是對人類最大的威脅。伊隆·馬斯克更是擔心“人類是在召喚魔鬼”。

人工智能作為人類創(chuàng)造的程序，和人一樣并不完美。不管是被人教壞的微軟聊天機器人Tay，還是因為搜索特定職業(yè)圖片而出現(xiàn)的性別歧視、需要人工干預的谷歌搜索，偏見依舊存在于人工智能。有的時候可能不是算法錯了，而是樣本的禍。

人工智能思考的邊界在哪里、奇點何時降臨，這些或許沒人知道。但是黑客開始對人工智能發(fā)起挑戰(zhàn)，如果機器僅僅是在“復制人類的創(chuàng)造力”，那么黑客要在它犯錯誤前制止它；如果機器擁有了“超越人類的創(chuàng)造力”，那些最出色的黑客依舊相信“任何事都是可能的”。

“我們現(xiàn)在是幫助人工智能成長，希望有朝一日，黑客可以成為保護人類的那群人。”碁震KEEN公司創(chuàng)始人兼CEO、GeekPwn發(fā)起人王琦近日在一個《人“攻”智能》的分享中如是說道。