1950年，“計算機科學之父”阿蘭·圖靈提出這樣一個問題：機器會思考嗎？

在你給出肯定或否定的回答之前，我們首先思考一下——什么是“思考”。

自然界中，作為人主要區別于其他生物的能力，“思考”將我們置于統治者的至高地位。這種分析、綜合、判斷、推理、概括的思維活動，讓人類善于發現事物發展規律，我們暫且簡單粗暴地將其歸納為“學習能力”。

目前科學家認為人類“學習”主要由大腦皮層完成的，人類平均擁有860億個神經元，其中大腦皮層占據了160億個。神經元的神奇之處在于它們之間的連接數量巨大，每個神經元可能有成千上萬個連接，而這些連接以毫秒級的速度傳遞著“信息”。

人腦是物種進化的產物，這是大自然的饋贈。在大腦的驅使下，人類繼續在探尋著大腦的秘密。

機器

“我發現了人腦是如何工作的！”

多倫多大學的一個實驗室每周都會傳出這樣的吶喊聲，從事人工智能研究已經四十余年的杰弗里·欣頓（Geoffrey Hinton）終于從非主流變成主流。再次驗證了“科學沒有主流”的說法。

1972年，離開劍橋大學的欣頓進入了愛丁堡大學研究人工智能——這個從誕生之初便帶有科幻色彩的學科。他執著于尋找大腦工作的原理，直到遇見了發明于20世紀50年代的神經網絡，他找到自己的“繆斯”。

神經網絡是一種模仿大腦結構和功能的數據模型，模仿人類神經網絡，經典神經網絡包含了輸入層、中間層與輸出層。

1958年，由兩層神經元組成的神經網絡“感知器”被計算科學家 Frank Rosenblatt 提出，他證明了機器識別手寫字母的潛力。但那時“感知器”只能處理簡單的線性分類任務，因此獲得人們言過其實的贊譽后便進入了冰河期，連人工智能領域權威人士馬文·明斯基都曾著書稱“神經網絡實際上無法實現人們期望的功能”。

盡管如此，欣頓始終相信大腦一定是通過某種原理進行工作的。上世紀70年代時他的研究方向一直受到質疑，念研究生的他不斷央求導師再給他六個月的時間，他一定可以證明大腦是如何工作的。而六個月之后，這樣的執拗會繼續上演。

事實上，早期科研人員曾分成了人工智能（AI）和智能增強（IA）兩大陣營，“用計算機取代人類”的 AI 兩度陷入困境，“用計算機來增強人類智慧”的 IA 則在迅猛發展，從鼠標、個人計算機到智能手機的普及似乎讓人們逐漸淡忘了人工智能的童話。

欣頓博士畢業后在英國找不到工作糊口，便去了美國。但是他發現在那里從事人工智能領域研究仍存在局限，因為相關研究的資金支持幾乎都來源于軍隊。欣頓曾半開玩笑地說：“計算機會比美國人先理解諷刺。”相比之下，加拿大的研究環境更加自由，后來他加入多倫多大學任教。

那時，學界對神經網絡的態度還充斥著偏見，想要發表提及“神經元”或者“神經網絡”的論文都十分困難。即便如此，欣頓始終進行著這些看似“浪費”的基礎性研究，并用一些比較含糊的描述方式發表關于神經網絡的論文。

欣頓的實驗室一度被奉為多倫多大學“不可久留之地”，他的研究方向也從未被看好。實驗室每周的“吶喊”還是會繼續，作為深度學習的積極推動者，欣頓培育影響了一批現在卓有成就的科學家，其中包括“卷積神經網絡之父”、現 Facebook 人工智能實驗室（FAIR）負責人楊立昆（ Yann LeCun）。

楊立昆出生于法國巴黎，后來與欣頓一樣走上了神經網絡研究的“不歸路”。同樣經歷人工智能寒冬的楊立昆經歷過質疑和批評，甚至在團隊研究取得成功的那天項目被解散。

將神經網絡運用于計算機視覺在上世紀80年代的主流學界看來“并不科學”。哪怕到了21世紀初，其他學者仍不允許楊立昆其會議上發表論文。

幾乎一夜之間，計算機視覺領域出現了爆炸式增長。隨著計算能力的增強和互聯網的海量數據，加之欣頓與楊立昆、約書亞·本吉奧等許多同行在過去十幾年中踩過的坑，他們“信仰”的神經網絡終于征服了世界。

在2012年斯坦福大學人工智能實驗室主任李飛飛組織的 ImageNet 視覺識別挑戰賽上，欣頓與他的研究生憑借“卷積神經網絡”（CNN）一鳴驚人，不僅識別出了貓，還區分出了不同品種的貓。這樣顛覆式的識別方式，準確率超過第二名東京大學10%以上，獲得冠軍。而自2015年起，人工智能在 ImageNet 的錯誤率已經低于人類水平。

同樣是2012年，谷歌大腦的一名實習生 Quoc Le 從 YouTube 中獲取了大量數據之后訓練神經網絡總結出一張圖片，于是機器視覺中的“貓”就誕生了。深度學習一炮而紅。次年谷歌收購了欣頓的初創公司DNNresearch，這位神經網絡領域的先驅成了谷歌門下的“實習生”。

發笑

“我不能創造的東西，我就不了解。”

現在就職于谷歌人工智能實驗室的伊恩·古德費洛（Ian Goodfellow）引用了物理學家理查德·費曼（Richard Feynman）的這句話，想要表達的卻是“人工智能不能創造的東西，它就不了解。”

面對已經可以識別圖像的人工智能，這位曾夢想成為一名作家的年輕人工智能研究者說：“如果一個人工智能可以基于逼真的細節來想象這個世界，學習如何想象出逼真的圖像和逼真的聲音，這將鼓勵人工智能學習實際存在的世界的結構。”

2014年，還在加拿大蒙特利爾大學攻讀博士的古德費洛構想出“生成對抗網絡”（GANs）——生成逼真的模型“愚弄”人工智能。楊立昆曾稱贊“生成對抗網絡”（GANs）是“過去20年深度學習領域最酷的想法”。

在古德費洛的試驗中，小狗圖像被機器識別成鴕鳥，不同的物體都能被識別成飛機，甚至連下圖中的高斯噪聲也被識別為一架飛機。

他們將加過噪點的樣本稱為“對抗性樣本”，對抗性樣本的實際應用場景包括欺騙惡意軟件檢測器網絡、欺騙通過遠程托管的API（MetaMind、亞馬遜、谷歌）訓練的真實分類器等。

古德費洛在2016年10月份參加了 GeekPwn硅谷站，與來自谷歌的Alexey Kurakin博士現場分享了“對抗性圖像在物理世界中欺騙機器學習”的成果。

如果僅僅用一張計算機生成的圖片傳給機器進行識別，這便剔除了外部環境中眾多的不可抗干擾。于是，他們采用了白盒攻擊模型（即在攻擊者已經獲得機器學習使用算法和參數的情況下進行攻擊）。結果表明87%的對抗性圖像在外接環境中仍能成功欺騙機器，因此對抗樣本在真實環境下仍然有效。

此外，有研究表明對抗樣本針對強化學習（Reinforcement Learning）同樣有作用。在深度學習取得突破性進展的情況下，隨著AlphaGo的成功，強化學習也得到了越來越多的關注。但是伯克利大學、OpenAI、賓大以及內達華大學等研究者發現強化學習智能體也能被對抗性樣本操控。

造就

現在機器學習正處于風口浪尖，無論是“人工智能面臨第三次寒冬”或者“奇點降臨”的論調都不絕于耳。好在這些鼓吹、唱衰都還是人類干的。

個人助理、安防終端、自動駕駛、醫療診斷、電商零售、金融以及教育......人類將會被這些人工智能裹挾，當算法統治世界時，人類是否還有能力控制算法？

以史蒂芬·霍金、比爾·蓋茨等為代表的眾多科技界人士紛紛表示，人類應該警惕人工智能，超人工智能是對人類最大的威脅。伊隆·馬斯克更是擔心“人類是在召喚魔鬼”。

人工智能作為人類創造的程序，和人一樣并不完美。不管是被人教壞的微軟聊天機器人Tay，還是因為搜索特定職業圖片而出現的性別歧視、需要人工干預的谷歌搜索，偏見依舊存在于人工智能。有的時候可能不是算法錯了，而是樣本的禍。

人工智能思考的邊界在哪里、奇點何時降臨，這些或許沒人知道。但是黑客開始對人工智能發起挑戰，如果機器僅僅是在“復制人類的創造力”，那么黑客要在它犯錯誤前制止它；如果機器擁有了“超越人類的創造力”，那些最出色的黑客依舊相信“任何事都是可能的”。

“我們現在是幫助人工智能成長，希望有朝一日，黑客可以成為保護人類的那群人。”碁震KEEN公司創始人兼CEO、GeekPwn發起人王琦近日在一個《人“攻”智能》的分享中如是說道。