2018年11月18日下午，西安電子科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)部主任、人工智能學(xué)院焦李成教授在成都參加了由中國(guó)人工智能學(xué)會(huì)主辦的人工智能大講堂并做特邀報(bào)告，焦李成教授在報(bào)告中回顧了深度神經(jīng)網(wǎng)絡(luò)發(fā)展歷程，闡述了復(fù)雜影像的智能解譯與識(shí)別問題，并激勵(lì)大家在人工智能領(lǐng)域勇攀學(xué)術(shù)高峰，以下為報(bào)告記錄。
焦李成：很高興有這個(gè)機(jī)會(huì)跟大家一起交流。今天的演講是命題作文，人工智能學(xué)會(huì)今年開始做人工智能大講堂，學(xué)會(huì)理事會(huì)將其作為重要的品牌在做，以前是到各個(gè)學(xué)校去做，現(xiàn)在拿到高峰論壇來做是第一次。上午的也是張?jiān)洪L(zhǎng)的命題作文，一定要談人工智能，人才的培養(yǎng)，我覺得很高興有這個(gè)機(jī)會(huì)，跟大家一起交流。
一個(gè)名字，深度神經(jīng)網(wǎng)絡(luò)，兩句話大家記住了，李院士講的是深度學(xué)習(xí)不是萬能的，但是離開深度學(xué)習(xí)是萬萬不能的。這件事情作為我們內(nèi)行人來講，今年講的也比較多，內(nèi)行人也很自然能理解，給我們行業(yè)內(nèi)講是不講這個(gè)事的，但是給一般的聽眾講，包括給政府機(jī)關(guān)、百千萬人才、長(zhǎng)江杰青大講堂都講了這句話，這句話的意思是只要是能夠結(jié)構(gòu)化的、只要是能夠有規(guī)則的、只要你是有數(shù)據(jù)的，那么這個(gè)問題，你不要企圖和人工智能去拼。圍棋就是這樣，象棋也是這樣，它們是封閉、完備的，在這些問題上你算不過人工智能，沒有它算得快，同時(shí)這些規(guī)則在短時(shí)間內(nèi)的實(shí)施性，人做不到，人有感情，機(jī)器沒有感情，它下錯(cuò)一步，你說它怎么這么臭，它并不正視你，而是繼續(xù)下，人工智能一秒鐘算三千步，三萬步，而人看三十步已經(jīng)很偉大了。
這兩個(gè)視頻，一個(gè)是我學(xué)生做的，西安英卓未來公寓，另外一個(gè)是曠視做的。英卓未來公寓從房門開啟一直到最后的離開都是通過智能完成的。當(dāng)然你見不著人，但是人通過智能給了你最好的服務(wù)。所以他們開了第四家酒店，讓大眾能夠體驗(yàn)到智能家居的生活、享受到智能的品質(zhì)。曠視在做人臉識(shí)別這件事情，最早做這個(gè)事是商湯的Mark，我的學(xué)生、也是湯曉鷗老師的第一個(gè)學(xué)生，他做了20年的人臉識(shí)別，20年的堅(jiān)守厚積薄發(fā)，去年的7月份到9月份，三個(gè)月內(nèi)機(jī)場(chǎng)、高鐵、銀行全都用了他的技術(shù)。
大家都知道，這是波士頓動(dòng)力狗。大家看，它的三級(jí)跳，人都不一定能夠做得到，就是這么靈活，整個(gè)機(jī)器人經(jīng)過這么幾代以后，智能的行為、協(xié)調(diào)、所有的動(dòng)作做的很棒，我覺得對(duì)我們?nèi)祟愂且环N挑戰(zhàn)。在反恐、排爆、探險(xiǎn)，救險(xiǎn)這些領(lǐng)域當(dāng)中，這些技術(shù)是非常有用且必要的。我的學(xué)生做了一款為漸凍人服務(wù)的眼球控制智能出行及家居生活的輪椅系統(tǒng)，做了三代，正好有一位漸凍人“泰山英雄”，他的腿動(dòng)不了，手也不能完全控制，但他靠著手登上了泰山、華山，所以公眾叫他“泰山英雄”，有媒體聯(lián)系到了我們，那么我們將贈(zèng)送一臺(tái)智能輪椅給他，人工智能確實(shí)能夠改變我們?nèi)嗽谀承┣闆r下的不方便，我個(gè)人感覺還是一件非常有意義的事。這套輪椅系統(tǒng)能讓漸凍人及其他肌肉或骨骼受損的人不僅在室外能自己走，跟剛才說的智能公寓結(jié)合起來，通過眼睛的控制，能完成從開門到開關(guān)燈、開關(guān)窗簾、洗澡間等所有的智能生活起居。在杭州的一個(gè)比賽中，這套系統(tǒng)也很轟動(dòng)，得到了大家的認(rèn)可，拿了一個(gè)獎(jiǎng)項(xiàng)。當(dāng)然回來了我們認(rèn)識(shí)了“泰山英雄”，能讓他有了適合他的輪椅、能切切實(shí)實(shí)的幫到漸凍人，這是更重要的，我和我的學(xué)生都感到非常高興。
大家可能看不見，這是星載的，就是照相機(jī)和雷達(dá)裝在衛(wèi)星上然后拍攝地面的視頻，船在動(dòng)、高速上面的車在動(dòng)、然后機(jī)場(chǎng)的飛機(jī)在起飛，這是衛(wèi)星的視頻。衛(wèi)星視頻數(shù)據(jù)量非常大也非常高維，我們同時(shí)做到了在衛(wèi)星視頻數(shù)據(jù)量級(jí)上的艦船、飛機(jī)、車輛的監(jiān)測(cè)、跟蹤和分類，就是你傳送多少、運(yùn)動(dòng)速度多少、未知的信息全部能夠同時(shí)的實(shí)時(shí)識(shí)別出來。
將來首先失業(yè)的有可能是播音員，為什么呢？現(xiàn)在的語音合成技術(shù)完全可以和董卿一樣、和李梓萌一樣，聽上去有感情，但是聲音是合成的。（視頻）這樣的話就可以全天候的進(jìn)行播音。剛才舉的波士頓動(dòng)力、漸凍人的輪椅和智能工藝的結(jié)合、播音員的語音合成等例子都是活生生正在發(fā)生的。所以教育部也很重視人工智能，教育部各個(gè)專家組+咨詢組31個(gè)人，整個(gè)分布在十幾個(gè)高校。
其實(shí)我國(guó)的人工智能發(fā)展計(jì)劃歸結(jié)為三步走，四大任務(wù)，五大智能技術(shù)方向。三步走我們?cè)趺锤?、四大任?wù)我們?cè)趺慈ネ瓿桑€有五大方向我們?cè)诳蒲腥瞬诺呐囵B(yǎng)上怎樣去進(jìn)行匹配，這是我們需要考慮的問題。我認(rèn)為可以從四個(gè)部分考慮，一是基礎(chǔ)理論，二是共性技術(shù)，第三是基礎(chǔ)支撐平臺(tái)，第四是智能化基礎(chǔ)設(shè)施，智能基礎(chǔ)設(shè)施建設(shè)怎么和物聯(lián)網(wǎng)和云計(jì)算的基礎(chǔ)設(shè)施的建設(shè)相互協(xié)調(diào)起來，是我們需要思考的。
工信部的《新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃》大家應(yīng)該去看，目標(biāo)很清楚，產(chǎn)品要出來，核心技術(shù)要突破，實(shí)際上是為整個(gè)智能社會(huì)和2025智能制造做準(zhǔn)備，這件事大家一定要去做，要思考互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能三個(gè)支撐體系和基礎(chǔ)設(shè)施怎么樣相互協(xié)同，相互協(xié)調(diào)，共同促進(jìn)，你跟不上，你一定會(huì)落后。人工智能對(duì)全社會(huì)來講是共性的技術(shù)、普適的技術(shù)，對(duì)教育來講同樣是共性的、普適的課程，這一點(diǎn)我們現(xiàn)在都無法去想象，人工智能對(duì)于教育或者是智慧教育帶來的挑戰(zhàn)，我希望大家一定要去關(guān)注。
高校的行動(dòng)計(jì)劃，今年教育部連發(fā)五文，時(shí)間規(guī)劃涉及到2020年、2025年、2030年，內(nèi)容涉及創(chuàng)新體系，人才培養(yǎng)體系，成果轉(zhuǎn)化和示范應(yīng)用的基地，它的目標(biāo)是想干什么？對(duì)于高校教師，寫寫論文，帶帶學(xué)生已經(jīng)不夠了。人工智能的方向有什么呢？李院士講了，這是經(jīng)過多少次爭(zhēng)論后列出來的主要方向，6到8個(gè)，要根據(jù)各個(gè)不同的學(xué)校、不同的單位，不同的特色去建相應(yīng)的方向，一定要有特色而不能同質(zhì)化。
圍繞基礎(chǔ)理論的研究基金委是有布局的，也經(jīng)過了專家組充分的論證。人工智能的理論研究從56年到現(xiàn)在，一直在爭(zhēng)論也一直在斗爭(zhēng)，但不管你是三起三落還是八起八落，搞學(xué)術(shù)的人都得搞。別人不做的時(shí)候我們?cè)谧?，別人不待見的時(shí)候我們也在做，高潮來的時(shí)候，該怎么樣還怎么樣，做學(xué)術(shù)的人就要初心不改做自己的事。所以人工智能從誕生之初到現(xiàn)在，從需要模擬人的基本智能，推理、知識(shí)、規(guī)劃、學(xué)習(xí)、交流、感知到移動(dòng)和操作物體的能力，始終在延伸，始終在往前走，水平在不斷的去提高。人工智能不是人的智能，而是希望能夠像人那樣去思考，像自然演化那樣去學(xué)習(xí)和進(jìn)化。另外，進(jìn)化計(jì)算和自然計(jì)算結(jié)合起來有一些挑戰(zhàn)和問題，我覺得這兩個(gè)之間的概括需要有人去做，我已經(jīng)講過幾回，今天先不講，未來希望有機(jī)會(huì)也跟大家聊一聊進(jìn)化計(jì)算和自然計(jì)算的結(jié)合。
智能的兩條道，學(xué)習(xí)和感知、優(yōu)化和識(shí)別的能力什么時(shí)候都需要、什么時(shí)候都是智能的主體，怎么樣能夠把這兩個(gè)結(jié)合起來？我認(rèn)為這個(gè)時(shí)代說對(duì)了一部分，這部分就是可以用梯度算法去做，另外一部分是，進(jìn)化計(jì)算在結(jié)構(gòu)優(yōu)化上一定是比BP強(qiáng)的，梯度從哪兒求這件事情我覺得還是值得思考,無法獲得梯度怎么辦？人工智能從開始的符號(hào)、聯(lián)結(jié)、行為、貝葉斯到類推，人怎么認(rèn)知、自然怎么學(xué)習(xí)演化、人是怎么想的、怎么看的、怎么聽的、怎么說的、怎么走的、怎么動(dòng)的……神經(jīng)網(wǎng)絡(luò)都做到了嗎？我想說的是，從專家系統(tǒng)到中間基于特征的，再到聲音、語言，文字、圖像以及現(xiàn)在的感知行動(dòng)結(jié)合起來，這件事上是值得我們?nèi)プ叩摹?/span>
我個(gè)人認(rèn)為人工智能四大挑戰(zhàn)，無教師的學(xué)習(xí)何時(shí)能來？無監(jiān)督的學(xué)習(xí)深度何時(shí)能做？機(jī)器人能夠像人一樣去感知和理解這個(gè)世界嗎？機(jī)器的情感在哪里？前面說的這些都是網(wǎng)絡(luò)范式去做的，而人是在環(huán)境、場(chǎng)景中、運(yùn)動(dòng)中去感知，首先是感知這個(gè)世界，然后理解這個(gè)世界，之后去指揮自己的行為，最后再做一系列的事情。所以最終人工智能要對(duì)環(huán)境、對(duì)場(chǎng)景、對(duì)情感去感知和理解，形成動(dòng)力系統(tǒng)。更進(jìn)一步，人工智能的發(fā)展最重要的還是人，這個(gè)時(shí)候帶來的倫理、法律、道德、宗教等等深刻的社會(huì)問題我們?cè)趺慈ニ伎妓?、怎么去理解它以及怎么去面?duì)它。
美國(guó)白宮成立了人工智能研究中心，這是絕無僅有的，MIT結(jié)合AI成立新的計(jì)算機(jī)學(xué)院。這件事情我覺得對(duì)我們整個(gè)改革學(xué)校的教育，改革下一代的教育都有影響，我們要思考這意味著什么。人工智能改造了計(jì)算機(jī)的教育，斯坦福始終在創(chuàng)新引領(lǐng)的前沿，我們要思考他們做什么事情，我們要做以人為中心的人工智能的教育和改革。這件事情上，我們教育部的官員和教育工作者都要去好好學(xué)習(xí)，更要去看別人怎么去做。
所以說到對(duì)人工智能的戰(zhàn)略投資，包括對(duì)社會(huì)的變革、長(zhǎng)期的革命，MIT這件事情拿了10億美金，CMU創(chuàng)辦了世界上第一個(gè)人工智能本科專業(yè)，我知道在紐約辦了一個(gè)藝術(shù)學(xué)院與人工智能的結(jié)合，他們用6.4億美金，專門辦了一個(gè)藝術(shù)學(xué)院。我們不能只知道人家做了這件事，更要看這件事的內(nèi)容是什么，要眼光面向全世界，要看清楚怎么去做，我們要去引領(lǐng)。我就覺得這三件事情都是今年的，都是剛剛發(fā)生的事，所以這件事情上，我覺得美國(guó)還是清醒的，站在這個(gè)制高點(diǎn)，不能說我們?nèi)斯ぶ悄苡?jì)劃已經(jīng)很完美。當(dāng)然國(guó)內(nèi)的布局也很快，這件事情應(yīng)該說叫做“順勢(shì)而為，趁勢(shì)而上”，但我們千萬不要說吃了一碗面條，我們腦子就很聰明，好像不是那么回事，要懂得做全局優(yōu)化。
我想再?gòu)?qiáng)調(diào)一下，人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)我們內(nèi)行人應(yīng)該要搞清楚?，F(xiàn)在當(dāng)然說沒有比深度學(xué)習(xí)更有效的機(jī)器學(xué)習(xí)的辦法，人工智能當(dāng)然要去做事，肯定得靠深度學(xué)習(xí)，因?yàn)槟忝鎸?duì)的是黑箱、不完全的數(shù)據(jù)，而且宏觀上是大數(shù)據(jù)，微觀上對(duì)問題來講又是小樣本。所以對(duì)于深度學(xué)習(xí)，我們內(nèi)行人離不開他但也不要起哄。在傳統(tǒng)的體系結(jié)構(gòu)下，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)是什么？這個(gè)對(duì)話不在一個(gè)頻道上。
有監(jiān)督、無監(jiān)督、半監(jiān)督和強(qiáng)化的算法怎么用要看是什么情況，我們自己做這個(gè)內(nèi)行的人，千萬不要說你那個(gè)能干什么，這個(gè)能干什么，用的場(chǎng)合和問題不一樣，你可能在不同的場(chǎng)合，不同的任務(wù)，不同的問題需要用不同的方法去解決。我現(xiàn)在就害怕大家陷入一個(gè)坑，我們?cè)倩氐缴窠?jīng)網(wǎng)絡(luò)，最早1990年我出的書里神經(jīng)網(wǎng)絡(luò)的四個(gè)范式，反饋網(wǎng)絡(luò)就是現(xiàn)在大家通常講的網(wǎng)絡(luò)，或者是遞歸反饋的。還有自組織網(wǎng)，以及沒有體現(xiàn)的完全無監(jiān)督的學(xué)習(xí)。
大數(shù)據(jù)就講一句，我們所有處理的問題、深度學(xué)習(xí)的方法，機(jī)器學(xué)習(xí)的方法都一定是面向大數(shù)據(jù)的問題，但是單個(gè)問題拿到的又只是小樣本，一定得記住這一點(diǎn)，這個(gè)意義上來講，是大數(shù)據(jù)小樣本再加學(xué)習(xí)，這件事情上我們一定要把它結(jié)合起來做。面對(duì)大數(shù)據(jù)，面對(duì)海量數(shù)據(jù)，面對(duì)結(jié)構(gòu)和非結(jié)構(gòu)的數(shù)據(jù)大部分深度神經(jīng)網(wǎng)絡(luò)是不可解釋的、是黑箱的。大數(shù)據(jù)處理的很多方法，同樣是不可解釋的，因?yàn)槲覀儸F(xiàn)在處理這些數(shù)據(jù)時(shí)只講大、只講海，但處理數(shù)據(jù)其實(shí)也是物理過程，應(yīng)當(dāng)像人的認(rèn)知過程那樣是有生物意義和物理意義的，這個(gè)層面上來講，你把那兩個(gè)意義丟掉了，拿一堆數(shù)據(jù)就玩、算法遞歸迭代，最后什么都不解釋，人的經(jīng)驗(yàn)、規(guī)則哪里去了呢？你沒有用上。我經(jīng)常講的，過馬路的時(shí)候，對(duì)面有一個(gè)大美女，打了一個(gè)手機(jī)，還接了一個(gè)領(lǐng)導(dǎo)的電話，大車也穿過來了，旁邊還有一個(gè)小偷跟著你，你怎么處理？肯定保命要緊，先過馬路再說，人會(huì)分輕重緩急，而且是協(xié)同去做?；剡^頭來，我認(rèn)為最初研究神經(jīng)網(wǎng)絡(luò)的幾個(gè)人是要提的。通過學(xué)習(xí)的概念，通過學(xué)習(xí)感知的思想，通過學(xué)習(xí)優(yōu)化的思想，這個(gè)是神經(jīng)網(wǎng)絡(luò)的精髓。然后在這個(gè)基礎(chǔ)上再去做。中間需要把任務(wù)完成得好，就要優(yōu)化去做這件事情。所以說一定是學(xué)習(xí)、優(yōu)化、協(xié)同、控制和數(shù)據(jù)結(jié)合的。
我的印象應(yīng)該是在1988年Lippman的文章，所有神經(jīng)網(wǎng)絡(luò)做模式識(shí)別邊界的分析，邊界是那個(gè)時(shí)候劃出來的。大家第一次知道，非線性的問題變得如此簡(jiǎn)單。那個(gè)時(shí)候才出來三層神經(jīng)網(wǎng)絡(luò)，但三層神經(jīng)網(wǎng)絡(luò)可以逼近任意函數(shù)，是理論上證明的，不是今天才做的。之后結(jié)構(gòu)的設(shè)計(jì)、算法的構(gòu)造，使得方法變得更加有效、實(shí)用，離問題更近。以前是數(shù)據(jù)不夠、訓(xùn)練方法欠缺，同時(shí)人們的要求也沒有那么迫切，硬件的運(yùn)行也沒有那么好，而現(xiàn)在這四個(gè)條件，大概相對(duì)30年前已經(jīng)有了巨大的改善，我第一次看神經(jīng)網(wǎng)絡(luò)大概是83年，那個(gè)時(shí)候在成都聽加州大學(xué)伯克利分校的蔡少棠講了學(xué)一個(gè)月，講的非線性和混沌，那時(shí)因?yàn)榭陀^條件所限，研究發(fā)展不像現(xiàn)在那么迅速，而大數(shù)據(jù)的出現(xiàn)是應(yīng)景了，這兩者是契合了。這個(gè)意義上來講，在具備了有利客觀條件的今天，我們要把問題研究得更透徹，你怎么去進(jìn)行感知、判斷、決策，哪一個(gè)是決策者、哪一個(gè)是訓(xùn)練層、哪一個(gè)是推理層、哪一個(gè)是優(yōu)化層得搞清楚了。非線性的嵌套是有結(jié)構(gòu)的。從簡(jiǎn)單的特征，到特征的表征，到特征的學(xué)習(xí)，特征的表征與學(xué)習(xí)，現(xiàn)在演變成特征的表征學(xué)習(xí)，神經(jīng)網(wǎng)絡(luò)的演化進(jìn)程是有脈絡(luò)、有邏輯的。
關(guān)于神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)，專家系統(tǒng)三個(gè)要點(diǎn)要記?。褐R(shí)的表示，知識(shí)的學(xué)習(xí)，知識(shí)的推理。早期推理知識(shí)的辦法不多、表征的框架不多、手段不多。神經(jīng)網(wǎng)絡(luò)給了大家思想和方法，我希望大家記住對(duì)神經(jīng)網(wǎng)絡(luò)真正有貢獻(xiàn)的是這些人，43年Hebb規(guī)則和MP模型。1962年Widrow和他的學(xué)生提出了LMS。第一臺(tái)PC機(jī)是他發(fā)明的，其算法奠定了自適應(yīng)信號(hào)處理和自適應(yīng)控制技術(shù)基礎(chǔ)。這個(gè)是俄羅斯籍的斯坦福的教授，這個(gè)人記住，其貌不揚(yáng)，我覺得大家都應(yīng)該記住他Werbos，BP算法是他提出來的，1974年在哈佛大學(xué)拿博士學(xué)位的時(shí)候，就發(fā)表了一篇論文就沒有論文了，但是博士學(xué)位是拿到了，真正的BP算法是他提出來的，使三層神經(jīng)網(wǎng)絡(luò)可學(xué)習(xí)。整個(gè)大概十幾年的時(shí)間很紅火，而且是自己也做過世界神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)的主席和先驅(qū)，加州工學(xué)院Hopfield，三篇文章奠定了他的基礎(chǔ)。另外一個(gè)記住一個(gè)C.Mead，美國(guó)的三院院士，世界第一塊神經(jīng)網(wǎng)絡(luò)的芯片是他做的，這個(gè)人在集成電路一直是明星，大家一定要記住這件事情，神經(jīng)網(wǎng)絡(luò)不僅是今天。這個(gè)是芬蘭皇家科學(xué)院的院長(zhǎng)T.Kohonen教授，他來過很多回，提出了自組織特征映射網(wǎng)。徑向基神經(jīng)網(wǎng)絡(luò)出自Billing手，因?yàn)樗怯没瘮?shù)來做這件事情，做控制的人全部是用的，很高效。支撐向量機(jī)，這些都是神經(jīng)網(wǎng)絡(luò)模型，而且都是學(xué)習(xí)機(jī)，大家不要認(rèn)為是完全跟神經(jīng)網(wǎng)絡(luò)沒有關(guān)系，只是說那一陣跟神經(jīng)網(wǎng)絡(luò)“劃清界限”。淺層到深層的學(xué)習(xí)，大家要明白，本質(zhì)性上改變的是什么？你說前面的網(wǎng)絡(luò)淺，那在哪里深呢？規(guī)模深、特征深、還是機(jī)理深？還是怎么做的呢？我說理解深度的時(shí)候，我們要去做深在什么地方，對(duì)數(shù)據(jù)的匹配在哪些上面是做了本質(zhì)性的突破和改變，這件事情上我們一定要去做的。
我還是把他們列在一起，你記住所謂深度大咖的時(shí)候，別忘了上面這些人，這些人是他們的祖師爺。
中國(guó)神經(jīng)網(wǎng)絡(luò)的發(fā)展也是有一個(gè)過程的。
我們一直不說，但是路一直在走。簡(jiǎn)單的數(shù)據(jù)到了具體的對(duì)象，到了圖像，從小波變換到了小波網(wǎng)絡(luò)，從伸縮平移到了方向，到了圖像旋轉(zhuǎn)變換。所以說包括從地上到了天上，到了空中機(jī)載的。對(duì)象在變，需求在變，神經(jīng)網(wǎng)絡(luò)也好，機(jī)器學(xué)習(xí)也好，方法也在不斷的往前走。所以我們是把這個(gè)結(jié)合起來在走。剛才為什么說我希望講一下這些道理，因?yàn)檫M(jìn)化計(jì)算的第一篇文章，不叫人工智能，是優(yōu)化和學(xué)習(xí)在走，包括免疫的學(xué)習(xí)優(yōu)化，包括我們用到多目標(biāo)上面去做，包括做協(xié)同的、量子的，而且用到了真正目標(biāo)的識(shí)別上，我們都做了。這個(gè)過程我們回過頭來說，對(duì)于人工智能人才的培養(yǎng)，為什么我們心里面不太慌，經(jīng)過了十四五年的實(shí)踐和培養(yǎng)，反正我們也出了這些書，不敢說水平有多高，但是研究生，本科的教材是有參考的，我自己寫的，我也在不斷的更新。我們幾十本書，應(yīng)了人才培養(yǎng)教材之需，去年就包括做量子的，光學(xué)的，紅外的，包括到認(rèn)知的，稀疏的，一直到高分辨遙感，老先生一定要改成雷達(dá)圖像，我們一路走過來，今年完成的是量子計(jì)算，計(jì)算智能，簡(jiǎn)明人工智能等七八本，大概也有好幾十萬字。計(jì)算智能還有模式識(shí)別，反正都是在50、60萬字以上，還有自然計(jì)算的前沿，就是相當(dāng)于深度學(xué)習(xí)的前沿，還有一個(gè)大數(shù)據(jù)智能挖掘的。
從第一代到第二代，一直到現(xiàn)在的第三代神經(jīng)網(wǎng)絡(luò)，變化在什么地方，本質(zhì)在什么地方，做這件事情，我們一定要去。第一個(gè)是卷積神經(jīng)網(wǎng)絡(luò)，我理解的跟別人理解的卷積神經(jīng)網(wǎng)絡(luò)不一樣，很簡(jiǎn)單就是內(nèi)積。然后在電路里面，在學(xué)習(xí)信息里面，很簡(jiǎn)單，怎么走？一卷不就出來了嘛，卷積的概念大家知道是從數(shù)字信號(hào)處理出來的概念，物理概念和描述很清楚。其實(shí)最開始的時(shí)候，卷積也不火，不像現(xiàn)在牛哄哄的。
遞歸神經(jīng)網(wǎng)絡(luò)，一定有聯(lián)想記憶的。其實(shí)模式識(shí)別，以前叫做聯(lián)想記憶，聯(lián)想記憶學(xué)習(xí)優(yōu)化。這四件事情，要是在神經(jīng)網(wǎng)絡(luò)里實(shí)現(xiàn)了，你的功能就比單純的卷積去做要強(qiáng)大得多。所以遞歸同樣是可以做這件事情。
深度置信網(wǎng)提供的思想一定要記住，我能夠通過概率的判斷做某件事情。我通過概率的判斷和生成，能夠使這個(gè)神經(jīng)網(wǎng)絡(luò)的構(gòu)造性設(shè)計(jì)更加合理和有效。這是置信網(wǎng)的貢獻(xiàn)。其實(shí)現(xiàn)在更熱的是貝葉斯網(wǎng)絡(luò)學(xué)習(xí)。貝葉斯的分布。
分布完了以后，參數(shù)少。接下來就是可學(xué)習(xí)，這個(gè)參數(shù)我們可以學(xué)出來，學(xué)習(xí)關(guān)鍵的參數(shù)，那么這個(gè)分布就找到了，或者優(yōu)化的分布就找到了。實(shí)際上就是做了一個(gè)分布的估計(jì)。貝葉斯的描述、表征，估計(jì)和深度結(jié)合起來，這是貝葉斯網(wǎng)絡(luò)火起來最重要的原因。很自然，大家好不容易抓住一個(gè)貝葉斯分布，而且可以去做。深度可以給你學(xué)，何樂而不為，大家一定要找到一個(gè)結(jié)合點(diǎn)！
才能做這件事情。
主辦單位：中國(guó)電力發(fā)展促進(jìn)會(huì) 網(wǎng)站運(yùn)營(yíng)：北京中電創(chuàng)智科技有限公司 國(guó)網(wǎng)信通億力科技有限責(zé)任公司 銷售熱線：400-007-1585
項(xiàng)目合作：400-007-1585 投稿：63413737 傳真：010-58689040 投稿郵箱：yaoguisheng@chinapower.com.cn
《 中華人民共和國(guó)電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證 》編號(hào)：京ICP證140522號(hào) 京ICP備14013100號(hào) 京公安備11010602010147號(hào)
