摘要:第二次則是今年初,論文被深度學(xué)習(xí)盛會拒絕。表示遺憾乃至憤怒的人不在少數(shù)。他認(rèn)為,使從其他學(xué)術(shù)實(shí)驗(yàn)室中脫穎而出的,是它的跨領(lǐng)域文化。騰訊也在籌建人工智能實(shí)驗(yàn)室,近期消息就會正式公布。
牛津大學(xué)和 DeepMind 的研究人員合作,開發(fā)出一款能夠閱讀唇語的系統(tǒng),這個名叫 Watch, Attend and Spell(WAS)的軟件在實(shí)際表現(xiàn)中遠(yuǎn)遠(yuǎn)超越了人類專家的水平。
研究人員使用計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)算法,使用 5000 小時的 BBC 新聞視頻錄像訓(xùn)練模型,這些視頻里包含了 1000 多個不同的人說的將近 12 萬句話,單詞量有 17,500 個。
或許,你還記得 DeepMind 去年推出的唇語技術(shù) LipNet。LipNet 先后在媒體上出了兩次名,最初被媒體報道時,憑借 50% VS 12% 的壓倒性勝利戰(zhàn)勝了人類唇語專家,讓很多人驚呼,這是構(gòu)建自動唇語識別系統(tǒng)的重要一步。
第二次則是今年初,LipNet 論文被深度學(xué)習(xí)盛會 ICLR 2017 拒絕。匿名審稿專家稱,LipNet 這篇論文沒有革新性的貢獻(xiàn),激起很多討論。表示遺憾乃至憤怒的人不在少數(shù)。
今天,DeepMind 團(tuán)隊(duì)宣布,他們的唇語論文 WAS 被 CVPR 2017 高分接收,而且將作為口頭論文展示。值得一提,WAS 與 LipNet 較大的區(qū)別——實(shí)際上就是名字。
當(dāng)然,兩篇論文的作者還是不同的。但仔細(xì)看內(nèi)容就會發(fā)現(xiàn),WAS 與 LipNet 的高度相似。
但是,針對這個頗有戲劇性的事件,我們想討論的并不是論文或會議評審,而是為什么 DeepMind 總是能一次又一次地很輕松地拿出成果,完爆人類(甚至專家)。
這家(目前為止)不靠產(chǎn)品,而是靠著思想推動人工智能,進(jìn)而改變世界的公司,他們一次次超越人類的原因又在哪里?
《金融時報》記者 Madhumita Murgia 日前深入 DeepMind,揭開這家公司團(tuán)隊(duì)協(xié)作、組織架構(gòu)和公司文化的秘密。
構(gòu)建獨(dú)一無二的組織文化,專為吸引頂尖人才
從貝葉斯數(shù)學(xué)家到認(rèn)知神經(jīng)科學(xué)家,從統(tǒng)計(jì)學(xué)家到計(jì)算機(jī)科學(xué)家,DeepMind聚集了全球在機(jī)器智能方面的較高級學(xué)者和專家。
“我們要做的是一種獨(dú)一無二的文化融合——來自初創(chuàng)公司的焦點(diǎn)和能量,加上學(xué)術(shù)界天馬行空的思考。”DeepMind的聯(lián)合創(chuàng)始人和首席執(zhí)行官Demis Hassabis對《金融時報》說,“我們聘用了250位世界上最棒的科學(xué)家,他們加入我們的目的就是要盡情施展他們的創(chuàng)造力,我們會盡一切努力為他們創(chuàng)造這樣的環(huán)境。”
DeepMind 首席執(zhí)行官 Demis Hassabis ?? Charlie Bibby
DeepMind研究人員都有一個共同的使命:破譯人類的智慧,用人工的方式將其再造出來。
今天,DeepMind的目標(biāo)已經(jīng)不只是在某種游戲項(xiàng)目上創(chuàng)造一個比人類職業(yè)選手更好的AI,而是使用從中獲取的知識來產(chǎn)生“大規(guī)模的社會影響”,DeepMind的另一個聯(lián)合創(chuàng)始人Mustafa Suleyman如是說。他曾任聯(lián)合國危機(jī)協(xié)調(diào)員。
這番話如果出自硅谷某個高層之口可能有些不那么誠懇,在那里每個初創(chuàng)公司都相信自己要改變世界。然而DeepMind或許真的理解了他們正在做的事情的意義:他們?nèi)〉玫目萍歼M(jìn)步已經(jīng)在真實(shí)世界的復(fù)雜場景中得到了應(yīng)用。
AI醫(yī)療研究是DeepMind專注的領(lǐng)域之一
例如像AlphaGo這樣的算法,正在用于蛋白質(zhì)折疊的研究,以加速UK’s Crick Institute的新藥物發(fā)現(xiàn);也被用于分析醫(yī)學(xué)圖像,以便 London’s University College Hospital 作出更準(zhǔn)確的癌癥診斷和治療計(jì)劃。
此外,深度強(qiáng)化學(xué)習(xí)還正在用于為Google的數(shù)據(jù)中心節(jié)省大量電力能源。在上述最后一項(xiàng)中,DeepMind的實(shí)驗(yàn)取得了節(jié)能15% —— 或節(jié)省40%冷能的成果——這相當(dāng)于數(shù)百萬美元。DeepMind現(xiàn)在希望將客戶范圍擴(kuò)大到英國國家電網(wǎng)和其他公用事業(yè)提供商。
DeepMind 將深度強(qiáng)化學(xué)習(xí)用于谷歌數(shù)據(jù)中心節(jié)能,現(xiàn)在還和英國政府洽談接入調(diào)節(jié)英國電網(wǎng)節(jié)能
“我們在真實(shí)世界的大規(guī)模的、嘈雜又混亂的數(shù)據(jù)集上測試我們的算法。”Suleyman說,“這是一種解決我們最復(fù)雜社會問題的相當(dāng)獨(dú)特的方法。”
研究人員被分為四個大組,還有兩三個“別動隊(duì)”
“如果你看看谷歌5、6年前的工作方式,會發(fā)現(xiàn)它的研究在很大程度上是以產(chǎn)品為導(dǎo)向的,而且周期較短。這被認(rèn)為是個優(yōu)勢。”Hassabis說道,“但如果你想盡快地推進(jìn)研究,那么就需要給科學(xué)家空間,好讓他們思考什么對研究是有利的,而不是對某種產(chǎn)品需求負(fù)責(zé)。”
DeepMind已經(jīng)三次登上Nature的封面,有120多篇論文在較高級科學(xué)會議上發(fā)表,這表明了其旺盛的科技創(chuàng)造力,也表明了其在谷歌的特殊地位。
DeepMind 研究成果屢次發(fā)表在較高級期刊,左邊便是最著名的 AlphaGo 登上Nature 封面
“現(xiàn)在我們的研究團(tuán)隊(duì)完全不受任何短期需求的影響,不管是來自谷歌內(nèi)部還是外部的。我們希望對世界產(chǎn)生巨大影響,但我們的研究需要得到呵護(hù)。”Hassabis說道。“我們已經(jīng)展示了憑借這樣的公司文化,我們可以取得多大的成就。我認(rèn)為谷歌也注意到了這一點(diǎn),他們因此對我們也有了更為長遠(yuǎn)的訴求。”
DeepMind現(xiàn)在手頭上還有6篇論文手稿明年有望刊登在Nature、Science這樣的較高級科學(xué)期刊上。“這方面我們比其他學(xué)術(shù)實(shí)驗(yàn)室做得更好,但我們的目標(biāo)并不是產(chǎn)出一篇Nature論文。”Hassabis說,“我們集中精力攻克每一個具體問題。進(jìn)行偉大的科學(xué)研究,論文發(fā)布就是自然而然的副產(chǎn)品。” ?
DeepMind研究人員被分入四個主要的組,名為“神經(jīng)科學(xué)”或“前沿學(xué)科”(這個組主要由物理學(xué)家和數(shù)學(xué)家組成,測試AI領(lǐng)域最具前瞻性的理論)。除此以外有一些更深入更專業(yè)的團(tuán)隊(duì)。其中許多項(xiàng)目負(fù)責(zé)人都是Hassabis上一家公司Elixir Studios的游戲制作人。
每8周,科學(xué)家們向包括Hassabis和研究負(fù)責(zé)人Shane Legg的團(tuán)隊(duì)領(lǐng)導(dǎo)講述自己的研究進(jìn)展。團(tuán)隊(duì)的領(lǐng)導(dǎo)人以此來決定針對數(shù)十個項(xiàng)目的研究資源分配。“我們交流想法,思考,測試,找出看上去有成效的項(xiàng)目,并分析原因。”Legg說。
進(jìn)展迅速的項(xiàng)目會得到更多的人力和時間,而其他一些會被停掉,所有這些只是幾周的事情。“在學(xué)術(shù)機(jī)構(gòu)里,為了一個新的輪回,你可能要等上幾年。但我們這里資源轉(zhuǎn)換的速度非常快。”Hassabis說。
其他時間里,公司也有兩到三個稱為“別動隊(duì)”的團(tuán)隊(duì),用來解決一些特定問題。“我們在AlphaGo上就是這么做的。一旦它在開始六個月顯現(xiàn)出某種前景,我們就會加派一個帶有專業(yè)技能的15人的團(tuán)隊(duì),來把它進(jìn)行到底。”Hassabis說,“這就允許我們把最適合的專家派過去。他們就像是臨時調(diào)任到那個項(xiàng)目上去,最終他們會回到他們原來的項(xiàng)目中。”
DeepMind 團(tuán)隊(duì)
提倡跨領(lǐng)域合作;“不僅是職業(yè)選擇,更是生活方式的改變”
對于一些世界上最聰明的大腦來說,這種組織文化像一塊吸鐵石。Jane Wang是DeepMind的一位認(rèn)知神經(jīng)科學(xué)家,她曾在芝加哥的Northwestern University做博士后。她說她加入DeepMind是受到了DeepMind清晰的社會使命的吸引。“我在其他一些產(chǎn)業(yè)實(shí)驗(yàn)室也面試過,DeepMind跟它們不同,這里沒有明顯的產(chǎn)品化帶來的壓力,也沒有太多限制。這里的使命就是保持好奇。”她說道。
對于神經(jīng)科學(xué)團(tuán)隊(duì)的領(lǐng)導(dǎo) Matt Botvinick 來說,加入DeepMind不僅是一個事業(yè)抉擇,更是生活方式的變化。這位Princeton University神經(jīng)科學(xué)學(xué)院的前教授繼續(xù)生活在美國,每隔一周和倫敦的DeepMind實(shí)驗(yàn)室溝通一次。
“在普林斯頓,我身邊都是絕頂聰明的人,他們對于不關(guān)注首要科學(xué)問題的工作環(huán)境沒有興趣。”他說,“而我無法抗拒加入DeepMind的誘惑,因?yàn)檫@里有一些真正新鮮的事物在發(fā)生著。”
他認(rèn)為,使DeepMind從其他學(xué)術(shù)實(shí)驗(yàn)室中脫穎而出的,是它的跨領(lǐng)域文化。這反映在公司聘用的專家身上。這些專家來自各個領(lǐng)域,從心理學(xué)到深度學(xué)習(xí),從物理學(xué)到編程。
“許多學(xué)院都有點(diǎn)老死不相往來的感覺。兩個研究相似問題的相鄰實(shí)驗(yàn)室,可能從來不會相互溝通交換信息。”Botyinick說,“DeepMind不像我工作過的任何地方,可以隨時得到來自不同學(xué)科背景的意見。”
BAT 如何招攬人才、留住人才?
以 BAT 領(lǐng)銜的中國科技公司也在積極組建、擴(kuò)展以及完善自己的 AI 實(shí)驗(yàn)室。百度在中國的北京、上海、深圳,還有美國的硅谷都有 AI 實(shí)驗(yàn)室,目前團(tuán)隊(duì)已經(jīng)有 1300人,今年預(yù)計(jì)還要擴(kuò)招幾百人。
就在 3月9日,在阿里巴巴首屆技術(shù)大會上,馬云宣布啟動一項(xiàng)代號“NASA”的計(jì)劃,面向未來20年組建獨(dú)立研發(fā)部門,關(guān)注機(jī)器學(xué)習(xí)、芯片、IoT等核心技術(shù)。
騰訊也在籌建人工智能實(shí)驗(yàn)室——AI Lab,近期消息就會正式公布。
面對以 DeepMind 為代表的強(qiáng)勁國外對手,BAT 打算如何招攬人才,在招攬到人才后,又計(jì)劃如何留住這些人才?
參考資料
《金融時報》原文鏈接:https://www.ft.com/content/cada14c4-d366-11e6-b06b-680c49b4b4c0
歡迎加入本站公開興趣群商業(yè)智能與數(shù)據(jù)分析群
興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價值的辦法,實(shí)際應(yīng)用案例分享與討論,分析工具,ETL工具,數(shù)據(jù)倉庫,數(shù)據(jù)挖掘工具,報表系統(tǒng)等全方位知識
QQ群:81035754
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://specialneedsforspecialkids.com/yun/4489.html
摘要:深度學(xué)習(xí)現(xiàn)在被視為能夠超越那些更加直接的機(jī)器學(xué)習(xí)的關(guān)鍵一步。的加入只是谷歌那一季一系列重大聘任之一。當(dāng)下谷歌醉心于深度學(xué)習(xí),顯然是認(rèn)為這將引發(fā)下一代搜索的重大突破。移動計(jì)算的出現(xiàn)已經(jīng)迫使谷歌改變搜索引擎的本質(zhì)特征。 Geoffrey Hiton說:我需要了解一下你的背景,你有理科學(xué)位嗎?Hiton站在位于加利福尼亞山景城谷歌園區(qū)辦公室的一塊白板前,2013年他以杰出研究者身份加入這家公司。H...
摘要:年的深度學(xué)習(xí)研討會,壓軸大戲是關(guān)于深度學(xué)習(xí)未來的討論。他認(rèn)為,有潛力成為深度學(xué)習(xí)的下一個重點(diǎn)。認(rèn)為這樣的人工智能恐懼和奇點(diǎn)的討論是一個巨大的牽引。 2015年ICML的深度學(xué)習(xí)研討會,壓軸大戲是關(guān)于深度學(xué)習(xí)未來的討論。基于平衡考慮,組織方分別邀請了來自工業(yè)界和學(xué)術(shù)界的六位專家開展這次圓桌討論。組織者之一Kyunghyun Cho(Bengio的博士后)在飛機(jī)上憑記憶寫下本文總結(jié)了討論的內(nèi)容,...
摘要:取得博士學(xué)位后,他加入的團(tuán)隊(duì),在多倫多大學(xué)攻讀博士后,在年跟和合著了提出深度信念網(wǎng)絡(luò)的論文。只有充分了解,才能做出強(qiáng)有力的戰(zhàn)略決策。這帶來的一個重大問題是,個人隱私數(shù)據(jù)被其他人控制。機(jī)器學(xué)習(xí)是數(shù)據(jù)驅(qū)動的,與統(tǒng)計(jì)數(shù)據(jù)緊密相關(guān)。 昨天,谷歌 DeepMind 聯(lián)合創(chuàng)始人 Demis Hassabis 發(fā)布了這樣一條消息:很高興 Yee Whye Teh 和 Simon Osindero 加入團(tuán)隊(duì)...
閱讀 2292·2021-11-24 09:39
閱讀 2534·2021-11-22 15:24
閱讀 2975·2021-09-02 09:48
閱讀 3008·2021-07-26 22:01
閱讀 1432·2019-08-30 11:09
閱讀 1672·2019-08-29 18:47
閱讀 600·2019-08-29 15:40
閱讀 2131·2019-08-29 15:22