永久免费AV网站SM调教_精品国产精品国产偷麻豆_无码中字出轨中文人妻中文中_每章都有肉并且非常黄的小说

谷歌百人“復仇者聯盟”出擊!將發對標GPT-4的大模型

2023-08-17 245

編譯 | 香草
編輯 | 李水青



谷歌“復仇者聯盟”要面向OpenAI全軍(jun)出擊了!



智東西8月(yue)16日消息,據The Information獨家報(bao)道,谷歌(ge)于4月(yue)新(xin)合并的(de)AI SWAT團隊(dui)正(zheng)在(zai)為秋季大(da)型發(fa)布(bu)會做準備,將發(fa)布(bu)代號為Gemini的(de)大(da)模型,反擊OpenAI的(de)GPT-4。



多位開發人員爆料了(le)Gemini的(de)(de)跨模(mo)態文本(ben)生成圖(tu)(tu)像能力,及圖(tu)(tu)表分析、文字或(huo)語音指令(ling)等(deng)多種功(gong)能,并稱其有望為聊(liao)天(tian)機器人Bard等(deng)其他(ta)業務提(ti)供動力,從而與GPT-4的(de)(de)系(xi)列應用形成對壘。



背后,為了(le)該項目冰釋前嫌的DeepMind和谷歌大腦,也被(bei)傳出在代碼合(he)并、軟件使(shi)用(yong)及遠程辦(ban)公政策等方面(mian)面(mian)臨各種“聯姻”帶來的次(ci)生問題,一些項目磨(mo)合(he)的細(xi)節也被(bei)曝出。



谷歌的(de)“復(fu)仇者聯盟”版(ban)圖(tu)已經逐漸完(wan)整。The Information首(shou)次明(ming)確了該(gai)團隊(dui)中(zhong)的(de)小(xiao)組分工及各小(xiao)組主管,如下(xia)表(biao)格所(suo)示,來(lai)自兩個(ge)團隊(dui)的(de)26位主管的(de)信(xin)息(xi)被(bei)搜(sou)集梳理了出(chu)來(lai)。



▲Gemini各小組分工及領導人(圖源:The Information)



一、Gemini具備多模態能力,基于YouTube內容訓練



今年4月(yue),Alphabet首席執行官桑達爾·皮查伊(Sundar Pichai)采取了一項不同(tong)尋常的(de)舉措:將兩個擁有(you)不同(tong)文(wen)化(hua)和(he)代(dai)碼的(de)大(da)型(xing)AI團隊,谷歌(ge)大(da)腦和(he)DeepMind合并,以迎頭(tou)趕(gan)上OpenAI和(he)其(qi)他(ta)競爭對手。(AGI復仇者(zhe)聯盟!谷(gu)歌大腦與DeepMind官宣合體



現在,對這一(yi)努力(li)的(de)考驗(yan)即將到來(lai)。該公司有史以來(lai)投入最大(da)(da)的(de)產品之(zhi)一(yi)——大(da)(da)型機器(qi)學(xue)習模(mo)型Gemini即將在今年(nian)秋天發布(bu)。開發人(ren)士稱,Gemini不僅會配備(bei)類似GPT-4的(de)文(wen)本生成能力(li),還結合了文(wen)本生成圖像的(de)能力(li),類似于AI圖像生成器(qi)Midjourney和Stable Diffusion,有望使谷歌(ge)在打造產品方面的(de)能力(li)勝過其競爭對手。



谷歌員工還(huan)談到了Gemini的(de)一(yi)些其他(ta)功能,如分析圖表、創建帶有文(wen)字描述的(de)圖形(xing),及使(shi)用文(wen)字或語音指(zhi)令控制軟件。



谷歌希望通過(guo)(guo)Gemini為多(duo)個服(fu)務(wu)提供動(dong)力,包括與ChatGPT對標的(de)Bard聊天機器人,以(yi)及Google Docs和Slides等企(qi)業(ye)應用(yong)(yong)。盈利(li)方面(mian),谷歌計劃通過(guo)(guo)谷歌云(Google Cloud)服(fu)務(wu)器租用(yong)(yong)部門(men),向應用(yong)(yong)程序開(kai)發者收(shou)取Gemini的(de)使(shi)用(yong)(yong)費。



“這將(jiang)是有模型能與(yu)GPT-4旗(qi)鼓相當的(de)第一(yi)個跡象。”彭(peng)博社風投(tou)分(fen)支(zhi)Bloomberg Beta的(de)AI初(chu)創(chuang)企業投(tou)資人詹姆斯(si)·查姆(James Cham)談道,“我認為,在過去的(de)九(jiu)個月中,也許每個人都在問:什么時候(hou)才(cai)會有人看起來(lai)能趕上(shang)OpenAI?”



據The Information于6月(yue)14日的報道,谷歌在大量的YouTube視頻轉錄語料(liao)上對(dui)Gemini進行訓練,同時也可以(yi)將視頻和音頻集(ji)成到Gemini中(zhong),使(shi)其具備目(mu)前被認為是(shi)AI下一個前沿領域的多模態能力。



例如,通過YouTube視頻訓練出(chu)的模型可以(yi)輔(fu)助工程師(shi)根(gen)(gen)據視頻診斷汽車維修問題,也可以(yi)根(gen)(gen)據用(yong)戶想創建(jian)的網站或應用(yong)程序的草圖來(lai)生(sheng)成軟件代碼(ma)。OpenAI已經預(yu)告了(le)這種(zhong)功能,但尚未(wei)推(tui)出(chu)。



▲通過YouTube視頻來訓練機器學習模(mo)型(xing)(圖源:Shutterstock)



使用YouTube內容進行訓練還能幫助谷(gu)歌開發(fa)更為先進的文本視頻軟件,可以根據用戶想看的內容描述(shu)自動生成詳細的視頻。好萊(lai)塢和內容創作者正在密切(qie)關注這(zhe)類軟件的發(fa)展(zhan)。



二、DeepMind放棄原有項目,與谷歌大腦合研Gemini



谷歌大腦于2011年成(cheng)立(li),旨在利用AI改進谷歌搜索結果(guo)、廣告定位和(he)Gmail輔助完成(cheng)郵件等功能。DeepMind則(ze)于2014年被谷歌收購,此后一直(zhi)獨立(li)運營。



2022年11月,OpenAI發(fa)布了ChatGPT,幾周內(nei)用戶數量激增至數千萬,幾個(ge)月內(nei)營(ying)收(shou)達到(dao)數億美元。與此同時,谷(gu)歌正面臨著一系列離職潮(chao)。其多名研究(jiu)人員(yuan)流失到(dao)OpenAI,并在ChatGPT的開發(fa)過(guo)程中發(fa)揮了重(zhong)要作用。



在合并(bing)之前(qian),谷歌(ge)大(da)腦(nao)和DeepMind也曾分別開(kai)(kai)發了(le)(le)針對ChatGPT的(de)項(xiang)目。谷歌(ge)大(da)腦(nao)在今年3月(yue)利用現有模(mo)型(xing)推出了(le)(le)Bard,但被一些用戶批評只(zhi)是對ChatGPT的(de)有限模(mo)仿;DeepMind開(kai)(kai)展了(le)(le)一個代號為(wei)Goodall的(de)項(xiang)目,利用一種名為(wei)Chipmunk的(de)未公開(kai)(kai)模(mo)型(xing)的(de)變(bian)體來開(kai)(kai)發ChatGPT的(de)對手(shou)。最終,DeepMind停止了(le)(le)這項(xiang)工作(zuo),轉而與谷歌(ge)大(da)腦(nao)合作(zuo)開(kai)(kai)發Gemini,盡管這兩個AI團隊之間存在著長期的(de)競(jing)爭關系。



合并后的谷歌(ge)DeepMind由DeepMind聯合創始人戴密(mi)斯(si)·哈薩比斯(si)(Demis Hassabis)擔任CEO。知情人士稱,DeepMind的兩位(wei)高(gao)管奧里奧爾(er)·維尼亞爾(er)斯(si)(Oriol Vinyals)和科(ke)拉伊·卡(ka)夫丘格魯(Koray Kavukcuoglu)將與曾領導過谷歌(ge)大腦的資深高(gao)管杰夫·迪恩(Jeff Dean)一起(qi)負責Gemini。



▲谷歌DeepMind首席(xi)執行官戴密(mi)斯(si)·哈薩比斯(si)在(zai)紐約(圖源:蓋蒂圖片社)



三、“聯姻”弊端:代碼合并、軟件使用、遠程辦公政策等爭議多



兩個部(bu)門合并(bing)后,如何平衡從合并(bing)代碼到確定遠程工作政策等各(ge)個方面(mian)成為重要的問題(ti)。與DeepMind相比(bi),谷歌大腦在遠程工作方面(mian)要寬(kuan)松得多(duo)。



在開發(fa)過程(cheng)中,工程(cheng)師(shi)們是使(shi)用谷歌的軟(ruan)件,還(huan)是使(shi)用DeepMind的軟(ruan)件也引發(fa)爭議,因為(wei)這兩個部(bu)門(men)擁有(you)完全獨立(li)的代碼庫。



該項目最終的(de)(de)決定(ding)是,在(zai)模型開發(fa)的(de)(de)早(zao)期預訓練階段(duan),使用(yong)谷歌大腦用(yong)于訓練機器學習模型的(de)(de)軟(ruan)件(jian)(jian)Pax;在(zai)后期階段(duan),使用(yong)DeepMind開發(fa)模型的(de)(de)軟(ruan)件(jian)(jian)Core Model Strike。參與該項目的(de)(de)人(ren)士說,這一(yi)決定(ding)安撫(fu)了每個小組的(de)(de)研究人(ren)員(yuan),但也惹惱(nao)了一(yi)部(bu)分人(ren),因為他(ta)們不(bu)想使用(yong)不(bu)熟悉的(de)(de)軟(ruan)件(jian)(jian)。



除了機構合(he)并(bing),該團(tuan)隊(dui)在發展過(guo)程(cheng)上也(ye)一直面(mian)臨著諸多挑戰,包括如何確定可以在哪些(xie)數據上對模型(xing)進行訓練(lian)等。



谷歌(ge)的律師(shi)一直在密切評(ping)估訓練(lian)。據稱(cheng),他們(men)讓研(yan)究(jiu)人(ren)員刪除(chu)了來自(zi)教科書(shu)的訓練(lian)數(shu)據,因為(wei)擔心會涉(she)及侵權。



開發人員稱,谷歌(ge)聯合創始人謝爾蓋·布林(Sergey Brin)一直在(zai)對模型進行(xing)評估,并協助模型的(de)培訓。在(zai)團隊發現Gemini被(bei)訓練(lian)成具有潛在(zai)攻(gong)擊性的(de)模型后,布林也(ye)參(can)與了重新訓練(lian)模型的(de)技術決策(ce)。



谷歌發言人對此不予置評。



四、Gemini團隊數百人,由二十多位主管共同管理



谷歌大腦和DeepMind公司的(de)前主管共(gong)同管理(li)監督Gemini的(de)大部(bu)分小組,已(yi)曝光的(de)圖表(biao)中(zhong)共(gong)26位主管。The Information首次(ci)明確了他們在此項目(mu)中(zhong)的(de)角色。



▲Gemini各小組分(fen)工(gong)及(ji)領導人(圖(tu)源:The Information)



表中三(san)位(wei)團隊(dui)總體(ti)(ti)主管(guan)有(you)兩位(wei)來(lai)自(zi)DeepMind。科拉伊·卡夫丘格魯(Koray Kavukcuoglu)自(zi)2012年起便(bian)在DeepMind就(jiu)職,目(mu)前(qian)擔(dan)任(ren)谷(gu)(gu)歌(ge)(ge)DeepMind研究(jiu)(jiu)與(yu)技術副(fu)總裁,奧里奧爾(er)·維尼亞爾(er)斯(Oriol Vinyals)則(ze)擔(dan)任(ren)研究(jiu)(jiu)與(yu)深度學(xue)習(xi)副(fu)總裁。另一位(wei)總體(ti)(ti)主管(guan)杰夫·迪(di)恩(Jeff Dean)來(lai)自(zi)谷(gu)(gu)歌(ge)(ge)大腦,自(zi)1999年起便(bian)在谷(gu)(gu)歌(ge)(ge)就(jiu)職,目(mu)前(qian)擔(dan)任(ren)谷(gu)(gu)歌(ge)(ge)DeepMind和(he)谷(gu)(gu)歌(ge)(ge)研究(jiu)(jiu)院首席科學(xue)家。



Gemini將團隊劃(hua)分(fen)為約十個(ge)小組,分(fen)別負責預訓(xun)練、數據、基礎設施、模型微調、模型評估(gu)、代碼庫、多模態、強化學習、工具使(shi)用(yong)以(yi)及人(ren)工標注數據。



詹姆(mu)斯·莫洛伊(yi)(James Molloy)和湯姆(mu)·亨尼根(Tom Hennigan)都曾(ceng)在(zai)DeepMind工(gong)(gong)作(zuo)過(guo),與谷歌(ge)高級(ji)研究(jiu)員保(bao)羅·巴勒(le)姆(mu)(Paul Barham)等一(yi)起負責基(ji)礎設施(shi)建設。蒂莫西·利利克拉普(pu)(Timothy Lillicrap)曾(ceng)參與DeepMind國際(ji)象棋和圍棋相關(guan)系(xi)統的(de)工(gong)(gong)作(zuo),他(ta)和谷歌(ge)大腦研究(jiu)員艾米麗·皮特(te)勒(le)(Emily Pitler)負責管理(li)一(yi)個小組,該小組的(de)工(gong)(gong)作(zuo)重(zhong)點是賦(fu)予大型(xing)語言模(mo)型(xing)(LLM)處(chu)理(li)數(shu)學或網絡搜(sou)索等專業任務的(de)能力。



結語:谷歌計劃通過Gemini來趕超OpenAI



谷歌或將(jiang)于秋季發(fa)布會(hui)推出Gemini,這是其(qi)用來挑戰OpenAI目(mu)前(qian)在(zai)AI領域(yu)地位的重要舉(ju)措。The Information披(pi)露(lu)了該(gai)項(xiang)目(mu)最新的進展,包(bao)括其(qi)多(duo)模態能力、訓練數據等,且(qie)首次明確了該(gai)團隊的小組分工及主管。



Gemini項目的合并(bing)過程并(bing)不容易(yi),涉(she)及到(dao)兩個獨立團隊的磨合。谷(gu)歌既(ji)要推出新(xin)技(ji)術,又不能削弱(ruo)其核(he)心搜索業(ye)務(wu),且必須控制訓練Gemini可(ke)能產(chan)生的巨(ju)額服(fu)務(wu)器(qi)成本。Gemini的表現將會如何,讓我們期待谷(gu)歌的秋(qiu)季發(fa)布會。



來源:The Information


010-62227852

地(di)址:北京市順義區后沙峪(yu)裕(yu)曦路(lu)11號(南區)3號樓B-108室

郵編:101318

2016 - 2022 北京關鍵要素咨詢有限公司 版權所有