當前位置：原創(chuàng) >

天天觀天下！谷歌大腦與 DeepMind 合二為一！為對抗 OpenAI 打造全新大模型

文章來源：量子位　發(fā)布時間： 2023-04-23 08:06:31　責任編輯：cfenews.com

+|-

谷歌突發(fā)大動作，旗下兩大頂級 AI 團隊谷歌大腦與 DeepMind 合二為一！

雙方人才將并肩作戰(zhàn)，以谷歌算力資源為后盾，只為一個目標：

(資料圖)

加速 AI 研究。

△原 DeepMind 研究 VP

而且體量小很多的 DeepMind，似乎要占主導(dǎo)地位：

重組后，原 DeepMind 創(chuàng)始人Demis Hassabis擔任一把手。

新部門定名 Google DeepMind，專攻 AI 相關(guān)的戰(zhàn)略級技術(shù)，并透露第一個項目就是一系列多模態(tài)大模型。

而 Google Research 中剩下的部分繼續(xù)負責算法和理論、隱私和安全、健康、氣候和可持續(xù)性、量子計算等其他方向，由原高級副總裁 James Manyika 領(lǐng)導(dǎo)。

原谷歌大腦掌門人Jeff Dean則同時在新 Google DeepMind 和新 Goole Research 兩個部門任首席科學家。

Hassabis 表示，對有機會構(gòu)建 AI 并最終構(gòu)建 AGI 造福人類感到興奮。Jeff Dean 暫未以個人身份發(fā)表觀點。

這已不是今年谷歌整合內(nèi)部 AI 資源的第一個動作。

二月底，專注大語言模型的藍移團隊（Blueshift）就整體移入 Deepmind。

三月底，谷歌的 ChatGPT 競品 Bard 進展受阻后，又傳出谷歌大腦與 DeepMind 在新的大模型項目雙子星（Gemini）上合作，這次要直接對標 GPT-4。但即便如此，谷歌在追趕微軟 +OpenAI 的道路上并不順利。另外包括 BERT 之父 Jacob Devlin 在內(nèi)的數(shù)位頂尖人才都離開谷歌跳槽到 OpenAI。

這一次，谷歌終于下定決心搞出大動作。

谷歌大腦，誕生了Tensorflow與 GPT 中的 "T" 即Transformer的地方。

DeepMind，創(chuàng)造過AlphaGo掀起上一波 AI 熱潮，也創(chuàng)造過AlphaFold預(yù)測全世界已知蛋白質(zhì)如何折疊的 DeepMind。

兩大傳奇團隊，折疊在了一起。

如此便能抗衡微軟 +OpenAI 的強勢組合了嗎？

樂觀的一面，DeepMind 雖更以 AI 下棋、AI 輔助科學研究聞名，但近年來在大語言模型上也有不少進展。

21 年發(fā)布的 2800 億參數(shù)大模型Gopher（地鼠），已在聊天對話方面表現(xiàn)出驚人的連貫性。

22 年的大模型Chinchilla（龍貓），又以 GPT-3 參數(shù)量的零頭（700 億 vs1750 億）在很多任務(wù)上超越其效果。

Chinchilla 的研究中發(fā)現(xiàn)，此前主流大模型雖數(shù)據(jù)規(guī)模不斷擴大但相應(yīng)的訓(xùn)練量通常不充分，限制了最終效果。

DeepMind 據(jù)此提出計算優(yōu)化的模型縮放公式，在今天指導(dǎo)著各大語言模型的訓(xùn)練，被業(yè)界稱為龍貓定律（Chinchilla Law）。

不過也有很多人對谷歌這次的調(diào)整并不看好。

有網(wǎng)友覺得這種動作就是 CEO 做給股東看的。