日韩一区二区三区在线免费观看-开心久久婷婷综合中文字幕-欧美激情91-久久国产福利-欧美日韩日本国产亚洲在线-国产精品极品国产中出

首頁 > 新聞 > 智能 > 正文

大模型激戰(zhàn)半年:王小川進擊、王慧文退場,騰訊字節(jié)姍姍來遲

2023-08-13 21:09:01來源:ZAKER科技  

本文來源:時代財經(jīng) 作者:謝斯臨


(資料圖片僅供參考)

圖片來源:Pixabay

國產(chǎn)通用大模型的混戰(zhàn)遠未結(jié)束。在半年左右的蟄伏期過后,大部分玩家都浮出了水面。

在這之中,有人加速迭代。8 月 8 日,由搜狗搜索創(chuàng)始人王小川創(chuàng)立的百川智能發(fā)布了旗下第三款大模型產(chǎn)品 Baichuan-53B,背后訓練參數(shù)高達 530 億。此時距離王小川宣布進軍大模型戰(zhàn)場不過 4 個月的時間,這家創(chuàng)業(yè)公司進展神速。

這還只是一個開始,百川智能方面向時代財經(jīng)透露,后續(xù)還會有多款產(chǎn)品發(fā)布,包括規(guī)模更大、參數(shù)超千億的大模型。

也有人黯淡退場。由美團聯(lián)合創(chuàng)始人王慧文創(chuàng)立,吸引源碼資本、五源資本等知名 VC 機構(gòu),以及美團創(chuàng)始人王興、快手創(chuàng)始人宿華等互聯(lián)網(wǎng)大佬投資的光年之外,曾一度被市場認為是國內(nèi)大模型戰(zhàn)場上最強有力的玩家之一。

然而,隨著 6 月下旬王慧文因健康問題離崗退出,無法繼續(xù)執(zhí)掌光年之外,這家備受期待的大模型創(chuàng)業(yè)公司只能賣身美團,一眾投資人也隨之退股。

還有人另辟蹊徑。AI 大牛周明創(chuàng)立的瀾舟科技,強調(diào)輕量化模型,希望用更低的成本解決 B 端場景問題。而曾幫助谷歌將 BERT 模型的訓練時間從 3 天降到 76 分鐘的新加坡國立大學校長青年教授尤洋,則成立了潞晨科技,試圖用低成本訓練大模型的解決方案突圍。

相比之下,大廠自研的大模型則姍姍來遲。直到 8 月初,騰訊自研的混元大模型和字節(jié)打造的 AI 對話類產(chǎn)品 Grace 才先后傳出內(nèi)測消息,具體面世時間仍未可知。

同樣停留在測試階段的,還有李開復創(chuàng)立的 AI 2.0 企業(yè) " 零一萬物 "。在 7 月 3 日舉辦的對外交流會上,李開復透露,該公司在三個月內(nèi)已實現(xiàn)百億參數(shù)規(guī)模的模型內(nèi)測,目前正向 300 億— 700 億參數(shù)規(guī)模擴大。不過,該產(chǎn)品至今仍未向市場開放。

這些仍未發(fā)布的大模型產(chǎn)品將為科技行業(yè)帶來什么樣的改變,值得市場期待。從這個角度來看,這場混戰(zhàn)或許還要持續(xù)很久。

進擊的王小川

由王小川創(chuàng)立的百川智能,正以其驚人的產(chǎn)品發(fā)布速度吸引市場的關(guān)注。

在其 4 月宣布下場做大模型后,僅用了兩個月零五天的時間,就在 6 月 15 日發(fā)布 70 億參數(shù)開源大模型 Baichuan-7B。不到一個月時間,又發(fā)布了 130 億參數(shù)開源大模型 Baichuan-13B。

8 月 8 日發(fā)布的 Baichuan-53B,已經(jīng)是這家大模型創(chuàng)業(yè)公司半年內(nèi)發(fā)布的第三款產(chǎn)品,百川智能進展神速。

百川智能相關(guān)負責人回復時代財經(jīng)表示,公司在創(chuàng)立之前就已經(jīng)花了很多時間做前期準備,開始就把路線和方法想得比較清楚。

其指出,做大模型都會考慮三個層面:數(shù)據(jù)、算法和算力。拋開算力不說,做搜索的公司天然有優(yōu)秀的數(shù)據(jù)能力,百川智能的核心團隊此前已經(jīng)做了 20 年的數(shù)據(jù)抓取、抽取、清洗、去重、反垃圾等操作,可以更快拿到高質(zhì)量數(shù)據(jù)集。

而算法是以自然語言處理為中心,將算法工程進行迭代,不是單一的工程問題,而是在文本數(shù)據(jù)驅(qū)動下,算法和工程共同運行。此前在搜索領(lǐng)域積累的經(jīng)驗在這里也能很好地發(fā)揮作用,利用數(shù)據(jù)評價推動模型進步。

" 有了之前多年的技術(shù)和經(jīng)驗積累,百川智能做大模型產(chǎn)品的速度才會又快又好。"

不過,在發(fā)布會上,王小川亦指出,當下國產(chǎn)通用大模型仍處在一個分型復刻的階段。各家廠商基本都在對標 OpenAI,不可避免地會出現(xiàn)同質(zhì)化的問題。

正因如此,在他看來,與美國閉源大模型的頭部格局已定的情況不同," 中國誰的大模型最好 " 現(xiàn)在并沒有結(jié)論。在這場混戰(zhàn)之中,錢是重要的,但最終決定的力量還是人和團隊、組織能力。大廠錢多、人多、算力多,但組織效率通常不一定夠好,創(chuàng)業(yè)公司的組織效率可能好,也可能不好。

" 大家都在爭取機會,而且不一定落在大廠里。"

王小川還在采訪中談及退場的王慧文。其指出,王慧文是國內(nèi)幾個主流做大模型里唯一一個沒有強勢技術(shù)背景的,對他的挑戰(zhàn)比其他家要大。工作中要做大量的技術(shù)決策,招什么人、走什么技術(shù)路線圖、需要多少計算資源,一定會面臨非常多的決策壓力。

" 不是做大模型壓力大,是沒有技術(shù)背景做決策壓力會大很多。但是技術(shù)足夠的話,其實挺愉悅的。"

騰訊、字節(jié)姍姍來遲

大模型混戰(zhàn)開啟之初,互聯(lián)網(wǎng)大廠因為坐擁更多算力、人才、資金和數(shù)據(jù),被認為是強大的競爭對手。

百度自研的文心一言早在今年 3 月底就已率先落地;阿里打造通義千問緊隨其后,在 4 月 11 日舉辦的阿里云峰會上揭曉。就在阿里發(fā)布通義千問的前一天,王小川才剛剛宣布下場,成立百川智能。

相比之下,同為一線大廠的騰訊跟字節(jié),推出通用大模型的步調(diào)要慢許多。

8 月 3 日,據(jù) 36kr 報道,騰訊自研的 " 騰訊混元大模型 " 已經(jīng)進入應(yīng)用內(nèi)測階段。三天后,8 月 6 日,字節(jié)旗下的 AI 對話類產(chǎn)品 Grace 也被爆出歷經(jīng)兩個月的研發(fā)后,終于進入測試階段。

此時距離百度發(fā)布文心一言已經(jīng)過去 4 個月。對于騰訊通用大模型產(chǎn)品步調(diào)稍慢的原因,馬化騰曾公開表示," 騰訊也一樣在埋頭研發(fā),但是并不急于早早做完,把半成品拿出來展示。"

不過," 并不著急 " 的騰訊,還是在今年 6 月中旬率先公布了 " 行業(yè)大模型 " 的路線,一口氣拋出 10 大行業(yè)超過 50 個解決方案。無獨有偶,字節(jié)跳動也同樣在 6 月發(fā)布大模型服務(wù)平臺 " 火山方舟 ",通過集成多家 AI 科技公司及科研院所的大模型,向企業(yè)提供全方位的平臺服務(wù)。

市場曾一度認為,行業(yè)大模型將成為這兩家大廠突圍的方法。

但事實或許并非如此。當下被鼓吹的行業(yè)大模型始終存在著被替代的風險。科大訊飛總裁吳曉如曾向時代財經(jīng)指出,10 年前,在語音識別技術(shù)上,也曾誕生過諸多聚焦在通話、行車、辦公等不同場景的專用模型,但隨著通用模型技術(shù)的成熟,專用模型也隨之退場。

" 我認為大模型也會經(jīng)歷一樣的階段。"

相比之下,從更長遠角度看,通用大模型才真正代表著一個平臺級或顛覆性的大機會。正是因此,騰訊和字節(jié)都不可能放任自己錯過,哪怕進度緩慢,但它們必定要堅持在場。

有騰訊內(nèi)部人士向時代財經(jīng)指出,騰訊的計劃一直是兩條腿走路,通用和行業(yè)齊頭并進。只是與一些激進的廠商相比,旗下產(chǎn)品涵蓋社交、游戲、廣告、內(nèi)容創(chuàng)作等多個領(lǐng)域的騰訊,要更為謹慎一些。

學院派創(chuàng)業(yè)者另辟蹊徑

在大模型戰(zhàn)場上,來自高校、研究機構(gòu)的學院派創(chuàng)業(yè)公司組成了競爭的第三極。

它們既不是王小川、王慧文這樣的種子選手,在創(chuàng)業(yè)之初就能憑借人脈吸引到數(shù)億美元的投資,并以此迅速起步。也不像騰訊、阿里、百度這樣的大廠,在算力、人才、資金等各個方面都占據(jù)難以逾越的優(yōu)勢。

但憑借著他們對于人工智能技術(shù)的深度理解,這些創(chuàng)業(yè)者仍然能在夾擊之下,另辟蹊徑找到新的發(fā)展方向。

比如由原微軟亞洲研究院副院長周明創(chuàng)立的瀾舟科技,不同于市面上一眾追逐千億乃至萬億參數(shù)的大模型產(chǎn)品,這位從 1980 年就開始研究 NLP(自然語言處理)的華人 AI 大牛希望以更輕量級模型解決 B 端場景的問題。

其推出的孟子大模型曾以十億參數(shù),刷新此前被百億、千億級別參數(shù)模型輪番霸榜的中文語言理解權(quán)威評測基準 CLUE 榜單。

這是一項務(wù)實的決策。出于數(shù)據(jù)安全考慮,絕大部分企業(yè)都不會將數(shù)據(jù)上傳,而是會要求本地化部署,成本因此被顯著拉高。在接受媒體采訪時,周明指出,哪怕只是本地部署推理,拿訓練好的大模型來用,千億參數(shù)大模型也需要 8 到 16 塊 A100,換算下來至少是一兩百萬元的投入," 對很多場景來說,客戶需要便宜和夠用 "。

由新加坡國立大學校長青年教授尤洋創(chuàng)立的潞晨科技,則希望利用算法技術(shù)降低大模型的調(diào)用成本。

現(xiàn)如今,無論是大廠,還是創(chuàng)業(yè)公司,都必須面對國產(chǎn)大模型同質(zhì)化趨勢愈發(fā)明顯的問題。如果這一問題不被解決,未來大模型極有可能陷入當下云服務(wù)廠商面臨的低毛利困境。

尤洋對時代財經(jīng)表示,這是因為底層技術(shù)基座迭代成本過于高昂。他以 GPT 舉例,OpenAI 每一次的訓練成本高達 6000 萬美元,每隔三四個月就需要訓練一次,迭代一次則需要四五次訓練。以此計算,每迭代一次技術(shù)基座可能需要 2 億到 3 億美元。

過于高昂的成本導致市場上的技術(shù)基座極其稀缺。基本上只有 GPT、LLAMA,還有國內(nèi)的 GLM。各家廠商基本都是在模仿這幾家大模型做產(chǎn)品,才導致了同質(zhì)化的問題愈發(fā)凸顯。

長期研究高性能計算的尤洋因此成立了潞晨科技。該公司目前推出的開源系統(tǒng) Colossal-AI 可通過高效多維并行、異構(gòu)內(nèi)存等技術(shù),顯著降低 AI 大模型訓練、微調(diào)和推理的開發(fā)與應(yīng)用成本。

尤洋認為,只有伴隨大模型訓練成本快速下降,或者采取更好的優(yōu)化技術(shù),使得參數(shù)控制在 200 億左右,還依然能夠達到和千億參數(shù)一樣的效果時,才會真正迎來大模型百花齊放的那一天。

關(guān)鍵詞:

責任編輯:hnmd003

相關(guān)閱讀

相關(guān)閱讀

推薦閱讀

国产精品白丝av嫩草影院| 在线观看欧美| 精品极品在线| 成人午夜888| 精品香蕉视频| 美女国产一区| 日韩一级视频| 风间由美中文字幕在线看视频国产欧美| 欧美精品一线| 国产美女久久| 91精品尤物| 男人操女人的视频在线观看欧美| 在线精品在线| 欧美日韩在线二区| 天堂久久一区| 百度首页设置登录| 欧美99久久| 中文字幕在线视频网站| 国产视频一区二| 不卡在线一区二区| 成人高清一区| 爱爱精品视频| 在线观看精品| 7m精品国产导航在线| 久久综合影视| 国产成人影院| 久久国产精品毛片| 国产一区二区三区免费观看在线| 五月天久久网站| 日本女人一区二区三区| 女优一区二区三区| 日本网站在线观看一区二区三区| 亚洲91视频| 久久激情综合网| 亚洲午夜极品| 日本v片在线高清不卡在线观看| 久久一区91| 毛片一区二区三区| 欧洲福利电影| 国产精品中文| 91精品综合久久久久久久久久久| 国产成人短视频在线观看| 亚洲一区免费| 日韩激情综合| 国产一区二区| 亚洲电影影音先锋| 国产欧美日韩一区二区三区四区| 日韩精品一二三四| 99久久人爽人人添人人澡| 91成人在线| 天天射天天综合网| 综合色就爱涩涩涩综合婷婷| 美女91在线看| 久久久久综合| 国产精品一级在线观看| 麻豆网站免费在线观看| 国产精品久久久久av蜜臀| 99精品视频免费全部在线| 99在线精品免费视频九九视| 欧美日韩播放| 日本综合视频| 在线电影一区二区| 日韩电影在线免费观看| 69堂精品视频在线播放| 99在线精品免费视频九九视| 久久国际精品| 日韩精品久久久久久| 天堂成人国产精品一区| 99亚洲乱人伦aⅴ精品| 日本不卡一区二区| av综合电影网站| 免费视频一区三区| 精品午夜视频| 日本色综合中文字幕| 国产美女高潮在线观看| 成人av二区| 日韩中文字幕| 亚洲视频在线免费| 欧美日韩免费看片| 亚洲一卡久久| 国产美女撒尿一区二区| 中文字幕日本一区| 日韩黄色三级在线观看| 蜜臀va亚洲va欧美va天堂| 99久久夜色精品国产亚洲狼| 日韩成人午夜| 综合久久十次| 成人黄色毛片| 91影院成人| 国产视频一区在线观看一区免费| 成人午夜网址| 亚洲精品69| 精品在线99| 国产精品15p| 亚洲精品国产动漫| 亚洲三级观看| 深夜福利亚洲| 亚洲美女久久精品| 玖玖精品视频| 午夜久久美女| 极品日韩av| 欧美日韩麻豆| 亚洲欧美日本国产| 国产日产精品_国产精品毛片| 久久精品国产99国产| 韩国精品主播一区二区在线观看| 香蕉亚洲视频| 99热免费精品| 亚洲精品1区| 亚洲国产精品91| 亚洲天堂偷拍| 久久中文字幕二区| 99久久婷婷这里只有精品| 成人午夜网址| 国产图片一区| 国产成人精品亚洲线观看| 亚洲黄页在线观看| 不卡精品视频| 国产一精品一av一免费爽爽| 欧美日韩a区| 久久香蕉精品香蕉| www.成人| 亚洲国产精品嫩草影院久久av| 中文字幕一区二区精品区| 日本美女视频一区二区| 欧美日韩a区| 国产一区二区三区精品在线观看| 91麻豆精品国产91久久久更新资源速度超快| 美女高潮久久久| 日本不卡在线视频| 中文字幕一区二区三区在线视频| 亚洲人metart人体| 国产影视精品一区二区三区| 国产精品一区二区精品视频观看| 国产亚洲久久| 日韩电影在线一区二区三区| 日韩精品导航| 国产乱人伦精品一区| 精品国产中文字幕第一页| 欧美一级精品片在线看| 免费不卡中文字幕在线| 亚洲欧洲视频| 91亚洲国产成人久久精品| 日韩视频网站在线观看| 国产精品xxx| 欧美激情在线| 国产一区二区在线观| 精品91福利视频| 久久精品123| 国产一区二区高清| 国产在线看片免费视频在线观看| 日韩欧美中文| 欧美亚洲一区二区三区| 韩国三级大全久久网站| 中文久久电影小说| 欧美1区2区3区| 色小子综合网| 国产精品最新自拍| 国产一区二区亚洲| 精品视频黄色| 亚洲一区二区伦理| 欧美亚洲福利| 国内不卡的一区二区三区中文字幕| 日韩精品一区国产| 欧洲福利电影| 一区二区亚洲| 日韩国产精品久久久| 国产精品久久久久久久久久久久久久久| 亚洲三级网址| 久久亚洲在线| 日本在线电影一区二区三区| 福利视频一区| 欧美男同视频网| 激情综合激情| 日韩精品dvd| av国产精品| 久久久精品网| 欧美高清视频手机在在线| 免费视频一区| 9999久久久久| 午夜亚洲福利在线老司机| 欧洲av不卡| 久久99国产精品视频| 999国产精品| 国产乱码午夜在线视频| 国产精品久久久久久久免费软件| 亚洲人成精品久久久| 欧美日韩国产一区二区三区不卡| 国产精品久久久久久久免费观看 | 国产精品一区二区三区av麻| 精品一区av| 蜜桃视频一区二区| 欧美日韩亚洲一区| 99久久精品网| 97成人超碰| 香蕉成人app| 久久亚洲综合| 成人午夜888| 99成人精品| 国产精品a久久久久|