日韩一区二区三区在线免费观看-开心久久婷婷综合中文字幕-欧美激情91-久久国产福利-欧美日韩日本国产亚洲在线-国产精品极品国产中出

首頁 > 新聞 > 智能 > 正文

全球動態:ChatGPT 們難以復制的原因,除了耗顯卡,還有水電費太貴?

2023-04-19 11:14:33來源:ZAKER科技  

一覺醒來,世界又變了。

ChatGPT 走入大眾視野之后,AIGC 行業迎來了爆發,尤其是上個月,仿佛每一天都可能是「歷史性」的一天。

以 ChatGPT 為代表的生成式 AI,看似超前,但卻以一種極其「古典」的交互形式出現在大眾面前。

它沒有花里胡哨的圖標,也沒有深入人心的 UI 設計,而是用最簡單的對話框來「震撼」世界。

不過,如此簡單的形式,卻成為了當下網絡上和現實里最火熱的話題,果然「好看的皮囊千篇一律,有趣的靈魂萬里挑一」。

只是存在于一個個 web 網頁,一條條簡單的問答中,往往會讓我們忽略不少問題。


(資料圖片)

看似毫無負擔的一個個「回答」,背后卻用著世界上屈指可數的云算力。

隨著 ChatGPT 成為常態,隱藏在 ChatGPT 們背后的這些角落也逐步被報道出來。

燒錢費電,還喜歡喝水

生成式 AI 耗費顯卡這種情況,有些類似于「挖礦」。

▲ 由 TPU v4 組成的 Google 機器學習中心 圖片來自:Google

對大語言模型(LLMs)進行訓練,參數越多,性能越好。2018 年的 LLM 大約有 1 億個參數,而到了現在,大約就要對 2000 億個參數進行訓練。

運行他們需要算力更強的 GPU,英偉達也在 2020 年推出了相對應的 A100 高性能 GPU,并且也可以打包八張 A100 形成 DGX A100 服務器。

▲ AI 的精神食糧

這些計算服務器,或者說顯卡組,最終被安放在所謂的云計算中心,比如說微軟的就是 Azure 云服務。

不光訓練大語言模型需要大量算力,當每個用戶請求一次,ChatGPT 們回答一次,都要調用部分算力。

流量就是金錢,我想 OpenAI、微軟應該有刻骨銘心的體會。

根據 Similarweb 的數據,上個月 ChatGPT 吸引了全球 16 億次訪問,是一月時的近三倍。

這種情況下,即便微軟有所準備,給 ChatGPT 準備了一萬多張 A100,但面對如此的流量,OpenAI 還是堅持不住了,出現了宕機、封號和暫停 Plus 會員的開通。

有人做過預估,想要吃下當下的流量,微軟還得買幾萬張 A100、H100 顯卡,Azure 現在的算力遠遠不夠。

但買更多的顯卡,除了燒錢,也會衍生出許多問題。

八張 A100 組成的 DGX A100 服務器大概售價 19.9 萬美元,最高功率為 6.5kW。

按照一萬張來算的話,光在硬件上微軟就要花去 2.5 億美元,運行一個月就要用掉 585 萬度電,電費就要得交

而按照國家統計局公開的數據,我國居民月度用電量大約是 69.3 度。ChatGPT 運行一月,大概與我們 8 萬人用電相當。

除了顯卡本身的價值,以及維持他們工作所需的電能外,給他們創造一個涼爽的環境,配置一套蒸發冷卻裝置。

原理也比較簡單,就是利用蒸發水來散熱,但運行起來需要消耗大量的清水,并且在循環的過程里,大概會有 1%~2% 的水會作為細水霧被風吹走。

雖然站在宏觀角度,水仍然維持著動態平衡,但在冷卻塔的小環境中,卻是一種無形的消耗。

結合 AIGC 需要龐大算力的計算中心,卡羅拉多大學與德克薩斯大學的研究人員就在論文里預估了在訓練過程中所消耗的清水。

以 GPT-3 為例,訓練過程中所需的清潔淡水相當于填滿核反應堆冷卻塔所需的水量。果然 AI 最終還是要跟核電掛上鉤。

如果再具體點,則大約消耗了 70 萬升,并且他們還算出,一個用戶與 ChatGPT 進行 25~50 個問題的對話,大概就相當于請 ChatGPT 喝了 500ml 水。

同時,他們也發現,蒸發冷卻塔在工作時,平均每消耗一度電,就會讓一加侖水(3.78L)消失。

其實不止是微軟,Google 在 2019 年為其三個數據中心使用了超過 23 億加侖的清水。

▲ Google 的數據計算中心 圖片來自:Google

在美國本土,Google 擁有 14 個數據中心,為其搜索和現在的 LaMDA 和 Bard 提供算力。且在訓練 LaMDA 語言模型的過程要比 GPT-3 還耗能費水。

原來,AI 不止費顯卡,住恒溫的大 house,胃口還出奇的好,大口吃電,大口喝水。

無處不在的 AI 鴻溝

在 AIGC 行業里,一個簡單的,能準確響應的對話框,背后不止是展示技術實力,也展示了雄厚的金錢實力。

Sasha Luccioni 博士就表示,大型復雜的語言模型,世界上只有少數的公司和組織才有資源訓練它們。

▲ Sam Altman(左)和微軟 CEO Satya Nadella(右)圖片來自:Wired

還是以 GPT-3 為例,訓練 1800 億參數,成本大約是 460 萬美元,還不包括后續的運行和迭代維護等等。

這些有形和運行過程中帶來的無形成本,很多公司很難承受。

由此,在 AIGC 浪潮里,無形之中有了那么一個 AI 鴻溝,大概也分成了兩類公司。

一種是,花得起耗得起資金,能夠訓練先進復雜的大預言模型的大型科技公司。另一種就是無法承擔成本的的非盈利組織和小型公司。

在許多關于 AIGC 到底消耗了多少電力、資源的許多研究報告中,大多是以 GPT-3,或者用「預估」等字眼。

就像對訓練 GPT-3 用了多少水的研究里,由于 OpenAI 并沒有披露 GPT-3 訓練所需的時間長度,因此研究人員只能從微軟所公布的 Azure 計算中心冷卻塔的數據來預估。

而關于碳排放等一系列參考數據,也多是從 2019 年的 Bert 訓練模型中預測而得。

除了資金、GPU、數據中心、網絡帶寬等等硬實力,Google、微軟也把大語言模型的訓練算法、過程、時間、參數等等都列成了最高機密。

我們想使用和了解它,只能通過提供的 API ,或者直接詢問 ChatGPT 或者 Bard 本身。

無形之中,這也成為了一個「AI 鴻溝」。

AIGC 發展的如此迅速,并且能力也在無限擴大,許多國家地區和組織都在考慮如何給 AIGC 設立一些規范,免得它(產生自我意識,開始覺醒……)恣意妄為。

但就如同相關的研究人員一般,目前 AIGC(如 GPT-4)幾乎沒有公開的信息,更像是一個黑盒。

誠然對于大公司而言,AIGC 可能就是下一個新時代的開端,塑造科技壁壘,無可厚非。

但對于資源的消耗,無論是對于立法機構,還是對于大眾,都該保持一些透明度,

這也是 AI 在提供便利的同時,為何研究人員不斷挖掘和道相應的代價。

發展 AI,其實也是人類的一次登月

對于 AI 耗電、排碳,以及最新的費水等研究,并非是在譴責、或者說反對發展 AIGC 用資源去換取技術的改進。

這些數據,其實是提供了 AIGC 行業的另外一個角度,在一條條符合人味兒回答的背后,到底我們或者說大型科技公司為此付出了什么。

也并非是要呼吁 Google、微軟立刻做碳中和,并為耗費的水資源、電能和間接的一些環境問題買單,讓它們變成 Google Green 或者是綠軟。

AIGC 的爆發,并不是一簇而就,也不是簡單開竅式的技術爆發,它背后涵蓋了相當多的產業鏈,更像「水到渠成」。

大公司云計算中心算力的增強,以及 GPU 對復雜算法的高效計算,以及大語言模型參數的復雜化,再加上 AIGC 企業本身一直在不計成本的投入。

▲ 大型數據計算中心只是 AIGC 行業的一環

而在 GPT-3 出現之前,AI 們的能力還顯得比較稚嫩,大眾也沒意識到 AI 可能會改變世界。

但隨著 GPT-4、Midjourey V5 等等涌現,AIGC 也終于成為了硅谷寵兒。

此時此刻,OpenAI、微軟、Google 等大企業對資源的消耗,對大算力的使用也有了一個初步的成果。

▲ 《為了全人類》劇照

同樣地,當下的 AIGC 節點,有些類似于阿姆斯特朗剛踏上月球的那一刻。

登月動用了當時相當的資金財力資源,但月球上并沒有所謂的水和可利用資源(暫時)。

但并不能否認登月沒有意義,就如同現在花去大量的資源、財力喂給 AI,發展 AIGC。

只是,AIGC 能發展到如何,誰也說不準,它可能像是《終結者》里的天網,也可能是《星戰》里的 CP30,有著無限可能。

關鍵詞:

責任編輯:hnmd003

相關閱讀

相關閱讀

推薦閱讀

成人av资源电影网站| 99久久人爽人人添人人澡| 78精品国产综合久久香蕉| 一区二区三区福利| 亚洲激情播播| 欧美另类69xxxxx| 天堂av在线网| 欧美男同视频网| 天天做天天爱综合| 日韩久久一区二区三区| 国产精品亚洲片在线播放| 国产主播精品| 国产精品亲子伦av一区二区三区| 韩日毛片在线观看| 国产欧美日本| 亚洲午夜激情在线| 日韩在线视频精品| 亚洲春色h网| 一本久道久久久| 欧美一级二区| 久久久蜜桃一区二区人| 另类图片综合电影| 欧美日韩123| 性色一区二区三区| 成人在线精品| 国产亚洲在线| 99综合久久| 亚洲一区视频| 国产一区二区亚洲| 久久都是精品| 韩国三级成人在线| 亚洲综合欧美| 日韩深夜福利| 伊人久久综合一区二区| 日韩极品在线| 欲香欲色天天天综合和网| 日韩电影一区二区三区四区| 男女性色大片免费观看一区二区| 国产午夜精品一区在线观看 | 欧美黑人一区| 极品国产人妖chinesets亚洲人妖 激情亚洲另类图片区小说区 | 天堂99x99es久久精品免费| 亚洲深夜激情| 国产精品毛片aⅴ一区二区三区 | 国产成人精品123区免费视频| 免费看日产一区二区三区| 91中文字幕精品永久在线| 国产精品入口久久| 色999国产精品| 综合激情五月婷婷| 91成人在线| 999久久久免费精品国产| 久久精品首页| 国产精品毛片| 日本在线一区二区三区| 亚洲成人不卡| 蜜臀久久99精品久久一区二区| 亚洲国产日本| 麻豆成人在线| 成人av地址| 国产精品多人| 老色鬼在线视频| 欧美一二区在线观看| 91国产一区| 日韩高清欧美| 欧美+日本+国产+在线a∨观看| 在线观看一区视频| 丝袜亚洲另类欧美| 欧美三级午夜理伦三级小说| 亚洲日本欧美| 91综合在线| 欧美 日韩 国产 一区| 国产一区二区三区不卡视频网站| 亚洲人成在线网站| 在线电影一区二区| 一区二区三区在线资源| 久久精品国产99国产精品| 国产午夜久久| 久久久精品性| 国产欧美激情| 国产日韩欧美三级| 蜜臀av亚洲一区中文字幕| 色老板在线视频一区二区| 久久99国产成人小视频| 一区二区福利| 欧美不卡高清一区二区三区| 日韩香蕉视频| 欧美一级全黄| 久久99视频| 亚洲毛片在线| 免费污视频在线一区| 噜噜噜躁狠狠躁狠狠精品视频 | 国产精品久久久久久久久久10秀 | 亚洲男人av| 亚洲一区二区三区免费在线观看| 99精品中文字幕在线不卡| 国产精品777777在线播放| 国产精品蜜月aⅴ在线| 蜜桃精品视频在线观看| 午夜国产精品视频| 日日天天久久| 亚洲精品美女91| 97久久综合区小说区图片区| 欧美黄免费看| 一区二区三区四区五区在线| 综合久久2023| 手机在线电影一区| 香蕉亚洲视频| 日韩视频一区| 最新欧美人z0oozo0| 色婷婷久久久| 91久久精品无嫩草影院| 国产成人1区| 99久热在线精品视频观看| 日韩精品电影在线观看| 成人日韩精品| 欧亚一区二区| 新版的欧美在线视频| 欧美韩日一区| 欧美bbbbb| 日韩1区2区| 蘑菇福利视频一区播放| 国产亚洲网站| 亚洲一区日韩在线| 国产一区导航| 日韩在线观看一区二区| 蜜桃av综合| 蜜桃精品视频在线观看| 91偷拍一区二区三区精品| 水蜜桃精品av一区二区| 蜜桃一区二区三区在线| 91麻豆国产自产在线观看亚洲| 日韩精品一二区| 蜜臀精品一区二区三区在线观看| 免费看欧美美女黄的网站| 免费xxxx性欧美18vr| 都市激情亚洲一区| 亚洲日本在线观看视频| 国产日韩一区二区三区在线| 日本91福利区| 伊人国产精品| 日本欧美高清| 精品国产乱码| 亚洲一级影院| 久久国产精品99国产| 国产极品在线观看| 精品捆绑调教一区二区三区| 国产成人精品亚洲日本在线观看| 97精品国产综合久久久动漫日韩| 久久国产三级精品| 亚洲精品自拍| 久久久久九九精品影院| 丁香婷婷成人| 欧美特黄一级大片| 久久不射网站| 日本精品另类| 影音先锋中文字幕一区二区| 国产欧美一区二区三区精品观看 | 国产欧美一区二区三区米奇| 欧美黄色影院| 成人动漫免费在线观看| 蜜桃视频免费观看一区| 日本美女久久| 亚洲国产精品一区| 在线视频亚洲欧美中文| 香蕉国产精品| 国产在线精彩视频| 日日嗨av一区二区三区四区| 国产精品欧美三级在线观看| 成人精品毛片| 亚洲一区黄色| 热久久久久久| 国产精品最新| 999久久久免费精品国产| 性欧美精品高清| 免费在线播放第一区高清av| 日本午夜精品久久久| 国产一在线精品一区在线观看| 色爱综合网欧美| 国产精品激情电影| 精品一区二区三区的国产在线观看| 日韩视频久久| 色综合久久久| 亚洲一区二区三区中文字幕在线观看| 婷婷亚洲五月| 日韩电影免费网站| 只有精品亚洲| 成人短片线上看| 91福利精品在线观看| 亚洲精品456| 午夜欧美精品| 成人交换视频| 激情综合婷婷| 美女精品一区| 亚洲情侣在线| 欧美1区2区视频| 国产精品xxx| 999久久久精品一区二区| 噜噜爱69成人精品| 久久午夜影院|