《kii人工智能月度報告丨ai人物觀點》
關鍵詞:算力十問
1沈向洋:大模型将橫掃所有垂直行業
“大模型大到一定地步以後就湧現出來。多大才湧現出來?沒人講得清楚。”3月23日,2024全球開發者先鋒大會在上海開幕,美國國家工程院外籍院士沈向洋在《大模型時代的機遇和挑戰》的演講中分享了關于大模型的五方面思考。
第一,大模型的到來,強迫人類重新思考人機關系。“我們受到的沖擊,到底有多少是機器智能的發展,有多少是人機交互的震撼。”他認為,不管是什麼技術,最終目的是幫助人更好運用機器,不忘初心。
第二,大模型将橫掃所有垂直行業。大模型可分為通用大模型、行業大模型、企業大模型和個人大模型。“一個通用大模型如果沒有萬卡、不上1萬億參數,基本上以後就不太好意思說這是一個通用模型了。行業大模型大緻上是千億參數、千億卡的訓練規模。企業大模型可能隻需要100張卡、百億參數。最有意思的是個人大模型,利用個性化參數,結合雲和端,這是非常有意義的。”
第三,算力是門檻。影響算力的兩大因素是模型大小和數據規模,随着參數增加,對算力的需求幾乎是幾何級的。“千卡萬卡是錢堆出來的。以前有一句話叫貧窮限制想象力,現在貧窮可能扭曲想象力,因為如果沒有卡,能想象要做的項目可能就不太一樣了。”
第四,ai帶來社會沖擊。這些沖擊包括對民衆的沖擊、企業的沖擊、政府監管的沖擊、社會發展的沖擊,帶來一本正經胡說八道、深度僞造等倫理問題,很多國家開始立法,這需要共同推動治理、向前發展。
第五,智能的本質。人工智能蓬勃發展,但人們對智能的本質并沒有清晰認知。“大模型大到一定地步以後就湧現出來。多大才湧現出來?沒人講得清楚。”沈向洋表示,“很多人相信scalglaw(規模法則),但今天的深度學習,理論非常欠缺。從宇宙到量子,物理學有一套大一統的理論統一起來,叫作theoryofeverythg。今天深度學習沒有這樣的理論,所以叫作theoryofanythg。”
2中國工程院邬賀铨院士:《算力十問》
在第二屆“華彩杯”算力創新應用大賽啟動會上,中國工程院邬賀铨院士發表題為《算力十問》的主旨報告
就超算、通算、智算三類算力是否存在合理比例的問題,邬院士認為,不同地區需求不同,不可能有固定的比例。通常國家與區域創新中心城市對超算有較大需求;機密性和時延敏感性決定了城市政務數據和重要企業關鍵數據盡量在同城通算;東部地區的ai訓練任務重、智算比例高;西部算力樞紐也需要增加智算能力,但一般西部地區以配置通算為主。
請勿開啟浏覽器閱讀模式,否則将導緻章節内容缺失及無法閱讀下一章。
相鄰推薦:[全職]有五次張佳樂許願想要冠軍,最後一次終于如願以償 異種共存 彩虹小仙與氣象仙君 一覺醒來,末日來臨 滿級大佬飛升中,請勿打擾 [全職高手]黃煩煩與大魔王的相識 命運之夢 我是唯一的玩家 愛情海 [全職/傘修橙]餘年 發小總想掰彎我 誰偷了我的花 [全職高手/傘修]神之歎息 [全職高手/喻王喻]微草隊長養了隻藍眼睛的兔紙 大反派也有春天2 鳳池春宵溫舊夢 [全職樂葉]事與願違 [全職/高/喬]淹沒 足壇第一驕 九叔:我為曹賊,當橫推億萬界