share_log

AI化身“吞电巨兽” 内存计算或成省电新招

AI化身“吞電巨獸” 內存計算或成省電新招

智通財經 ·  04/03 03:23

來源:智通財經

隨着AI的高耗能引發了人們對其經濟可行性和環境影響的嚴重質疑,能夠提高AI能源效率的技術可能會帶來巨大回報。這使得內存計算成爲越來越令人興奮的話題。              

隨着人工智能(AI)的繁榮,作爲AI基礎設施核心組成部分的電力資源正在引起越來越多的關注。毫無疑問的是,AI是一個高耗能的領域,數據中心、超級算力中心都堪稱“吞電巨獸”。有專家推算認爲,到2027年,AI行業每年的電量消耗可能在85到134太瓦時之間,這幾乎相當於荷蘭一個國家的年度電力需求。國際能源署(IEA)此前的一份報告也指出,由於人工智能和加密貨幣的需求,數據中心的用電量將在不久的將來大幅增加。

不少行業大佬也都AI可能面臨的能源危機發出警告。今年1月,OpenAI首席執行官薩姆·奧特曼承認,AI行業正面臨能源危機。他警告稱,未來AI需要能源突破,因爲AI消耗的電力將遠遠超出人們的預期。$特斯拉 (TSLA.US)$首席執行官馬斯克在2月底出席一場會議時也表示,芯片短缺的情況可能已經過去,但AI和電動汽車正在以如此迅猛的速度擴張,明年全球將面臨電力和變壓器供應緊張的問題。$英偉達 (NVDA.US)$首席執行官黃仁勳更是直言:“AI的盡頭是光伏和儲能!如果只考慮計算,我們需要燒掉14個地球的能源,超級AI將成爲電力需求的無底洞。”

一個關鍵原因在於,AI需要大量的數據,而數據在存儲芯片和處理器之間來回傳輸的這一過程需要消耗大量電力。因此,至少十年來,研究人員一直試圖通過製造可以在存儲數據的地方處理數據的芯片來節省電力。這個過程通常被稱爲“內存計算”。

內存計算目前仍面臨着技術上的挑戰,現在剛剛走出研究階段。而隨着AI的高耗能引發了人們對其經濟可行性和環境影響的嚴重質疑,能夠提高AI能源效率的技術可能會帶來巨大回報。這使得內存計算成爲越來越令人興奮的話題。$台積電 (TSM.US)$$英特爾 (INTC.US)$$三星電子 (SSNLF.US)$等主要芯片製造商都在研究內存計算。OpenAI首席執行官奧特曼等個人、$微軟 (MSFT.US)$等公司以及不少政府附屬實體都投資了從事這項技術的初創公司。

這項技術是否會成爲AI未來的重要組成部分還無法確定。通常,內存計算芯片對溫度變化等環境因素很敏感,而這可能會導致計算錯誤。初創公司們正在研究各種方法以改善這一點。然而,更換採用新技術的芯片往往都很昂貴,而且客戶通常會猶豫不決,除非他們對重大改進有信心。初創公司也必須說服客戶,新技術帶來的好處是值得冒險的。

目前,內存計算初創公司還沒有着手AI計算中最困難的部分,即訓練新模型,這一過程主要由英偉達等公司設計的AI芯片來處理。內存計算初創公司似乎不打算直接與英偉達展開競爭,它們的目標是將業務建立在推理上,即利用現有模型接收提示並輸出內容。推理不像訓練那麼複雜,但其規模也很龐大。這意味着專門爲提高推理效率而設計的芯片可能會有一個前景良好的市場。

內存計算公司仍在摸索其產品的最佳用途。總部位於荷蘭的內存計算初創公司Axelera正瞄準汽車和數據中心的計算機視覺應用。總部位於德克薩斯州奧斯汀的Mythic的支持者認爲,內存計算在短期內是AI安全攝像頭等應用的理想選擇,但最終希望它們能用於訓練AI模型。

行業智庫Semiconductor Research Corp.的首席科學家Victor Zhirnov表示,AI能源使用的巨大規模讓每個人都迫切需要研究如何提高這項技術的效率。他直言:“AI迫切需要節能的解決方案,否則它會很快自殺的。”

声明:本內容僅用作提供資訊及教育之目的,不構成對任何特定投資或投資策略的推薦或認可。 更多信息
    搶先評論