半夏小說

半島遠行_第213章 流言蜚語(1)

關燈

“而且大模型人工智能都是計算的稠矩陣,數據結構高度規範,加速卡的運算核心越多速度就越快。現在的加速卡捨棄不必要的高度浮點運算,針對FP32、FP16和8位運算進行優化後,在使用最新的工藝製程,核心規模可以翻好多倍。”

“加上度降低後的運算速度提升,單張加速卡在理這個大模型時候的算力至是現有加速卡的十幾倍。當然了這也需要件方面的適配,在運算前對數據進行預理,把各種運算放到合適的運算核心,最大發揮效率。”

當下對人工智能小組的人員組進行了討論,對分工進行了安排,非常的高效,這也是研究院的一貫特點。

等安排好後一位件專家提了一條意見。“院長,剛才只討論了核心運算速度的事,考慮數據傳輸。很顯然這個優化後的計算核心需要極高的數據吞吐量,哪怕是給計算卡加滿板載存也很難滿足。也不是容量的問題,而是板載存和計算核心之間數據換速度有限制,本就趕不上。”

會議室的人點了點頭,都理解。就好比高速公路,每小時可通行輛車,但是收費站只能通行1000輛車,修的再好也發揮不了作用。

班行遠想了想說:“可不可以考慮設計單獨的傳輸方式,將存芯片和計算核心封裝在一起,這樣就能不經過板卡直接進行數據換?”

幾位件專家眼睛一亮隨即有些失。“院長,這樣的確能滿足帶寬的需要,但是封裝基板面積有限,只能集幾個存芯片,這樣的話存容量就了限制。”

腦筋。面積有限就不能考慮垂直布置嗎?另一個項目組在閃存垂直封裝上取得了進展,可以把幾十層上百層的閃存堆疊起來封裝在一個芯片里,這樣就能大幅提高單個芯片的容量,而且讀寫速度更快。這個技會在幾天後至微的發布會上公開。你們也可以考慮把多個存芯片封裝在一個顆粒裡面。這樣不就相當於增加了容量?”

“當然了,考慮存的發熱,肯定不能像閃存那樣堆個幾十上百層,四五層應該是夠用了。基本上能滿足計算核心的數據需要。”

這些科學家新算了一下,差不多夠用了。當然了技出來後肯定是委託至微代工,自己用可以用研究院最先進的刻機生產,工藝上去了單個存芯片的容量也會跟着增加,夠用了。

討論結束,按照分工各自忙各自的事。第一件事就是打報告,要人、要經費,也不着急按照步驟來就好了。

班行遠下樓去看媳婦拍攝素材,到了現場就看到寶兒正在和金泰熙抱怨。“嫂子你太過分了,和葉老師、趙老師搭戲重現經典片段居然不我。”