成人动漫一区二区三区-国产精品久久久久影院-狠狠色综合网站久久久久久久-两个黑人大战嫩白金发美女-欧美在线观看-少妇太爽了在线观看

大模型技術路徑:通用與定制的平衡
發(fā)布時間: 2023-10-24 10:35

技術路徑:通用與定制的平衡

在AI芯片的發(fā)展過程中,通用性和定制化像是兩個互相拉扯的作用力,衍生出一系列的芯片架構。其中,GPU和ASIC分別是通用性和定制化的代表架構,也有著各自的優(yōu)勢和局限。

“GPU架構提供了大量數(shù)據(jù)并行結構,因此能夠提供大量的AI并行計算,適用于AI訓練等。ASIC等定制化AI芯片針對特定的應用場景進行芯片優(yōu)化,能夠取得更高的計算能效,但通用性相對較弱。”賈天宇表示。

好在,隨著芯片技術的發(fā)展,通用性與定制化已不再壁壘森嚴。一方面,英偉達在GPU架構中引入了Tensor Core(張量計算核心),一種專門針對深度學習應用而設計的專用ASIC單元,使GPU更加適合深度學習。與此同時,定制化芯片也逐步增加了通用計算單元,并引入可編程或部分可編程的架構,增強芯片的場景覆蓋能力。

“過去被認為只具備專用性的ASIC或DSA(領域專用架構),現(xiàn)在不僅含有用于AI加速計算的專用單元,還含有與英偉達GPU中CUDA Core類似的通用計算單元,同樣可以實現(xiàn)對各種指令的處理。因此,無論是GPU、ASIC或DSA架構,云端AI芯片企業(yè)在架構設計中需要關注的是通用和專用計算單元的搭配,以便應對AI計算持續(xù)演變帶來的挑戰(zhàn)。”昆侖芯科技向記者表示。

“鑒于大模型對于大算力的顯著需求,以及模型訓練算子的多樣性,具有大算力、通用性的芯片將是大算力應用的首選。在現(xiàn)存的技術方案中,GPU是能夠提供算力和開發(fā)生態(tài)的選擇。然而,由于GPU的功耗過高,類GPU架構的定制化大算力AI芯片也將存在市場,滿足對于芯片計算能效的提升需求。”賈天宇指出。

昆侖芯科技在全球人工智能開發(fā)者先鋒大會的展位

而通用與定制的“配比”,要根據(jù)具體場景設計。昆侖芯科技表示,在通用性、易用性和性能之間實現(xiàn)平衡,需要在實際設計中結合需求。除了單一技術或者算力指標,更要注重產品的綜合競爭力是否均衡。百度的AI應用場景,為昆侖芯提供了驗證和調優(yōu)機會。就大模型而言,昆侖芯在產品定義上已經做了布局,昆侖芯2代AI芯片相較昆侖芯第1代產品大幅優(yōu)化了算力、互聯(lián)和性能,在百度內外部的大模型場景中都有落地,昆侖芯在研的下一代產品將為大模型和AIGC等應用提供更佳的性能體驗。

“硬件和場景是雙輪驅動的,場景催生新的技術方案,新的技術促使場景更好發(fā)展。大模型作為一個趨勢場景,其需求定義清楚了,設計和實現(xiàn)技術就會水到渠成。”昆侖芯科技告訴記者。

另外,無論是通用芯片還是定制芯片,抑或是通用、專用計算單元兼而有之,設計環(huán)節(jié)之后的制造、封裝環(huán)節(jié),也將作用于AI芯片的性能提升。

“無論GPU還是定制化AI芯片路線,Chiplet、3D堆疊等先進集成與封裝技術將成為進一步提升大模型計算能力的重要技術手段,也將在未來AI芯片發(fā)展中起到重要作用。”

粵公網安備 44030502006483號、 粵ICP備15047669號
  • 捷易科技聯(lián)系人
  • 主站蜘蛛池模板: 国产成人精品午夜福利软件| 国产97人人超碰cao蜜芽prom| 无码少妇一区二区三区芒果| 丰满少妇人妻无码专区| 小说区亚洲综合第1页| 色欲av无码一区二区三区| 国产在线视频色综合| 久久久无码中文字幕久...| 顶级欧美熟妇高潮xxxxx| 欧美品无码一区二区三区在线蜜桃| 免费网站看sm调教视频| 国产精品视频观看裸模| 色婷婷av一区二区三区之红樱桃| 日本免费中文字幕| 少妇愉情理伦片丰满丰满| 久久国产精品-国产精品| 内射一区二区精品视频在线观看| 少妇放荡的呻吟干柴烈火免费视频| 好屌草这里只有精品| 三片在线观看| 日本护士毛茸茸高潮| 一区二区国产高清视频在线| 国产精品一品二区三区的使用体验 | 亚洲最大av资源站无码av网址| 久久国产一区二区三区| 欧美国产日韩亚洲中文| 国产精品日日做人人爱| 久久青青草原国产免费播放| 强行无套内谢大学生初次| 无码中文字幕人妻在线一区二区三区| 毛片一区二区三区无码蜜臀| 国产情侣真实露脸在线| 亚洲va成无码人在线观看| 无码人妻久久一区二区三区| 69涩涩屋| 亚洲精品一区二区久久| 97精品人妻系列无码人妻| 国产精品色拉拉| 强开小婷嫩苞又嫩又紧视频韩国| 艳妇荡女欲乱双飞两中年熟妇| 精品国模一区二区三区|