來源：互聯網

10月16日-18日,首屆灣區(qū)半導體產業(yè)生態(tài)博覽會在深圳舉行。

本次展會是在深圳市政府指導和深圳市發(fā)展和改革委員會支持下,由深圳市半導體與集成電路產業(yè)聯盟攜手深圳市重大產業(yè)投資集團有限公司共同主辦,以"半導體重大項目集群和最大增量市場"為基礎,邀請來自灣區(qū)、全國及全球的半導體產業(yè)鏈上下游頭部企業(yè)參加。

作為AI芯片領域代表企業(yè),云天勵飛受邀出席“AI芯片與高性能計算應用論壇”,分享國產邊緣AI芯片架構創(chuàng)新思路。

云天勵飛副總裁、芯片產品線總經理李愛軍在演講中說道,過去一年半,大模型經歷了從語言到多模態(tài)的轉變,并且正快速向物理世界演進;大模型落地應用也從云端逐漸走向邊緣端,而大模型在邊緣端的應用給AI芯片帶來了全新的挑戰(zhàn)。

邊緣端場景具有“多且碎”的特點,不同場景應用對算力、內存、帶寬的要求也不盡相同。如何通過更靈活的芯片架構設計,盡可能讓AI芯片滿足不同場景的需求,是業(yè)界共同思考的問題。

在此背景下,云天勵飛提出了“算力積木”AI芯片架構,讓芯片能夠像搭積木一樣靈活組建、靈活擴展。

以云天勵飛基于“算力積木”打造的國內首顆國產工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個標準化的大模型計算單元打造,可實現1.8B大模型的實時高效推理。

通過D2D Chiplet技術、C2C Mesh技術和C2C Mes Torus技術,云天勵飛將標準計算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應用,可實現7B、14B、130B等不同參數量大模型在邊緣端的高效推理。

目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構的主流模型,并在機器人、邊緣網關、服務器等領域實現商業(yè)化應用。

隨著大模型進一步深入行業(yè)和場景,市場對邊緣AI芯片的需求將越來越大,而目前全球邊緣AI芯片市場仍處于萌芽階段。未來云天勵飛將堅持走自主研發(fā)路線,通過架構創(chuàng)新,在國產工藝上實現芯片性能的突破,為行業(yè)帶來更好用、更高性價比的國產AI芯片產品。