4月19日，由清華大學(xué)校友會等聯(lián)合主辦的清華大學(xué)上海校友會AI大模型生態(tài)發(fā)展論壇成功舉辦。蘋芯科技CEO楊越博士受邀參加AI大模型生態(tài)發(fā)展論壇，與行業(yè)專家、學(xué)者及企業(yè)代表共同探討人工智能技術(shù)的最新發(fā)展及未來趨勢。論壇上，楊越博士重點(diǎn)介紹了蘋芯科技在存算一體芯片及端側(cè)大模型方向的研發(fā)成果和未來發(fā)展規(guī)劃，引發(fā)了與會者的廣泛關(guān)注。

作為專注于人工智能存算一體芯片的創(chuàng)新型企業(yè)，蘋芯科技一直致力于存算一體技術(shù)的研發(fā)與應(yīng)用。楊越博士表示，存算一體技術(shù)作為當(dāng)前高性能計(jì)算領(lǐng)域的重要突破路徑，具有低功耗、高效率、小面積等顯著優(yōu)勢，能夠從根本上解決傳統(tǒng)芯片架構(gòu)面臨的“存儲墻”、“功耗墻”等問題。

論壇上，楊越博士重點(diǎn)闡述了蘋芯科技在端側(cè)大模型方向的研發(fā)進(jìn)展。隨著人工智能技術(shù)的快速發(fā)展，端側(cè)計(jì)算成為實(shí)現(xiàn)AI大模型高效推理的關(guān)鍵環(huán)節(jié)。蘋芯科技致力于通過創(chuàng)新的端側(cè)計(jì)算技術(shù)，解決傳統(tǒng)計(jì)算方式在設(shè)備端對大模型處理的瓶頸問題。楊越博士表示“蘋芯已經(jīng)開始規(guī)劃下一代專門面向?qū)υ挻竽Ｐ偷腖PU推理芯片，不同于傳統(tǒng)的GPU芯片，我們的設(shè)計(jì)會體現(xiàn)出更強(qiáng)的芯算一體的概念，也就是軟硬件協(xié)同設(shè)計(jì)訂制化ASIC的特點(diǎn)，提高算力單元的利用率；同時(shí)芯片成本是我們設(shè)計(jì)優(yōu)化的第一維度，這一點(diǎn)不同于gpu，或者GROQ 芯片以響應(yīng)速度為第一維度的設(shè)計(jì)理念，我們相信這個(gè)考量是所有大模型公司或者算力設(shè)施公司目前最想解決的問題。我們的系統(tǒng)可以提供超越市面方案的超低成本算力?！毕嘈胚@不僅為AI大模型的實(shí)際部署提供了新的可能性，也為未來智能技術(shù)的應(yīng)用開辟了新的路徑。

在論壇的交流環(huán)節(jié)，楊越博士與與會者就存算一體芯片及端側(cè)大模型的發(fā)展方向進(jìn)行了深入探討。他認(rèn)為，隨著大數(shù)據(jù)處理能力的提升、算法的創(chuàng)新以及算力的強(qiáng)大支撐，人工智能技術(shù)將迎來更加廣闊的發(fā)展前景，而其中對于大數(shù)據(jù)需求最為迫切的當(dāng)屬教育及醫(yī)療行業(yè)等領(lǐng)域，這些垂類行業(yè)具備數(shù)據(jù)密集、高度依賴知識處理、用戶群體龐大且對個(gè)性化服務(wù)需求程度高等共性，是會優(yōu)先被AI大模型重新定義的目標(biāo)行業(yè)。

展望未來，楊越博士表示，蘋芯科技將繼續(xù)加大研發(fā)投入，推動存算一體芯片及端側(cè)大模型技術(shù)的不斷創(chuàng)新與突破。同時(shí)，公司還將積極與國內(nèi)外科研機(jī)構(gòu)和產(chǎn)業(yè)合作伙伴開展深度合作，共同推進(jìn)AI大模型技術(shù)的研發(fā)和應(yīng)用。在未來，蘋芯科技將憑借其在存算一體芯片及端側(cè)大模型方向的持續(xù)創(chuàng)新，為全球AI技術(shù)的發(fā)展帶來更多驚喜與突破。