WAVE SUMMIT 2022深度學(xué)習(xí)開發(fā)者峰會上周圓滿落幕,來自產(chǎn)學(xué)研界的專家學(xué)者和資深A(yù)I工程師在七大平行論壇帶來了精彩的技術(shù)分享。 本次峰會專設(shè)【智能硬核 生態(tài)共創(chuàng)】平行論壇,昆侖芯科技生物計(jì)算研發(fā)總監(jiān)鄭煥鑫受邀參會,并進(jìn)行“昆侖芯×飛槳:共創(chuàng)智能計(jì)算‘芯’生態(tài)”的主題演講 。
昆侖芯適配百度飛槳等主流框架,支持推理和訓(xùn)練場景,生態(tài)建設(shè)正在逐漸完備,已在豐富的業(yè)務(wù)場景落地。作為國內(nèi)人工智能芯片領(lǐng)域的先行者,昆侖芯科技依托團(tuán)隊(duì)多年耕耘芯片和智能計(jì)算領(lǐng)域的行業(yè)影響力,致力于攜手上下游合作伙伴,打造智能計(jì)算“芯”生態(tài)。
以下內(nèi)容來自演講實(shí)錄:
大家好,我是來自昆侖芯科技的鄭煥鑫。
昆侖芯科技是一家AI芯片公司,2021年4月完成了獨(dú)立融資,首輪估值約130億元。公司前身是百度智能芯片及架構(gòu)部,在實(shí)際業(yè)務(wù)場景中深耕AI加速領(lǐng)域已十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場景應(yīng)用均有深厚積累的AI芯片企業(yè)。
昆侖芯科技研發(fā)實(shí)力雄厚,團(tuán)隊(duì)成員擁有全球頂尖學(xué)術(shù)背景,并提出了100%自研的通用AI計(jì)算處理器核心架構(gòu)昆侖芯XPU,研究成果也在Hot Chips、ISSCC等國際頂級學(xué)術(shù)會議中成功發(fā)表。
在落地實(shí)現(xiàn)上,昆侖芯1代在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬片,是國內(nèi)唯一一款經(jīng)歷過互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片產(chǎn)品。昆侖芯2代采用7nm制程,也已于2021年8月量產(chǎn)。更先進(jìn)的昆侖芯3代、自動駕駛芯片等多個產(chǎn)品均已啟動研發(fā)。
隨著AI越來越普及,其依托的算力需求也越來越大。在這個時(shí)代背景下,昆侖芯的愿景是“成為劃時(shí)代,全球領(lǐng)先的智能計(jì)算公司”,為AI發(fā)展提供算力賦能。
昆侖芯在AI芯片上經(jīng)歷了超過10年的發(fā)展歷程。我們在2011年啟動FPGA AI加速器項(xiàng)目,到2015年部署5000片,2017年部署超過12000片,是業(yè)界最大的量;2017年發(fā)布自研架構(gòu)昆侖芯XPU;2018年啟動昆侖芯;2020年昆侖芯1代大規(guī)模部署;2021年昆侖芯2代量產(chǎn)。
昆侖芯軟硬件架構(gòu)及兩代產(chǎn)品
不同于GPU的發(fā)展歷程,昆侖芯1代在AI發(fā)展相對成熟的時(shí)候量產(chǎn),在設(shè)計(jì)階段就更好地理解了AI場景,提供了更多的加速計(jì)算單元,并且保留了足夠的通用計(jì)算單元,最終達(dá)到了更好的性價(jià)比。
這是我們的昆侖芯XPU架構(gòu):SDNN-軟件定義神經(jīng)網(wǎng)絡(luò)引擎,是我們自研的核心張量計(jì)算單元,用于加速卷積和矩陣乘法;Cluster為我們的通用計(jì)算部件;我們也是國內(nèi)業(yè)界率先支持GDDR6的廠商之一;我們的Shared Memory片上共享內(nèi)存,有力保證了計(jì)算單元的高并發(fā)、低時(shí)延訪問;提供高達(dá)200GB/s的片間互聯(lián)帶寬,有效提升了大規(guī)模分布式訓(xùn)練中的數(shù)據(jù)傳輸效率,減少通訊延時(shí);支持PCIe第四代接口,雙向帶寬可達(dá)到64GB/s。
這是我們的軟件架構(gòu)圖:在應(yīng)用層,我們支持訓(xùn)練、推理以及科學(xué)計(jì)算;在框架層,除了深度合作的PaddlePaddle,還支持TensorFlow,PyTorch等;我們提供了豐富的SDK,包括編輯器、圖引擎、高性能算子庫、高性能通訊庫,以及驅(qū)動;在環(huán)境部署上,我們支持公有云服務(wù)、智算中心、智能邊緣設(shè)備等。
這是我們的產(chǎn)品研發(fā)路線,昆侖芯1代采用14nm工藝,昆侖芯2代采用7nm工藝,此外我們的昆侖芯3代、昆侖芯4代都在研發(fā)路徑中。
昆侖芯1代產(chǎn)品包括兩種形式,其中K100是K200的算力一半版本,主要用在邊緣端。昆侖芯2代產(chǎn)品中,R200 AI加速卡主要用于推理,支持INT8/INT16/INT32/FP16/FP32等精度,非常值得一提的是昆侖芯R200 AI加速卡支持視頻編解碼能力;R480-X8 AI加速器組是我們的單機(jī)8卡訓(xùn)練方案,提供200GB/s的片間互聯(lián)帶寬。
概括起來,昆侖芯2代有如下特點(diǎn):
1.通用計(jì)算能力顯著增強(qiáng),可靈活支持AI算法的演進(jìn),提升資源投入效用;
2.硬件虛擬化,提升AI算力資源的利用率;
3.高性能分布式AI系統(tǒng),加速AI數(shù)據(jù)并行和模型并行中的高速數(shù)據(jù)交換。
介紹完硬件參數(shù),我們看看昆侖芯的軟件參數(shù)。以R200 AI加速卡為例,相比較于業(yè)界主流產(chǎn)品,典型AI負(fù)載性能提升1.5倍左右,其中GEMM矩陣乘法性能為1.7倍,BERT典型自然語言處理性能加速比為1.4倍。對Transformer類有同樣的效果;Yolov3,Yolov5性能加速1.3倍;ResNet50視覺分類算法加速1.2倍。
昆侖芯AI算力賦能千行百業(yè)
昆侖芯科技前身為百度智能芯片及架構(gòu)部,天然對互聯(lián)網(wǎng)AI應(yīng)用有深入了解。以百度搜索場景為例,我們實(shí)現(xiàn)了過萬片的部署,與飛槳聯(lián)合優(yōu)化模型:DeepFM、Wide&Deep。此外,我們在包括百度在內(nèi)的多家互聯(lián)網(wǎng)公司上均有不錯的落地表現(xiàn)
在智能城市領(lǐng)域,萬級別攝像機(jī)收集視頻流,通過芯片編解碼獲取圖片,對圖片進(jìn)行人臉檢索以及比對。該場景主要是以CV類算法為主,我們和飛槳聯(lián)合優(yōu)化模型包括:ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。
工業(yè)質(zhì)檢場景,高清工業(yè)相機(jī)拍攝零件照片進(jìn)行質(zhì)量檢測。搭載國產(chǎn)AI算力機(jī)的質(zhì)檢設(shè)備替代人工質(zhì)檢,大大節(jié)省了人力,14個月即可收回成本。同時(shí),“5G+AI+工業(yè)互聯(lián)網(wǎng)”解決方案大大提高了整廠的智能化水平,幫助企業(yè)降低損耗,提升約10%的良品率。在這個方向上,我們和飛槳聯(lián)合開發(fā)了Yolov3-DarkNet53、SSD-ResNet34。
在目前國內(nèi)前沿的生物計(jì)算領(lǐng)域,我們也對基因測序算法Blast以及蛋白質(zhì)折疊預(yù)測算法進(jìn)行了硬件適配,并取得了不錯的加速比。
綜上,我們在互聯(lián)網(wǎng)、智慧城市、智慧工業(yè)、生物計(jì)算、智慧金融、智慧政務(wù)、智算中心以及智慧交通等各行業(yè) AI 應(yīng)用落地場景中均提供了多種解決方案。
總結(jié)來看,昆侖芯科技最獨(dú)特優(yōu)勢在于:在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬片,是國內(nèi)唯一一款經(jīng)歷了互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片,產(chǎn)品的可用性、可靠性、穩(wěn)定性、魯棒性得到了驗(yàn)證,也證明了團(tuán)隊(duì)在芯片架構(gòu)、軟件棧、工程化系統(tǒng)層級的技術(shù)實(shí)力。此外,昆侖芯靈活支持多個AI場景,如視覺、語音、NLP和推薦等;不僅如此,昆侖芯也支持HPC、生物計(jì)算等算法的加速。
申請創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!
雖然我國汽車芯片行業(yè)還處在發(fā)展初期,但已經(jīng)迸發(fā)出無限潛力。一方面,智能汽車的發(fā)展不斷帶動需求增長;另一方面,政策引導(dǎo)下,汽車芯片企業(yè)持續(xù)搶占高地。對此,在7月5日-7日舉辦的2023年中國汽車論壇上,中國汽車工業(yè)協(xié)會副秘書長李邵華就做出表示,“中國將成為未來汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的
2023世界人工智能大會將于7月6日至8日在上海舉辦。云天勵飛將在大會上展示自主設(shè)計(jì)開發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片,并公布“天書”大模型的最新動態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺參觀交流!同時(shí),云天勵飛也將與中國電子、中國信通院、華為等合作伙伴,在WAIC的舞臺
近日,酷學(xué)院智能產(chǎn)品發(fā)布會在深圳閃亮登場。近200位現(xiàn)場觀眾和近萬人次在線觀看,共同見證了這一激動人心的時(shí)刻。發(fā)布會上,酷學(xué)院引領(lǐng)大家探索企業(yè)培訓(xùn)學(xué)習(xí)和人才發(fā)展領(lǐng)域的新高度,并揭幕其全新的產(chǎn)品智能升級和突破??釋W(xué)院產(chǎn)品負(fù)責(zé)人徐晨通過形象生動、邏輯嚴(yán)謹(jǐn)?shù)闹v述,揭曉了全新的智能企業(yè)培訓(xùn)和人才發(fā)展平臺,以
隨著人工智能技術(shù)的快速發(fā)展,各行各業(yè)都受到了深刻影響,特別是中小學(xué)人工智能教育的普及,已經(jīng)成為當(dāng)今不可忽視的重要課程。ChatGPT等人工智能技術(shù)的出現(xiàn),讓我們看到了人工智能將成為未來推動科技跨越發(fā)展、生產(chǎn)力整體躍升的重要驅(qū)動力量之一。在這個背景下,中小學(xué)教育已經(jīng)將人工智能作為重要學(xué)習(xí)內(nèi)容,并將科技
“技術(shù)日新月異,人類生活方式正在快速轉(zhuǎn)變,這一切給人類歷史帶來了一系列不可思議的奇點(diǎn)。我們曾經(jīng)熟悉的一切,都開始變得陌生。”計(jì)算機(jī)之父約翰·馮·諾依曼曾這樣說到。
“人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點(diǎn)。而當(dāng)前的全球AI市場,占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)
智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實(shí)在智能最新發(fā)布的實(shí)在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實(shí)現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實(shí)在智能重磅發(fā)布實(shí)
崔大寶|節(jié)點(diǎn)財(cái)經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢:資本市場,與之關(guān)聯(lián)的概念炒不動了,英偉達(dá)股價(jià)動輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費(fèi)市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計(jì)費(fèi)”,打響國內(nèi)大模型
文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄
黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國證監(jiān)會IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計(jì)籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級輔助駕駛(ADAS)和高階自動駕駛(AD)解決方案供
8月21日,萬眾矚目的2024世界機(jī)器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天,集“展覽”“論壇”“賽事”于一體的機(jī)器人盛會,反映了當(dāng)下機(jī)器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計(jì)數(shù)據(jù),今年現(xiàn)場逛展觀眾高達(dá)25萬人次,比去年增加25%。機(jī)器人行業(yè)有多火?看看2024世界機(jī)器人大會火爆程度便可知
瞄準(zhǔn)場景需求,打造國內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺。卓翼智能亮相HICOOL峰會以科技實(shí)力榮摘創(chuàng)業(yè)大賽一等獎這個比賽5年培育出16家“獨(dú)角獸”HICOOL2024全球創(chuàng)業(yè)者峰會暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕,大賽共吸引了124個國家和地區(qū)的7406個創(chuàng)業(yè)項(xiàng)