世界人工智能大會在2023年7月6日-8日于上海舉辦,本屆大會以“智聯(lián)世界 生成未來”為主題,打造“會議論壇、展覽展示、評獎賽事、應(yīng)用體驗”四大核心內(nèi)容,匯聚世界頂級科學家、企業(yè)家、政府官員、專家學者、國際組織、投資人、初創(chuàng)團隊等,搭建世界級合作交流平臺。
高通作為終端側(cè)AI領(lǐng)導者,在本次大會中進行了多場主題演講,并展示了終端側(cè)AI在智能手機中的最新應(yīng)用。參會者能夠在高通的展臺中親自體驗生成式AI在終端側(cè)的高效運行,共同領(lǐng)略生成式AI所創(chuàng)造的未來體驗。此外,高通AI引擎榮獲2023世界人工智能大會頂級獎項:SAIL獎——卓越人工智能引領(lǐng)者獎,助力AI體驗創(chuàng)新和繁榮發(fā)展。
高通技術(shù)公司首席商務(wù)官Jim Cathey
高通技術(shù)公司首席商務(wù)官Jim Cathey在首日全體會議——產(chǎn)業(yè)發(fā)展論壇期間,發(fā)表主題為“5G賦能智能互聯(lián)的未來”的演講。其表示,5G對于一個更加智能的世界至關(guān)重要,不僅推動了智能的規(guī)?;瘮U展,還能夠使在邊緣側(cè)生成的情境相關(guān)數(shù)據(jù)與云端近乎實時地共享。在智能手機領(lǐng)域,5G和AI的結(jié)合是現(xiàn)代智能手機體驗的基礎(chǔ);除智能手機之外,連接和智能正在開啟工業(yè)創(chuàng)新和數(shù)字化新時代。
高通AI引擎榮獲大獎 云端+邊緣側(cè)混合AI助力生成式AI發(fā)展
高通在人工智能興起之時就十分關(guān)注邊緣側(cè)AI發(fā)展,認為云端和邊緣終端AI協(xié)同工作的混合AI模式,能夠?qū)崿F(xiàn)更強大、更高效的AI體驗。對目前流行的生成式AI,混合AI可充分利用邊緣側(cè)終端算力來降低成本,而且在隱私和安全方面也占盡優(yōu)勢。
驍龍移動平臺是高通在終端側(cè)AI的重要布局,第二代驍龍8移動平臺搭載最先進的高通AI引擎,通過一系列軟硬件創(chuàng)新帶來更強大的算力和更高的效率,能充分滿足終端側(cè)AI應(yīng)用,結(jié)合高通AI軟件棧和AI Studio提供全棧AI能力和優(yōu)化手段,并與云端協(xié)同打造適應(yīng)大模型時代的混合AI處理框架,創(chuàng)造手機端的新型AI體驗。
混合AI具有終端的快速響應(yīng)能力,也具有云端的準確性,可自由的在云端和終端側(cè)之間分配負載,對在閾值以下的輕量級模型,推理即可完全在終端側(cè)進行。如果是更復雜的任務(wù),模型則可以跨云端和終端運行,并在需要時通過云端來更正終端側(cè)的處理結(jié)果。
隨著生成式AI模型的不斷縮小,再加上終端側(cè)算力的高速提升,混合AI的潛力將會進一步增長。目前參數(shù)超過10億的模型已經(jīng)能夠在手機上運行,性能與精度可以媲美云端。再加上終端側(cè)在本地運算的方式,對用戶隱私數(shù)據(jù)和安全性的優(yōu)勢也相當明顯。
第二代驍龍8移動平臺的高通AI引擎賦予了手機端創(chuàng)新的AI體驗,并榮獲了2023世界人工智能大會SAIL獎——卓越人工智能引領(lǐng)者獎。SAIL獎作為人工智能領(lǐng)域高規(guī)格、國際化的獎項,在2023年持續(xù)追蹤人工智能技術(shù)發(fā)展、生成式人工智能引發(fā)的行業(yè)熱潮,探索AIGC催化的產(chǎn)業(yè)新業(yè)態(tài),關(guān)注新一代人工智能的技術(shù)策源,加速AI新奇點與理論新發(fā)現(xiàn)的融合,用以獎勵在人工智能領(lǐng)域達到全球領(lǐng)先水平的創(chuàng)新技術(shù)和新型應(yīng)用的項目。
第二代驍龍8實現(xiàn)端側(cè)生成式AI高效體驗
目前高通已經(jīng)實現(xiàn)了在手機端通過模型來生成圖片,并且在WAIC現(xiàn)場進行了DEMO演示。首先是運用Stable Diffusion模型,通過給出TAG文字標簽讓AI模型在手機本地自動生成一張圖片。Stable Diffusion是可以在本地運行的,但是需要很高的配置,尤其是顯卡要求極高,否則生成一張圖片就要幾十分鐘的時間。高通的展示中,Stable Diffusion在一臺驍龍8 Gen2手機中運行,以本地化的端側(cè)算力,20個推理步驟不到15秒時間即可生成一張圖片,運行效率非常驚人。
除此之外,高通還展示了手機端ControlNet生成圖片的體驗,其同樣使用驍龍手機通過端側(cè)AI算力實現(xiàn)。ControlNet能夠讓生成的圖片高度受控,能夠利用預(yù)先提供的圖片特征,來精準控制生成圖片。比如簡單的手繪一張貓咪草圖,然后給AI相應(yīng)的文字描述,之后AI就會以草圖為標準,生成符合TAG的圖片。
在高通的展示中,預(yù)先提供一張背影照片,在通過TAG標簽,即可讓AI精準生成一張身處海邊的黃昏時刻背影大片。而生成一張這樣的照片,只需要11.28秒的時間。
ControlNet解決了純文字生圖大模型無法定向控制生成圖片的難題,而能夠在端側(cè)實現(xiàn)快速生成圖片,離不開強大AI算力的支持。驍龍移動平臺的高通AI引擎采用異構(gòu)運算,能夠同時調(diào)用CPU、GPU和Hexagon處理器,以達到最大化的運算效率。第二代驍龍8移動平臺在升級的高通Hexagon處理器支持下,張量加速器帶來4.35倍的AI性能提升,能效方面最高有60%提升。Hexagon處理器還提供專用供電系統(tǒng)、支持微切片推理、INT4精度、Transformer網(wǎng)絡(luò)加速等創(chuàng)新技術(shù),可結(jié)合高通AI軟件棧和AI Studio提供全棧AI能力和優(yōu)化手段。
第二代驍龍8移動平臺憑借超高算力助力終端側(cè)AI有的高效運算能力,同時兼顧了低功耗運算,滿足手機端對續(xù)航的需求,助力驍龍手機在終端側(cè)率先支持Stable Diffusion、ControlNet等生成式AI用例。
(本文轉(zhuǎn)自PChome)
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!