高通全球副總裁侯明娟:5G-A與AI實現(xiàn)雙向賦能,終端側(cè)AI將成為落地應用關鍵
高通全球副總裁侯明娟
出品|搜狐科技
作者|鄭松毅
7月25日,2024CDEC高峰論壇在上海舉辦。高通全球副總裁侯明娟帶來《創(chuàng)新移動技術(shù)賦能:數(shù)字娛樂體驗迎來新拐點》主題演講。
隨著5G-Advanced、AI等技術(shù)熱潮到來,高通也從中捕捉到一些重要機遇。侯明娟表示,“現(xiàn)在既是起點也是拐點,從最早的虛擬現(xiàn)實,到如今跨終端的數(shù)字娛樂體驗,每一個階段都是一個新的起點。近年來科技創(chuàng)新成果不斷涌現(xiàn),為數(shù)字娛樂體驗帶來新的拐點。”
談及5G發(fā)展,侯明娟介紹,“5G在持續(xù)向前推進,當前已進入5G-Advanced時代,支持更大數(shù)據(jù)規(guī)模傳輸,豐富數(shù)據(jù)能夠?qū)崟r共享至云端,推動數(shù)十億終端接入網(wǎng)絡,同時助力AI加速向邊緣側(cè)遷移。5G-Advanced將與AI雙向賦能,實現(xiàn)更廣泛的AI應用。”
擁抱AI的觀點在演講中被多次提及。侯明娟表示,“當前正處于生成式AI蓬勃發(fā)展期,給各行業(yè)帶來更廣闊的創(chuàng)新空間。同時,空間計算加速物理和數(shù)字世界的融合,為AR/XR等行業(yè)帶來多方面的變革和機遇。”
她強調(diào),“在AI接下來的發(fā)展中,終端側(cè)AI非常重要。通過云端和終端設備的協(xié)同工作,可以實現(xiàn)更強大、更高效的AI能力。同時,終端側(cè)可以分擔一部分AI任務,將極大地降低AI任務對云端資源的依賴,從而減少計算所需的資源成本。”
侯明娟曾介紹,目前大多數(shù)生成式 AI 的研發(fā)和應用主要集中在云端,?cè)绻軌驅(qū)?20% 的生成式 AI 工作負載轉(zhuǎn)移到終端側(cè),預計到 2028 年將能夠節(jié)省高達 160 億美元的成本。
“終端側(cè)AI的另一個好處是,即使沒有通信網(wǎng)絡,比如手機開啟飛行模式時,你也會發(fā)現(xiàn)手機的AI能力非常強大。終端側(cè)AI時代已經(jīng)到來,手機、電腦、汽車等終端產(chǎn)品均已逐漸具備AI能力,讓更多用戶有機會接觸到AI。”
她提到,生成式AI模型正在變小,高通打造了第三代驍龍8,在指甲蓋大小的芯片上,能夠支持高達100億參數(shù)的生成式AI模型運行,帶來全新終端體驗。