近日,阿里通義千問發(fā)布了兩款新版本30B(300億參數(shù))MoE大模型——Qwen3-30B-A3B-Instruct-2507 和 Qwen3-Coder-30B-A3B-Instruct。在搭載英特爾? 酷睿? Ultra 200H處理器和32GB內(nèi)存的AI PC上,英特爾可變顯存技術(shù)(Intel Variable VRAM Technology)可以將VRAM分配比例從57%提升到87%1,從而更加流暢地運(yùn)行這兩款大模型,為本地部署注入新活力的同時(shí),帶來“更聰明”的AI應(yīng)用體驗(yàn)。AI PC智能助手Flowy AI率先實(shí)現(xiàn)了這兩款模型的適配并開放下載,用戶可即刻下載體驗(yàn)。
智能內(nèi)存管理,動(dòng)態(tài)按需分配
英特爾可變顯存技術(shù)適配了 MoE 架構(gòu)模型在專家節(jié)點(diǎn)切換時(shí)的顯存波動(dòng)特點(diǎn),通過在軟件層面的調(diào)優(yōu),實(shí)現(xiàn)了突破性的高顯存分配率。該技術(shù)的核心在于其深度優(yōu)化的、基于預(yù)留內(nèi)存的動(dòng)態(tài)調(diào)度機(jī)制,它打破了傳統(tǒng)核顯顯存固定分配的限制,實(shí)現(xiàn)了VRAM(顯存)的動(dòng)態(tài)調(diào)節(jié)和高效利用。在搭載英特爾酷睿Ultra 200H處理器和32GB內(nèi)存的AI PC上,用戶只需簡單操作,即可將系統(tǒng)內(nèi)存的默認(rèn)VRAM分配比例從57%提升到87%1。這意味著,一臺(tái)配備 32GB 內(nèi)存的筆記本設(shè)備,可使用的VRAM能夠從目前市面通用的18GB提升到27GB。這一顯著提升,進(jìn)一步拓寬了PC端運(yùn)行大模型的能力邊界,讓超過20B參數(shù)的大模型和復(fù)雜的AI應(yīng)用也能順暢運(yùn)行,為用戶帶來更強(qiáng)大的AI體驗(yàn)。
用戶可以在英特爾官網(wǎng)下載并安裝最新版的顯卡驅(qū)動(dòng)程序( 32.0.101.6972 或以上版本),再通過 Intel Graphics Software 控制面板自定義設(shè)定顯存比例,實(shí)現(xiàn)VRAM的動(dòng)態(tài)調(diào)節(jié)。同時(shí),該技術(shù)還針對酷睿Ultra 200H平臺(tái)的硬件特性,對預(yù)留內(nèi)存的讀寫路徑進(jìn)行了深度優(yōu)化,通過提升內(nèi)存帶寬利用率和減少數(shù)據(jù)交換延遲,確保大模型在高占比預(yù)留內(nèi)存調(diào)用時(shí)仍能保持流暢運(yùn)行。
30B參數(shù)大模型輕松“裝進(jìn)口袋”,F(xiàn)lowy率先適配
目前,英特爾生態(tài)合作伙伴 Flowy AI 已率先完成英特爾可變顯存技術(shù)的驗(yàn)證,在其 Flowy AI PC 軟件中集成了 Qwen3-30B-2507 和 Qwen3-Coder-30B 兩款模型。得益于英特爾可變顯存技術(shù),現(xiàn)在用戶僅憑一臺(tái)輕薄本,就能將 30B參數(shù)大模型 “裝進(jìn)口袋”,隨時(shí)隨地享受高效的本地 AI 服務(wù)。實(shí)際測試結(jié)果顯示,在搭載英特爾酷睿Ultra 9 285H 處理器及 32GB 內(nèi)存PC上,這兩款 30B 參數(shù)大模型均可流暢運(yùn)行,不僅支持 Q4、Q5、Q6 等更高精度的量化版本,還能實(shí)現(xiàn)毫秒級(jí)響應(yīng)的離線交互,讓用戶無需再依賴高性能獨(dú)顯或云端算力,即可實(shí)現(xiàn)隨時(shí)互聯(lián)的移動(dòng)辦公和離線創(chuàng)作等豐富應(yīng)用,以更低的成本部署成本,享受本地AI帶來的精彩體驗(yàn)。
上一篇:德州儀器上線人形機(jī)器人專題:An engineer's guide to humanoids & mobile robots
下一篇:芯對話|雷達(dá)探測總“失焦”?CBM94AD34 ADC:500MSPS+65dB破解高頻信號(hào)采集難題
- AI的隱藏瓶頸:網(wǎng)絡(luò)如何影響企業(yè)LLM戰(zhàn)略
- 芯對話|雷達(dá)探測總“失焦”?CBM94AD34 ADC:500MSPS+65dB破解高頻信號(hào)采集難題
- 英特爾VRAM技術(shù)把30B參數(shù)大模型“裝進(jìn)口袋”,F(xiàn)lowy AI率先適配
- 德州儀器上線人形機(jī)器人專題:An engineer's guide to humanoids & mobile robots
- NVIDIA 通過全新 Omniverse 庫、Cosmos 物理 AI 模型及 AI 計(jì)算基礎(chǔ)設(shè)施,為機(jī)器人領(lǐng)域開啟新篇章
- 高通公司預(yù)計(jì)Wi-Fi 8在 2028 年推出,提出四大革新
- Proximus Global 在《Gartner通信平臺(tái)即服務(wù)(CPaaS)魔力象限報(bào)告》中榮獲“遠(yuǎn)見者”稱號(hào)
- 聚焦四大領(lǐng)域,避免公有云產(chǎn)生高成本錯(cuò)誤
- 村田中國亮相2025開放計(jì)算創(chuàng)新技術(shù)大會(huì):以創(chuàng)新技術(shù)驅(qū)動(dòng)智能化發(fā)展
- 使用 Analog Devices 的 LTC1555CGN 的參考設(shè)計(jì)
- AD9643-210EBZ,用于評估 AD9643 模數(shù)轉(zhuǎn)換器的評估板
- ZXLD1360 30V、1A LED 驅(qū)動(dòng)器與 AEC-Q100 的典型應(yīng)用
- EVAL-CN0357-ARDZ,Arduino兼容電化學(xué)氣體檢測電路(CN0357)
- LT6654BHS6-3 擴(kuò)展電源范圍電壓基準(zhǔn)的典型應(yīng)用
- VM810C50A-N,信用卡尺寸 VM810C開發(fā)模塊支持3.3/5V MCU轉(zhuǎn)接板,帶FPC/FFC 40 LCD接口,不提供顯示器
- MAXREFDES176#:IO-Link 16通道數(shù)字輸入集線器
- ADA4062-2ARZ-RL 高端信號(hào)調(diào)理運(yùn)算放大器的典型應(yīng)用電路
- XKT560B144SC512K,飛思卡爾 MPC560xB MCU 評估板
- LTC4162EUFD-FSTM 9V 至 35V 2 節(jié) 3.2A 充電器的典型應(yīng)用,具有 PowerPath 和 2A 輸入限制
- 黑芝麻智能:以高性能自動(dòng)駕駛芯片賦能智慧出行
- 至純科技:股東擬減持公司不超過1.064%股份
- 專注于創(chuàng)“芯” 鴻博微榮獲創(chuàng)新創(chuàng)業(yè)大賽優(yōu)勝獎(jiǎng)
- AMD以350億美元收購賽靈思預(yù)計(jì)明年一季度完成
- MDO3000系列混合域分析儀的性能特點(diǎn)及應(yīng)用
- CA8435三相電能質(zhì)量分析儀的特點(diǎn)及應(yīng)用范圍
- 淺析?KUKA機(jī)器人固定焊鉗的銑削控制V1
- IDC:自動(dòng)駕駛研發(fā)解決方案,百度智能云市場份額第一!
- 移植u-boot-1.1.6之NOR的支持
- 半導(dǎo)體關(guān)稅可能會(huì)使您的下一輛汽車更加昂貴
- 潮起!人形機(jī)器人成本的20%-30%——靈巧手,國產(chǎn)3大廠商正快速產(chǎn)業(yè)化!
- AB Dynamics發(fā)布用于無人駕駛測試的物體檢測系統(tǒng)
- AI重構(gòu)出行:高階輔助駕駛的破局之路
- 廣汽即將發(fā)布全新星源增程技術(shù)
- Yole表示,到2030年,數(shù)據(jù)中心芯片市場規(guī)模將達(dá)到5000億美元
- 綠色節(jié)能趨勢下的延時(shí)繼電器發(fā)展:低功耗設(shè)計(jì)與環(huán)保材料應(yīng)用
- 國內(nèi)車企在固態(tài)電池領(lǐng)域的挑戰(zhàn)和技術(shù)方案
- 資本熱捧 + 政策護(hù)航,2025 人形機(jī)器人能否叩開 “量產(chǎn)元年” 大門?
- 耐世特推出用于智能運(yùn)動(dòng)控制的 MotionIQ?軟件套件
- 美國聯(lián)邦通信委員會(huì)強(qiáng)調(diào)5G確認(rèn)是安全的
- 手機(jī)射頻朝向整合芯片方向邁進(jìn)
- 順絡(luò)電子Q2營收、毛利創(chuàng)新高,汽車電子業(yè)務(wù)增勢強(qiáng)勁
- OPPO計(jì)劃擴(kuò)大印度工廠產(chǎn)能:明年產(chǎn)量計(jì)劃近2億
- 立足變頻控制系統(tǒng),士蘭微讓國產(chǎn)空調(diào)廠商不再遭受“芯痛
- vivo X20Plus屏幕指紋版首發(fā)開箱圖賞
- 海力士:去年第四季DRAM平均價(jià)格漲9%
- P11還是P20 華為全新P系旗艦命名有懸念
- 彭博社:蘋果iBooks將改名Books,并會(huì)重新設(shè)計(jì)
- 蘋果發(fā)布watchOS 4.3首個(gè)開發(fā)者預(yù)覽版本