近期，微软微软正式升级Windows 11系统的正式底层AI框架，实验性原生支持GGUF和ONNX两大主流模型格式的升级本地推理，以后用户不用额外安装复杂的底层第三方软件，直接在系统层面就能运行本地大模型，框架门槛直接降到几乎为零。微软

过去普通玩家在Windows电脑上跑本地大模型，正式流程非常繁琐：首先要先下载专门的升级第三方推理工具，接着从开源社区找对应格式的底层模型文件，还要手动配置环境变量、框架调整硬件加速参数，微软哪怕是正式对技术比较熟悉的用户，第一次折腾也要花好几个小时才能跑通，升级普通用户更是底层根本摸不着门道。而且不同的框架工具适配的模型格式还不一样，想换个不同格式的大模型试试，整个配置流程几乎要重来一遍，很多人折腾到一半就直接放弃了。

这次微软升级的Windows ML本地AI推理框架，直接和开源社区深度合作，在系统底层原生加入了对GGUF和ONNX两大主流模型格式的支持。GGUF是现在本地大模型领域的事实标准格式，几乎所有开源社区的主流本地大模型都采用这种格式封装，ONNX是跨平台通用的开放神经网络交换格式，大量工业级AI应用都基于这套格式开发。现在Windows 11系统原生就能直接识别这两种格式的模型文件，开发者不用再做复杂的格式转换，用户也不用额外安装第三方推理环境，直接就能在本地加载运行模型。

为了进一步提升本地运行的性能，微软还和英伟达深度合作，针对Windows平台的硬件适配贡献了大量底层性能优化代码。升级之后系统新增了专门的Windows ML Runtime API，比过去的推理路径拥有更高的运行性能、更深的系统级集成，开发者可以直接调用这套系统接口，快速给应用添加上文本生成、语音识别这类本地AI功能，不用自己从零搭建复杂的推理引擎，开发效率大幅提升。普通用户最直观的感受就是，大模型在自己的Windows电脑上本地运行的速度明显变快，哪怕是普通配置的家用电脑，也能流畅跑起主流的7B级大模型。

在实际使用的过渡层面，微软也做了非常平滑的兼容设计。过去大家广泛使用的ONNX Runtime API依然得到完整的官方支持，不会出现旧的AI应用突然没法运行的问题，同时微软明确表示，未来针对Windows平台的AI性能优化资源，会优先投向全新的Windows ML Runtime API，开发者可以根据自己的项目进度，自主选择合适的迁移时机，不用被迫仓促完成技术升级。这套新的系统接口还直接自带了封装好的文本生成API和语音识别API，开发者不用再自己处理复杂的底层推理逻辑，几行简单的代码就能给应用添加上本地AI能力。

目前这套实验性的原生本地推理能力已经随最新的Windows 11版本推送，后续微软还会持续迭代优化兼容性和运行性能，逐步把本地AI能力变成Windows系统的基础原生能力，让更多普通用户不用折腾复杂配置，就能轻松在自己的电脑上用上完全离线、数据不会上传云端的本地大模型。

• ·理响中国·聚焦2026中国经济丨热气腾腾、生机勃勃 五组数据带你读懂活力中国年
• ·林书豪12+6+7韦德复出砍14+7 公牛爆冷不敌篮网
• ·加满爱车油箱 守护安心消费｜中信银行马鞍山分行走进中石化加油站开展金融教育宣传活动
• ·机械工业规上企业增加值同比增长6.1%
• ·卡牌游戏《Artifact》实机演示视频曝光 DOTA2元素众多
• ·家具行业的内卷现象 顺德家具网-
• ·数据控：析勇士常规赛数据 四巨凶猛KD完美融入
• ·7月工业企业销售收入同比增长6%
• ·五大互联网保险平台最新测评：从货架广度看产品最全平台，专业经纪系慧择维度表现最优
• ·新疆和田民丰县100万千瓦光伏治沙项目正式发电
• ·长沙市2025年“敬老月”·“焕新惠老”产品展示体验活动，探索中国式养老新样板
• ·前7月快递业务量同比增23%
• ·无期迷途2026最新礼包兑换码一览
• ·和讯信息尚伟：A股反弹至重要压力位，新一轮变盘窗口要来了
• ·开展特色服务 厦门启动中医药文化惠民活动
• ·芜湖入选国家现代商贸流通体系试点城市