Opera 推出 WebAI 标准，让浏览器本地运行 AI 模型
浏览器厂商 Opera 试图用一套 Web 标准把 AI 推理从云端搬到用户设备上，卖点是隐私、免订阅、开发者不必自建推理基础设施，代价是更吃本地硬件性能。
Opera 推出名为 WebAI 的新 Web 标准，允许用户直接在浏览器里本地运行 AI 模型，不必依赖云端。该标准兼容多种开放权重模型（指模型参数公开可下载、但使用仍受一定条款限制的模型），例如 Google 的 Gemma，在 Mac 上还支持 Apple 的设备端基础模型。该功能先在 Opera One 中以早期预览形式上线，需用户主动开启；Opera GX 和 Opera Neon 后续跟进。
正文摘录
浏览器厂商 Opera 推出了一项新的 Web 标准，让用户可以直接在浏览器里运行 AI 模型，而不必依赖云端。 这项名为 WebAI 的新标准在设计上可兼容多种 AI 模型。Opera 在举例时提到了 Google 的 Gemma —— 一个 Google 两年前首次推出的开放权重（open-weight，指模型权重可公开下载）模型。该公司表示，在 Mac 上，WebAI 还支持 Apple 的端侧基础模型。 但 Opera 称，WebAI 并不绑定任何特定模型，而是为支持各类开放权重 AI 系统而生。WebAI 源自 Opera [此前的工作](https://press.opera.com/2024/04/03/ai-feature-drops-local-llms/)，即把本地运行的模型引入自家浏览器。 Opera 正以早期预览形式在旗舰产品 Opera One 浏览器中提供这些新 AI 功能。该公司表示，面向游戏玩家和主播的 Opera GX，以及用 AI agent 执行任务的 Opera Neon，也将很快获得同样的支持。据该公司称，用户需要主动选择开启该功能。 开放权重模型为用户带来不少好处。其一，它们通常可以免费下载和使用。其底层模型权重也是公开的，这让开发者能更自由地定制其行为。不过，与完全开源的软件不同，开放权重模型仍带有一些限制。 该公司表示，还有隐私方面的额外优势。用户可以直接使用 AI 功能，无需把个人信息发送到公司服务器，也不必为基于云的 AI 订阅付费。 "开发者可以添加 AI 功能，而无需运行 AI 基础设施，也不必为每一次请求付费，"该公司在公告中表示。"用户不需要 AI 订阅，本地 AI 处理的信息留在自己的设备上，并且他们始终掌控自己电脑上的 AI。