返回资讯中心
外部精选
软件工程
#开发者实时流

Web Models API 用 JavaScript 构建示例公布

来源标题:A look at what building with the Web Models API looks like in JavaScript

Web Models API 的 JavaScript 用法示例已公开,展示了在网页中调用端侧开放权重模型的接口。该 API 通过 navigator.models 提供 requestAccess、generate、stream、embed、session、info 和 list 等方法。文章指出该 API 仍处于提案阶段,后续可能调整。

Hacker News 最新kenzic2026/11/12 · 6 天前18 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

JavaScript AI 设备端 AI Web Models API:实用指南 看看用 JavaScript 基于 Web Models API 构建应用是什么样子。 Chris McKenzie 阅读时长 5 分钟 · 2026 年 9 月 29 日

在上一篇文章中,我重点讲了为什么我认为迫切需要一套能把开放权重、设备端模型暴露给 Web 应用的 API,以及为什么 Web Models API 可能是个好方案。

这篇文章我想直奔主题,展示代码长什么样。我会聚焦开发者这一侧。浏览器实现的工作原理,我会在后续文章里再详细写。

以下示例遵循当前提案。该 API 仍在开发中,可能会发生变化。

进入示例之前,先概览一下这个 API:

// 请求访问某个模型。 navigator.models.requestAccess(model); // 生成文本、流式返回响应,或创建嵌入。 navigator.models.generate(model, input); navigator.models.stream(model, input); navigator.models.embed(model, input); // 绑定模型以便重复调用。 navigator.models.session(model); // 在获得访问权限后读取模型详情。 navigator.models.info(model); navigator.models.list();

关于该 API 输入和输出样式的更详尽说明,请参阅参考文档。

三个示例:总结页面、创建嵌入、起草图片描述。

我会复用这个小辅助函数来检查支持情况并请求访问权限:

async function requestModel(model) { if (!("models" in navigator)) { throw new Error("This browser does not support Web Models."); const access = await navigator.models.requestAccess(model); if (access.status !== "granted") { throw new Error("Model access was not granted.");

总结页面内容

我们给一个已经包含 <article> 元素的页面加一个总结按钮。

<button id="summarize" type="button">Summarize this article</button>

<p id="summary" role="status"></p>

const summarizeButton = document.querySelector("#summarize"); const summaryOutput = document.querySelector("#summary"); const textModel = "<text-model-id>"; summarizeButton.addEventListener("click", async () => { summarizeButton.disabled = true; summaryOutput.textContent = ""; try { await requestModel(textModel); const article = document.querySelector("article")?.innerText; if (!article?.trim()) throw new Error("No article text was found."); const result = await navigator.models.generate(textModel, { messages: [ { role: "system", content: "Summarize the supplied article in three short sentences." }, { role: "user", content: article } maxOutputTokens: 200 }); if (result.finishReason !== "stop") { throw new Error("The summary did not finish. Try a shorter input or a larger output limit."); summaryOutput.textContent = result.data ?? ""; } catch (error) { summaryOutput.textContent = error.message; } finally { summarizeButton.disabled = false; });

应用读取自己的页面,把文本传给模型。答案在 result.data 里。finishReason 告诉我们它是正常结束了,还是达到了某个限制。

嵌入让我们能按语义比较文本。搜索“什么时候发布?”可能会找到一条写着“发布推迟到了十月”的笔记。

下面演示如何把几条笔记转成向量:

<button id="index-notes" type="button">Create note embeddings</button>

<p id="index-status" role="status"></p>

const indexButton = document.querySelector("#index-notes"); const indexStatus = document.querySelector("#index-status"); const embeddingModel = "<embedding-model-id>"; const notes = [ { id: 1, text: "The release moved to October." }, { id: 2, text: "The design review is on Tuesday." }, { id: 3, text: "Support hours are 9 AM to 5 PM." } ]; let noteIndex; indexButton.addEventListener("click", async () => { indexButton.disabled = true; indexStatus.textContent = ""; try { await requestModel(embeddingModel); const result = await navigator.models.embed( embeddingModel, notes.map(note => note.text) ); noteIndex = { model: result.model, entries: notes.map((note, i) => ({ ...note, vector: result.vectors[i] })) }; console.log(noteIndex); indexStatus.textContent = Created embeddings for ${notes.length} notes.; } catch (error) { indexStatus.textContent = error.message; } finally { indexButton.disabled = false; });

embed() 为每条笔记给出一个向量。我把模型 ID 和它们存在一起,因为搜索查询需要用同一个模型。

接下来让模型为一张图片写出 alt 文本的初稿。我们会把它放进一个文本框,方便作者在发布前编辑。

这里我要求结构化响应,所以模型需要支持图片输入和 JSON Schema 输出。

<label for="image-file">Choose an image</label> <input id="image-file" type="file" accept="image/*"> <label for="image-context">How will this image be used?</label> <input id="image-context" type="text"> <button id="describe-image" type="button">Draft alt text</button> <label for="alt-draft">Alt text - review before publishing</label>

<textarea id="alt-draft"></textarea> <p id="image-status" role="status"></p>

const describeButton = document.querySelector("#describe-image"); const altDraft = document.querySelector("#alt-draft"); const imageStatus = document.querySelector("#image-status"); const visionModel = "<vision-model-id>"; describeButton.addEventListener("click", async () => { describeButton.disabled = true; altDraft.value = ""; imageStatus.textContent = ""; try { const image = document.querySelector("#image-file").files[0]; const context = document.querySelector("#image-context").value; if (!image) throw new Error("Choose an image first."); if (!context.trim()) throw new Error("Describe how the image will be used."); await requestModel(visionModel); const result = await navigator.models.generate(visionModel, { messages: [{ role: "user", content: [ { type: "text", text: Draft concise alt text for this image. Avoid guessing details. Page context: ${context} }, { type: "image", image } output: { schema: {

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →