
Web Models API 用 JavaScript 构建示例公布
来源标题:A look at what building with the Web Models API looks like in JavaScript
Web Models API 的 JavaScript 用法示例已公开,展示了在网页中调用端侧开放权重模型的接口。该 API 通过 navigator.models 提供 requestAccess、generate、stream、embed、session、info 和 list 等方法。文章指出该 API 仍处于提案阶段,后续可能调整。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
JavaScript AI 设备端 AI Web Models API:实用指南 看看用 JavaScript 基于 Web Models API 构建应用是什么样子。 Chris McKenzie 阅读时长 5 分钟 · 2026 年 9 月 29 日
在上一篇文章中,我重点讲了为什么我认为迫切需要一套能把开放权重、设备端模型暴露给 Web 应用的 API,以及为什么 Web Models API 可能是个好方案。
这篇文章我想直奔主题,展示代码长什么样。我会聚焦开发者这一侧。浏览器实现的工作原理,我会在后续文章里再详细写。
以下示例遵循当前提案。该 API 仍在开发中,可能会发生变化。
进入示例之前,先概览一下这个 API:
// 请求访问某个模型。 navigator.models.requestAccess(model); // 生成文本、流式返回响应,或创建嵌入。 navigator.models.generate(model, input); navigator.models.stream(model, input); navigator.models.embed(model, input); // 绑定模型以便重复调用。 navigator.models.session(model); // 在获得访问权限后读取模型详情。 navigator.models.info(model); navigator.models.list();
关于该 API 输入和输出样式的更详尽说明,请参阅参考文档。
三个示例:总结页面、创建嵌入、起草图片描述。
我会复用这个小辅助函数来检查支持情况并请求访问权限:
async function requestModel(model) { if (!("models" in navigator)) { throw new Error("This browser does not support Web Models."); const access = await navigator.models.requestAccess(model); if (access.status !== "granted") { throw new Error("Model access was not granted.");
总结页面内容
我们给一个已经包含 <article> 元素的页面加一个总结按钮。
<button id="summarize" type="button">Summarize this article</button>
<p id="summary" role="status"></p>const summarizeButton = document.querySelector("#summarize"); const summaryOutput = document.querySelector("#summary"); const textModel = "<text-model-id>"; summarizeButton.addEventListener("click", async () => { summarizeButton.disabled = true; summaryOutput.textContent = ""; try { await requestModel(textModel); const article = document.querySelector("article")?.innerText; if (!article?.trim()) throw new Error("No article text was found."); const result = await navigator.models.generate(textModel, { messages: [ { role: "system", content: "Summarize the supplied article in three short sentences." }, { role: "user", content: article } maxOutputTokens: 200 }); if (result.finishReason !== "stop") { throw new Error("The summary did not finish. Try a shorter input or a larger output limit."); summaryOutput.textContent = result.data ?? ""; } catch (error) { summaryOutput.textContent = error.message; } finally { summarizeButton.disabled = false; });
应用读取自己的页面,把文本传给模型。答案在 result.data 里。finishReason 告诉我们它是正常结束了,还是达到了某个限制。
嵌入让我们能按语义比较文本。搜索“什么时候发布?”可能会找到一条写着“发布推迟到了十月”的笔记。
下面演示如何把几条笔记转成向量:
<button id="index-notes" type="button">Create note embeddings</button>
<p id="index-status" role="status"></p>const indexButton = document.querySelector("#index-notes");
const indexStatus = document.querySelector("#index-status");
const embeddingModel = "<embedding-model-id>";
const notes = [
{ id: 1, text: "The release moved to October." },
{ id: 2, text: "The design review is on Tuesday." },
{ id: 3, text: "Support hours are 9 AM to 5 PM." }
];
let noteIndex;
indexButton.addEventListener("click", async () => {
indexButton.disabled = true;
indexStatus.textContent = "";
try {
await requestModel(embeddingModel);
const result = await navigator.models.embed(
embeddingModel,
notes.map(note => note.text)
);
noteIndex = {
model: result.model,
entries: notes.map((note, i) => ({
...note,
vector: result.vectors[i]
}))
};
console.log(noteIndex);
indexStatus.textContent = Created embeddings for ${notes.length} notes.;
} catch (error) {
indexStatus.textContent = error.message;
} finally {
indexButton.disabled = false;
});
embed() 为每条笔记给出一个向量。我把模型 ID 和它们存在一起,因为搜索查询需要用同一个模型。
接下来让模型为一张图片写出 alt 文本的初稿。我们会把它放进一个文本框,方便作者在发布前编辑。
这里我要求结构化响应,所以模型需要支持图片输入和 JSON Schema 输出。
<label for="image-file">Choose an image</label> <input id="image-file" type="file" accept="image/*"> <label for="image-context">How will this image be used?</label> <input id="image-context" type="text"> <button id="describe-image" type="button">Draft alt text</button> <label for="alt-draft">Alt text - review before publishing</label>
<textarea id="alt-draft"></textarea> <p id="image-status" role="status"></p>const describeButton = document.querySelector("#describe-image");
const altDraft = document.querySelector("#alt-draft");
const imageStatus = document.querySelector("#image-status");
const visionModel = "<vision-model-id>";
describeButton.addEventListener("click", async () => {
describeButton.disabled = true;
altDraft.value = "";
imageStatus.textContent = "";
try {
const image = document.querySelector("#image-file").files[0];
const context = document.querySelector("#image-context").value;
if (!image) throw new Error("Choose an image first.");
if (!context.trim()) throw new Error("Describe how the image will be used.");
await requestModel(visionModel);
const result = await navigator.models.generate(visionModel, {
messages: [{
role: "user",
content: [
{ type: "text", text: Draft concise alt text for this image. Avoid guessing details. Page context: ${context} },
{ type: "image", image }
output: {
schema: {
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。