# Assistant UI - The composable AI chat UI toolkit
上一篇 CopilotKit - The frontend stack for Agent 介绍了如何把 Agent 接到产品里—读取页面上下文、调用前端工具、渲染 React 组件、暂停等待用户审批。CopilotKit 是产品的智能助手。
当你的核心需求变成构建精细、可组合的聊天界面 时,Assistant UI (opens new window) 会更合适。它提供 Thread、Message、Composer 等聊天 primitive,以及连接 Vercel AI SDK、LangGraph、AG-UI 或自定义后端的 Runtime 层,让你像搭积木一样组装 ChatGPT 风格的对话体验。
Assistant UI 的核心能力如下:
| 产品能力 | 说明 |
|---|---|
| UI Primitives | 无样式、可访问的 Thread、Message、Composer 等 Primitive,交互细节(自动滚动、流式渲染、分支切换)内置 |
| Elements | 基于 shadcn/ui 的预置聊天组件,源码复制到项目,样式完全可控 |
| Runtime | 连接 UI 与后端的会话状态层,负责消息、Composer、运行生命周期与分支 |
| AI SDK 集成 | 通过 @assistant-ui/ai-sdk 的 useChatRuntime 对接 Vercel AI SDK 流式对话 |
| Tool UI | 为工具调用注册自定义 React 渲染器,展示 loading、结果与交互状态 |
| ThreadList | 多会话列表:创建、切换、归档、重命名 |
| CLI | 脚手架创建项目、向现有项目添加组件、升级与 codemod |
Assistant UI 当前版本 0.15.x,AI SDK 集成面向 v7(
ai@^7、@ai-sdk/react@^4)。
# 架构
从前端到后端,Assistant UI 可以理解为三个部分:UI Primitives / Elements、Runtime、Adapters / Backend。更多详情,请参考 Architecture (opens new window)。
# 三层职责
UI 层(Primitives / Elements / Hooks)
渲染线程、消息、输入框、附件、建议等界面。Primitive 层(ThreadPrimitive、MessagePrimitive、ComposerPrimitive)不带样式,行为类似 Radix UI;Elements 是在 Primitive 之上用 shadcn/ui 做好的完整组件(如 Thread),源码通过 CLI 复制到项目。
UI 通过 Runtime 上下文读写状态,不直接调用 LLM API。useAui 返回当前作用域的 AssistantClient;useAuiState 用选择器订阅线程、Composer、消息等切片状态;useAuiEvent 订阅 Runtime 事件。这些 Hooks 是 UI 层定制行为的入口。
Runtime 层
会话状态的边界。AssistantRuntimeProvider 注入 Runtime,其下所有 Primitive 和 Hooks 共享同一份线程状态。不同 Runtime 适配不同后端对消息、分支、工具调用的组织方式。
Adapters / Backend
实际产生模型输出和应用行为的地方。AI SDK 适配器把 streamText 的 UI Message 流映射进 Runtime;LangGraph、AG-UI 等各有专属适配器;Assistant Cloud 或自定义 persistence adapter 负责线程与消息持久化。
# 请求过程
以 Next.js + AI SDK v7 + OpenAI 为主线,用户发送消息后,Runtime 把本地状态转成 API 请求,后端流式返回,UI 逐段更新消息部件。
一句话概括:用户说话 → Runtime 组装请求 POST 到 API Route → streamText 流式生成 → Runtime 把 UI Message 部件写回 Thread → Primitive 渲染。
# 集成 Assistant UI
如果想快速搭脚手架,或向已有项目追加组件,可以用官方 CLI。更多详情,请参考 CLI 文档 (opens new window)。
CLI 当前版本 assistant-ui@0.0.117
# 创建新项目
create 从模板或示例生成完整项目:
# 默认模板(Vercel AI SDK)
$ npx assistant-ui@latest create my-app
# 指定 AI SDK v7 示例
$ npx assistant-ui@latest create my-app -e with-ai-sdk-v7
# Cloud 持久化模板
$ npx assistant-ui@latest create my-app -t cloud
2
3
4
5
6
7
8
常用模板( -t template):
| Name | 模板 | 说明 |
|---|---|---|
default | Default | 默认模板,内置 Vercel AI SDK |
minimal | Minimal | 最小起点 |
cloud | Cloud | Cloud 持久化 Starter |
cloud-clerk | Cloud + Clerk | Cloud 持久化 + Clerk 鉴权 |
langchain | LangChain | LangGraph + react-langchain 适配器 |
mcp | MCP | MCP Tools + MCP Apps Renderer |
eve | Eve | Eve Agent + Next.js |
常用示例(-e example):
| Name | 示例 | 说明 |
|---|---|---|
with-ag-ui | AG-UI | AG-UI 协议集成 |
with-google-adk | Google ADK | Google ADK Agent 集成 |
with-ai-sdk-v7 | AI SDK v7 | Vercel AI SDK v7 集成 |
with-eve | Eve | Eve Agent 集成 |
with-artifacts | Artifacts | HTML Artifact 渲染与实时预览 |
with-assistant-transport | Assistant Transport | 通过 Assistant Transport 对接自定义后端 |
with-chain-of-thought | Chain of Thought | Chain of Thought、Tool Call 与来源引用 |
with-cloud | Cloud Example | Assistant Cloud 持久化 |
with-custom-thread-list | Custom Thread List | 自定义 ThreadList UI |
with-elevenlabs-conversational | ElevenLabs Conversational | ElevenLabs 实时语音对话 |
with-elevenlabs-scribe | ElevenLabs Scribe | ElevenLabs 语音转写 |
with-livekit | LiveKit Voice | LiveKit 实时语音 |
with-expo | Expo | Expo / React Native |
with-interactables | Interactables | AI 驱动的交互式 UI 组件 |
with-external-store | External Store | External Message Store |
with-ffmpeg | FFmpeg | FFmpeg 视频处理工具 |
with-langgraph | LangGraph Example | LangGraph Agent 与自定义工具 |
with-react-hook-form | React Hook Form | React Hook Form 集成 |
with-react-ink | React Ink | React Ink 终端聊天界面 |
with-react-router | React Router | React Router v7 集成 |
with-tanstack | TanStack | TanStack Start 集成 |
with-resumable-stream | Resumable Stream | 页面刷新后可恢复的 LLM Stream |
with-openui | OpenUI | OpenUI Generative UI 集成 |
# 向现有项目添加
已有 package.json 的 Next.js 项目,用 init 完成首次配置:
$ npx assistant-ui@latest init
init 会检测项目、通过 shadcn registry 安装 quick-start 组件、配置 TypeScript paths。
之后按需追加单个组件:
# 基础 Thread
$ npx assistant-ui@latest add thread
# 多会话 ThreadList
$ npx assistant-ui@latest add thread-list
# 浮窗形态
$ npx assistant-ui@latest add assistant-modal
# 一次添加多个
$ npx assistant-ui@latest add thread thread-list assistant-sidebar
2
3
4
5
6
7
8
9
10
11
# 升级与维护
# 添加组件
$ npx assistant-ui@latest add [component]
# 查看可更新包(dry run)
$ npx assistant-ui@latest update --dry
# 更新所有 @assistant-ui/* 包
$ npx assistant-ui@latest update
# 运行 breaking change codemod
$ npx assistant-ui@latest upgrade
2
3
4
5
6
7
8
9
10
11
CLI 添加的组件源码会直接写入项目,可以继续按需修改组件、样式与 Runtime 配置。
# Primitives 与 Hooks
Assistant UI 是由多个 Primitives 组合而成的,下面是其基本组成示意图。

# 核心 Primitives 一览
| Primitive | 功能 |
|---|---|
ThreadPrimitive | 可滚动消息容器:自动滚动、空状态、建议、ViewportFooter |
MessagePrimitive | 单条消息渲染:按 role 展示 parts、附件、元数据 |
ComposerPrimitive | 输入区:文本、发送、附件、语音听写 |
ActionBarPrimitive | 消息操作:复制、重新生成、编辑、反馈 |
BranchPickerPrimitive | 在多条 assistant 分支回复间切换 |
ThreadListPrimitive | 多线程列表:创建、切换、归档 |
AssistantModalPrimitive | 浮窗聊天面板 |
AttachmentPrimitive | 附件渲染 |
SuggestionPrimitive | 建议提示 |
ChainOfThoughtPrimitive | 折叠展示推理步骤与工具调用 |
ErrorPrimitive | 显示错误信息 |
AuiIf | 按 Runtime 状态条件渲染 |
# Primitives 详解
# ThreadPrimitive
线程容器,负责 Viewport 滚动、消息迭代与 Composer 锚点。典型结构:
import { ThreadPrimitive, MessagePrimitive, ComposerPrimitive, AuiIf } from "@assistant-ui/react";
<ThreadPrimitive.Root className="flex h-full flex-col">
<ThreadPrimitive.Viewport turnAnchor="top" className="flex-1 overflow-y-auto">
<AuiIf condition={s => s.thread.isEmpty}>
<p>开始提问吧</p>
</AuiIf>
<ThreadPrimitive.Messages>
{({ message }) => {
if (message.role === "user") return <UserMessage />;
return <AssistantMessage />;
}}
</ThreadPrimitive.Messages>
<ThreadPrimitive.ViewportFooter className="sticky bottom-0">
<ComposerPrimitive.Root>
<ComposerPrimitive.Input placeholder="Ask anything..." />
<ComposerPrimitive.Send>Send</ComposerPrimitive.Send>
</ComposerPrimitive.Root>
</ThreadPrimitive.ViewportFooter>
</ThreadPrimitive.Viewport>
</ThreadPrimitive.Root>;
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
turnAnchor="top" 时,用户消息锚定在 Viewport 顶部,assistant 回复在下方展开,接近 ChatGPT 的阅读体验。autoScroll、scrollToBottomOnRunStart 等控制滚动行为。
# MessagePrimitive
单条消息的渲染单元。MessagePrimitive.Parts 按 part 类型(text、tool-call、reasoning 等)渲染内容;配合 ActionBarPrimitive、BranchPickerPrimitive 实现复制、重新生成与分支切换。
<MessagePrimitive.Root className="flex justify-start">
<div className="rounded-2xl bg-muted px-4 py-2.5">
<MessagePrimitive.Parts />
</div>
</MessagePrimitive.Root>
2
3
4
5
ActionBar 和 BranchPicker 必须放在 MessagePrimitive.Root 内部。
# ComposerPrimitive
消息输入区。处理 Enter 发送、空内容禁用、流式运行中禁用、附件与听写适配器。既可用于 Thread 底部的新消息 Composer,也可用于 MessagePrimitive 内的编辑模式。
<ComposerPrimitive.Root>
<ComposerPrimitive.Input placeholder="输入消息…" />
<ComposerPrimitive.Send />
<ComposerPrimitive.Cancel /> {/* 运行中取消 */}
</ComposerPrimitive.Root>
2
3
4
5
# 核心 Hooks 一览
| Hook | 功能 |
|---|---|
useChatRuntime | 创建 AI SDK v7 Runtime(推荐主线) |
useAISDKRuntime | 把已有 useChat 实例适配为 Runtime |
useAui | 获取 AssistantClient,调用 thread / composer / message 作用域方法 |
useAuiState | 选择器订阅 Runtime 状态切片 |
useAuiEvent | 订阅 assistant 事件(如 modelContext 更新) |
useLangGraphRuntime | LangGraph Cloud / SDK 集成 |
useAgUiRuntime | AG-UI 协议 agent 集成 |
useOpenCodeRuntime | OpenCode coding agent;session 即 thread,服务端持久化历史 |
useLocalRuntime | Runtime 内部管理状态,后端只需简单 fetch |
useExternalStoreRuntime | 消息状态放在 Redux / Zustand 等外部 store |
useRemoteThreadListRuntime | 自定义数据库的多线程列表 |
# Hook 详解
# useAui
返回当前上下文中的 AssistantClient,用于 主动触发行为 而非订阅状态:
import { useAui } from "@assistant-ui/react";
function SendHello() {
const aui = useAui();
return (
<button
onClick={() => {
aui.composer().setText("Hello");
aui.composer().send();
}}
>
发送 Hello
</button>
);
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
常见调用:aui.thread().cancelRun() 取消生成;aui.threads().switchToThread(id) 切换线程;aui.threadListItem().initialize() 创建远程线程。
# useAuiState
用选择器订阅状态,只在选中切片变化时重渲染:
import { useAuiState } from "@assistant-ui/react";
function RunningIndicator() {
const isRunning = useAuiState(s => s.thread.isRunning);
const messages = useAuiState(s => s.thread.messages);
if (!isRunning) return null;
return <span>生成中…(共 {messages.length} 条消息)</span>;
}
2
3
4
5
6
7
8
9
注意:选择器应返回原始字段或稳定引用;不要返回每次新建的 object/array,否则会触发多余渲染。可能不存在的作用域用 s.optional. 读取。
# Runtime
Runtime 是 UI Primitive 与 AI 后端之间的 状态与行为边界:负责消息、线程、分支、编辑 / 重新生成,以及一次 run 的生命周期。
# Runtime Architecture
assistant-ui 的 Runtime 集成分三层。上层都用下层实现;多数项目从 Framework adapters 起步,只有需要更细控制时才下沉到 Protocol 或 Core。
更多详情请参考 Assistant-UI Runtime architecture (opens new window)。

Core runtimes — 真正「拥有」会话状态的两套底座:
| Runtime | 状态归属 | 适合谁 |
|---|---|---|
LocalRuntime | Runtime 内部 | 你实现一个 ChatModelAdapter.run,分支 / 编辑 / 重新生成由 Runtime 管 |
ExternalStoreRuntime | 你自己的 store | 消息已在 Redux、Zustand、TanStack Query 里;提供 onNew / onEdit / onReload 等回调 |
Protocol layers — 在 Core 上包一层线协议,后端不必为每个应用写一份 ChatModelAdapter:
| 协议 | 叠在 | 何时用 |
|---|---|---|
| DataStream | LocalRuntime | 后端已说 data stream,或只要「消息流」合约 |
| AssistantTransport | ExternalStoreRuntime | 要流式同步整份 agent 状态,而不只是消息 parts |
Framework adapters — 最快路径。每个 adapter 叠在 Core(多数是 ExternalStoreRuntime)上,并加上框架便利:
| Adapter | 目标后端 |
|---|---|
ai-sdk | Vercel AI SDK v7(useChat) |
react-langgraph / react-langchain | LangGraph Cloud / useStream |
react-google-adk | Google ADK |
react-a2a | A2A v1.0 协议服务器 |
react-ag-ui | AG-UI agent(含 CopilotKit 等) |
react-opencode | OpenCode coding agent(实验性) |
怎么选择 — 从上往下选,卡住再往下走:
- Framework adapter — 后端已是 AI SDK、LangGraph、AG-UI、OpenCode 等,直接用对应 hook。
- Protocol layer — 没有现成 adapter,但能约定线格式:消息流用 DataStream,状态流用 AssistantTransport。
- Core runtime — 更定制:简单用
LocalRuntime,已有 store 用ExternalStoreRuntime。
更多详情请参考 Picking a runtime (opens new window)。
最快也是最简单的路径是使用 Framework adapters,下面介绍使用 AI SDK 和 Opencode。
# 使用 AI SDK
@assistant-ui/ai-sdk 的 useChatRuntime 叠在 ExternalStoreRuntime 上,封装 useChat、AssistantChatTransport 与消息格式转换。
需要持久化历史会话和消息时再加上 adapters.history 或 Assistant Cloud。
# 安装依赖
$ npm install @assistant-ui/react @assistant-ui/ai-sdk ai@^7 @ai-sdk/react@^4 @ai-sdk/openai zod
# 前端
前端使用 useChatRuntime
"use client";
import { Thread } from "@/components/assistant-ui/elements/thread.aui";
import { AssistantRuntimeProvider } from "@assistant-ui/react";
import { useChatRuntime, AssistantChatTransport } from "@assistant-ui/ai-sdk";
import { lastAssistantMessageIsCompleteWithToolCalls } from "ai";
export default function Home() {
const runtime = useChatRuntime({
// 可选:自定义 endpoint;省略则默认 /api/chat
transport: new AssistantChatTransport({ api: "/api/chat" }),
// 可选:当提供时,该函数将在流结束或添加工具调用时被调用,以确定当前消息是否需要重新提交
sendAutomaticallyWhen: lastAssistantMessageIsCompleteWithToolCalls,
onThreadIdChange: threadId => {
// 把 settled threadId 同步到 URL,例如 ?thread=xxx
}
// adapters: { history: myHistoryAdapter, attachments: myAttachmentAdapter },
});
return (
<AssistantRuntimeProvider runtime={runtime}>
<div className="h-full">
<Thread />
</div>
</AssistantRuntimeProvider>
);
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
如果需要直接拿到 useChat 实例时,可降级为 useAISDKRuntime:
import { useChat } from "@ai-sdk/react";
import { useAISDKRuntime } from "@assistant-ui/ai-sdk";
const chat = useChat({ api: "/api/chat" });
const runtime = useAISDKRuntime(chat);
2
3
4
5
更多选项见 AI SDK (opens new window)。
# 后端
在 app/api/chat/route.ts 用 AI SDK 的 streamText 接住请求,再把 UI Message 流返回给 Runtime:
import { openai } from "@ai-sdk/openai";
import {
streamText,
convertToModelMessages,
zodSchema,
createUIMessageStreamResponse,
toUIMessageStream,
stepCountIs
} from "ai";
import { frontendTools } from "@assistant-ui/ai-sdk";
import { z } from "zod";
export async function POST(req: Request) {
const { messages, system, tools } = await req.json();
const result = streamText({
model: openai("gpt-5.4-mini"), // 换成你账号可用的模型
messages: await convertToModelMessages(messages), // v7 为 async
system,
tools: {
...frontendTools(tools)
// 后端工具 …
},
stopWhen: stepCountIs(10) // 允许多轮 tool call;省略则只跑一步
});
return createUIMessageStreamResponse({
stream: toUIMessageStream({ stream: result.stream })
});
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
OpenAI 模型,添加环境变量 OPENAI_API_KEY=...。
frontendTools 接收客户端通过 assistant-ui 注册并随请求发送的前端工具定义(FrontendTools),再转换成 AI SDK 的 ToolSet,供服务端的 streamText 使用。
# 使用 OpenCode
OpenCode (opens new window) 是开源 coding agent。@assistant-ui/react-opencode 把 OpenCode 的 session / event API 接到 assistant-ui:流式消息、工具权限、交互式提问、fork / revert 等。
# 安装依赖
$ npm install @assistant-ui/react @assistant-ui/react-opencode @opencode-ai/sdk
Adapter 叠在 ExternalStoreRuntime + RemoteThreadList 上;一个 OpenCode session 对应一个 thread。
当前 adapter 仍是实验性(文档标注 v0.0.x),API 可能变更。详见 OpenCode Runtime (opens new window)。
先在本机按 opencode.ai (opens new window) 启动 OpenCode 服务:
$ opencode serve
默认服务地址为 http://localhost:4096。
# 最小接入
"use client";
import { AssistantRuntimeProvider } from "@assistant-ui/react";
import { useOpenCodeRuntime } from "@assistant-ui/react-opencode";
import { Thread } from "@/components/assistant-ui/elements/thread.aui";
export default function Page() {
const runtime = useOpenCodeRuntime({
baseUrl: "http://localhost:4096"
// 可选:新会话默认模型 / agent
// defaultModel: { providerID: "anthropic", modelID: "claude-sonnet-5" },
// defaultAgent: "coder",
});
return (
<AssistantRuntimeProvider runtime={runtime}>
<Thread />
</AssistantRuntimeProvider>
);
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
Runtime 会对 OpenCode 打开 SSE,把 session 与 message 事件投影进 Thread;ThreadList 默认就是服务器上的 session 列表。
# 消息与会话历史持久化
和 AI SDK 默认「只活在浏览器内存」不同,OpenCode Runtime 天然把会话存在 OpenCode 服务端:
| 能力 | 行为 |
|---|---|
| 会话列表 | OpenCode sessions ↔ assistant-ui threads |
| 消息历史 | 由 OpenCode server 持久化;刷新页面后仍可从同一 session 继续 |
| 恢复会话 | initialSessionId 指定首次打开的 session |
| 可选 Cloud | 传入 cloud,ThreadList 改由 Assistant Cloud 托管,再通过 external id 映射到 OpenCode session |
恢复已有会话:
const runtime = useOpenCodeRuntime({
baseUrl: "http://localhost:4096",
initialSessionId: "ses_abc123"
});
2
3
4
权限审批、提问、fork / revert 等用 useOpenCodePermissions、useOpenCodeQuestions、useOpenCodeRuntimeExtras,更多详情请参考 OpenCode Hooks (opens new window)。
# 思考链
推理模型往往会先产生一串 reasoning(思考)和 tool-call,最后才给出正式回复。assistant-ui 的 Chain of Thought (opens new window) 把相邻的这类消息收进可折叠的「思考」区块,使界面整洁。
整条链路分两头:
| 端 | 要做什么 |
|---|---|
| 后端 | 选用会产出 reasoning tokens 的模型,并在流式响应里把思考内容带出来 |
| 前端 | 用 MessagePrimitive.GroupedParts 把 reasoning / tool-call 分组渲染,而不是平铺成一长串 |
# 安装依赖
$ npx assistant-ui@latest add reasoning tool-group tool-fallback
# 前端
在助手消息里,用 groupPartByType 给 reasoning 和 tool-call 挂上同一顶层组 group-chainOfThought,再分子组分别渲染思考与工具:
import {
MessagePrimitive,
groupPartByType,
} from "@assistant-ui/react";
import { MarkdownText } from "@/components/assistant-ui/elements/markdown-text";
import {
Reasoning,
ReasoningContent,
ReasoningRoot,
ReasoningText,
ReasoningTrigger,
} from "@/components/assistant-ui/elements/reasoning.aui";
import { ToolFallback } from "@/components/assistant-ui/elements/tool-fallback.aui";
import {
ToolGroupContent,
ToolGroupRoot,
ToolGroupTrigger,
} from "@/components/assistant-ui/elements/tool-group.aui";
import type { FC } from "react";
const AssistantMessage: FC = () => {
return (
<MessagePrimitive.Root>
<MessagePrimitive.GroupedParts
groupBy={groupPartByType({
reasoning: ["group-chainOfThought", "group-reasoning"],
"tool-call": ["group-chainOfThought", "group-tool"],
})}
>
{({ part, children }) => {
switch (part.type) {
case "group-chainOfThought":
return <div className="my-2">{children}</div>;
case "group-reasoning": {
const running = part.status.type === "running";
return (
<ReasoningRoot streaming={running}>
<ReasoningTrigger active={running} />
<ReasoningContent aria-busy={running}>
<ReasoningText>{children}</ReasoningText>
</ReasoningContent>
</ReasoningRoot>
);
}
case "group-tool":
return (
<ToolGroupRoot>
<ToolGroupTrigger
count={part.indices.length}
active={part.status.type === "running"}
/>
<ToolGroupContent>{children}</ToolGroupContent>
</ToolGroupRoot>
);
case "text":
return <MarkdownText />;
case "reasoning":
return <Reasoning {...part} />;
case "tool-call":
return part.toolUI ?? <ToolFallback {...part} />;
case "indicator":
return <div>请稍等...</div>;
default:
return null;
}
}}
</MessagePrimitive.GroupedParts>
</MessagePrimitive.Root>
);
};
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
groupPartByType 把消息部件的 type 映射为一条分组路径,路径从外层写到内层。
上面的配置会让 reasoning 和 tool-call 共享外层 group-chainOfThought,再分别进入 group-reasoning 和 group-tool。MessagePrimitive.GroupedParts 会保持消息原有顺序,把相邻且共享同一层分组键的部件合并。
没有配置的 text 等类型则不分组。
假设一条消息依次包含思考、工具调用和正式回复,组合后的结构与页面中的上下顺序如下:
完整示例见官方 with-chain-of-thought (opens new window)。
# 后端
前端只是在有 reasoning 时把它折起来。若后端模型不产生思考内容,前端也不会展示思考链。
OpenAI 官方模型用内置 provider 即可。但是使用 千问模型 时,需要安装 @ai-sdk/openai-compatible,并在请求体里打开非标准字段 enable_thinking(OpenAI 协议本身没有这个参数)。
import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
// 创建带思考能力的 model
const qwen = createOpenAICompatible({
name: "qwen",
apiKey: process.env.DASHSCOPE_API_KEY,
baseURL: process.env.DASHSCOPE_BASE_URL,
includeUsage: true,
transformRequestBody: body => ({
...body,
enable_thinking: process.env.DASHSCOPE_ENABLE_THINKING !== "false",
incremental_output: true
})
});
// 或者使用 `streamText` 的 `providerOptions` 属性
const qwen = createOpenAICompatible({
name: "qwen",
apiKey: process.env.DASHSCOPE_API_KEY,
baseURL: process.env.DASHSCOPE_BASE_URL
});
const result = streamText({
model: qwen(process.env.QWEN_MODEL),
providerOptions: {
qwen: {
enable_thinking: true
}
},
stopWhen: stepCountIs(10)
});
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
也可以使用 @ai-sdk/alibaba (opens new window) 代替 @ai-sdk/openai-compatible (opens new window),开启 enableThinking (opens new window) 属性。
# References
- Assistant UI 文档首页 (opens new window)
- Architecture (opens new window)
- Installation (opens new window)
- CLI (opens new window)
- Runtime architecture (opens new window)
- AI SDK v7 Runtime (opens new window)
- OpenCode Runtime (opens new window) · Quickstart (opens new window) · Hooks (opens new window)
- Picking a Runtime (opens new window)
- Primitives 概览 (opens new window)
- Tool UI (opens new window)
- Chain of Thought UI (opens new window)
- Cloud Persistence (opens new window)
- Custom thread persistence (opens new window)
- Hooks API Reference (opens new window)
- Assistant UI GitHub (opens new window)
- Assistant-UI Example (opens new window)
- Assistant-UI Showcase (opens new window)
- CopilotKit - The frontend stack for Agent