chore(i18n): refresh zh-CN translations

This commit is contained in:
openclaw-docs-i18n[bot] 2026-04-25 11:46:39 +00:00
parent d401c524a8
commit a4574fd69b

View File

@ -3,35 +3,34 @@ read_when:
- 通过智能体生成视频
- 配置视频生成提供商和模型
- 了解 `video_generate` 工具参数
summary: 使用 14 个提供商后端从文本、图或现有视频生成视频
summary: 使用 14 个提供商后端从文本、图或现有视频生成视频
title: 视频生成
x-i18n:
generated_at: "2026-04-24T03:44:46Z"
generated_at: "2026-04-25T11:45:24Z"
model: gpt-5.4
provider: openai
source_hash: c5ddefd4fcde2b22be6631c160ed6e128a97b0800d32c65fb5fe36227ce4f368
source_hash: 0a16c56939967a6268e62a267598fe03d2eb3195384ad805652498004fdaf886
source_path: tools/video-generation.md
workflow: 15
---
OpenClaw 智能体可以根据文本提示、参考图片或现有视频生成视频。支持 14 个提供商后端,每个后端都有不同的模型选项、输入模式和功能集。智能体会根据你的配置和可用的 API 密钥自动选择合适的提供商。
OpenClaw 智能体可以根据文本提示、参考图像或现有视频生成视频。当前支持 14 个提供商后端,每个后端提供不同的模型选项、输入模式和功能集。智能体会根据你的配置和可用的 API 密钥自动选择合适的提供商。
<Note>
只有在至少有一个视频生成提供商可用时,`video_generate` 工具才会出现。如果你在智能体工具中看不到它,请设置某个提供商的 API 密钥,或配置 `agents.defaults.videoGenerationModel`
仅当至少有一个视频生成提供商可用时,`video_generate` 工具才会显示。如果你在智能体工具中没有看到它,请设置提供商 API 密钥或配置 `agents.defaults.videoGenerationModel`
</Note>
OpenClaw 将视频生成视为三种运行时模式:
- `generate`:用于没有参考媒体的文本生成视频请求
- `imageToVideo`:当请求包含一个或多个参考图片时
- `videoToVideo`:当请求包含一个或多个参考视频时
- `generate`:用于无参考媒体的文生视频请求
- `imageToVideo`:当请求包含一个或多个参考图像时使用
- `videoToVideo`:当请求包含一个或多个参考视频时使用
提供商可以支持这些模式中的任意子集。该工具会在提交前验证当前
模式,并在 `action=list` 中报告支持的模式。
提供商可以支持这些模式中的任意子集。工具会在提交前验证当前激活的模式,并在 `action=list` 中报告支持的模式。
## 快速开始
1. 为任意受支持的提供商设置 API 密钥:
1. 为任意受支持的提供商设置一个 API 密钥:
```bash
export GEMINI_API_KEY="your-key"
@ -45,31 +44,33 @@ openclaw config set agents.defaults.videoGenerationModel.primary "google/veo-3.1
3. 向智能体发出请求:
> 生成一段 5 秒钟、具有电影感的友善龙虾在日落时冲浪的视频
> 生成一个 5 秒钟的电影感视频:一只友善的龙虾在日落时分冲浪
智能体会自动调用 `video_generate`不需要工具允许列表
智能体会自动调用 `video_generate`无需允许列表配置工具
## 生成视频时会发生什么
视频生成是异步的。当智能体在某个会话中调用 `video_generate` 时:
视频生成是异步进行的。当智能体在某个会话中调用 `video_generate` 时:
1. OpenClaw 将请求提交给提供商,并立即返回一个任务 ID。
2. 提供商在后台处理该任务(通常为 30 秒到 5 分钟,具体取决于提供商和分辨率)。
1. OpenClaw 将请求提交给提供商,并立即返回一个任务 ID。
2. 提供商会在后台处理该任务(通常需要 30 秒到 5 分钟,具体取决于提供商和分辨率)。
3. 当视频准备就绪后OpenClaw 会通过内部完成事件唤醒同一个会话。
4. 智能体会将生成完成的视频发布回原始话中。
4. 智能体会将生成完成的视频发布回原始话中。
任务仍在进行中时,同一会话中的重复 `video_generate` 调用不会再次启动生成,而是返回当前任务状态。你可以使用 `openclaw tasks list``openclaw tasks show <taskId>` 在 CLI 中检查进度。
某个任务正在进行时,在同一会话中重复调用 `video_generate` 不会启动新的生成任务,而是返回当前任务状态。你可以使用 `openclaw tasks list``openclaw tasks show <taskId>` 从 CLI 检查进度。
在不依赖会话的智能体运行之外(例如直接调用工具),该工具会回退为内联生成,并在同一轮中返回最终媒体路径。
在非会话支持的智能体运行场景之外(例如直接调用工具),该工具会回退为内联生成,并在同一轮中返回最终媒体路径。
当提供商返回字节数据时,生成的视频文件会保存在由 OpenClaw 管理的媒体存储中。默认的生成视频保存大小上限遵循视频媒体限制,而 `agents.defaults.mediaMaxMb` 可用于提高该上限以支持更大的渲染输出。当提供商同时返回托管输出 URL 时如果本地持久化因文件过大而被拒绝OpenClaw 可以改为返回该 URL而不是让任务失败。
### 任务生命周期
每个 `video_generate` 请求都会经历四状态:
每个 `video_generate` 请求都会经历四状态:
1. **queued** -- 任务已创建,等待提供商接受。
2. **running** -- 提供商正在处理中(通常为 30 秒到 5 分钟,具体取决于提供商和分辨率)。
3. **succeeded** -- 视频已准备好;智能体会被唤醒并将其发布到会话中。
4. **failed** -- 提供商错误或超时;智能体会带错误详情被唤醒。
1. **queued** -- 任务已创建,正在等待提供商接受。
2. **running** -- 提供商正在处理(通常需要 30 秒到 5 分钟,具体取决于提供商和分辨率)。
3. **succeeded** -- 视频已就绪;智能体会被唤醒并将其发布到对话中。
4. **failed** -- 提供商错误或超时;智能体会带错误详情被唤醒。
通过 CLI 检查状态:
@ -79,166 +80,139 @@ openclaw tasks show <taskId>
openclaw tasks cancel <taskId>
```
重复机制:如果当前会话已有视频任务处于 `queued``running` 状态,`video_generate` 会返回现有任务状态,而不是启动新的任务。若要显式检查状态而不触发新生成,请使用 `action: "status"`
止重复:如果当前会话中某个视频任务已经处于 `queued``running` 状态,`video_generate` 会返回现有任务状态,而不是启动新的任务。使用 `action: "status"` 可以显式检查状态,而不会触发新的生成
## 支持的提供商
## 支持的提供商
| Provider | Default model | Text | Image ref | Video ref | API key |
| --------------------- | ------------------------------- | ---- | ------------------------------------------ | ---------------- | ---------------------------------------- |
| Alibaba | `wan2.6-t2v` | 是 | 是(远程 URL | 是(远程 URL | `MODELSTUDIO_API_KEY` |
| BytePlus1.0 | `seedance-1-0-pro-250528` | 是 | 最多 2 张图片(仅 I2V 模型;首帧 + 末帧) | 否 | `BYTEPLUS_API_KEY` |
| BytePlus Seedance 1.5 | `seedance-1-5-pro-251215` | 是 | 最多 2 张图片(通过 role 指定首帧 + 末帧) | 否 | `BYTEPLUS_API_KEY` |
| BytePlus Seedance 2.0 | `dreamina-seedance-2-0-260128` | 是 | 最多 9 张参考图片 | 最多 3 个视频 | `BYTEPLUS_API_KEY` |
| ComfyUI | `workflow` | 是 | 1 张图片 | 否 | `COMFY_API_KEY``COMFY_CLOUD_API_KEY` |
| fal | `fal-ai/minimax/video-01-live` | 是 | 1 张图片 | 否 | `FAL_KEY` |
| Google | `veo-3.1-fast-generate-preview` | 是 | 1 张图片 | 1 个视频 | `GEMINI_API_KEY` |
| MiniMax | `MiniMax-Hailuo-2.3` | 是 | 1 张图片 | 否 | `MINIMAX_API_KEY` |
| OpenAI | `sora-2` | 是 | 1 张图片 | 1 个视频 | `OPENAI_API_KEY` |
| Qwen | `wan2.6-t2v` | 是 | 是(远程 URL | 是(远程 URL | `QWEN_API_KEY` |
| Runway | `gen4.5` | 是 | 1 张图片 | 1 个视频 | `RUNWAYML_API_SECRET` |
| Together | `Wan-AI/Wan2.2-T2V-A14B` | 是 | 1 张图片 | 否 | `TOGETHER_API_KEY` |
| Vydra | `veo3` | 是 | 1 张图片(`kling` | 否 | `VYDRA_API_KEY` |
| xAI | `grok-imagine-video` | 是 | 1 张图片 | 1 个视频 | `XAI_API_KEY` |
| 提供商 | 默认模型 | 文本 | 图像参考 | 视频参考 | API 密钥 |
| ------ | -------- | ---- | -------- | -------- | -------- |
| Alibaba | `wan2.6-t2v` | 是 | 是(远程 URL | 是(远程 URL | `MODELSTUDIO_API_KEY` |
| BytePlus1.0 | `seedance-1-0-pro-250528` | 是 | 最多 2 张图像(仅 I2V 模型;首帧 + 尾帧) | 否 | `BYTEPLUS_API_KEY` |
| BytePlus Seedance 1.5 | `seedance-1-5-pro-251215` | 是 | 最多 2 张图像(通过 role 指定首帧 + 尾帧) | 否 | `BYTEPLUS_API_KEY` |
| BytePlus Seedance 2.0 | `dreamina-seedance-2-0-260128` | 是 | 最多 9 张参考图像 | 最多 3 个视频 | `BYTEPLUS_API_KEY` |
| ComfyUI | `workflow` | 是 | 1 张图像 | 否 | `COMFY_API_KEY``COMFY_CLOUD_API_KEY` |
| fal | `fal-ai/minimax/video-01-live` | 是 | 1 张图像 | 否 | `FAL_KEY` |
| Google | `veo-3.1-fast-generate-preview` | 是 | 1 张图像 | 1 个视频 | `GEMINI_API_KEY` |
| MiniMax | `MiniMax-Hailuo-2.3` | 是 | 1 张图像 | 否 | `MINIMAX_API_KEY` |
| OpenAI | `sora-2` | 是 | 1 张图像 | 1 个视频 | `OPENAI_API_KEY` |
| Qwen | `wan2.6-t2v` | 是 | 是(远程 URL | 是(远程 URL | `QWEN_API_KEY` |
| Runway | `gen4.5` | 是 | 1 张图像 | 1 个视频 | `RUNWAYML_API_SECRET` |
| Together | `Wan-AI/Wan2.2-T2V-A14B` | 是 | 1 张图像 | 否 | `TOGETHER_API_KEY` |
| Vydra | `veo3` | 是 | 1 张图像(`kling` | 否 | `VYDRA_API_KEY` |
| xAI | `grok-imagine-video` | 是 | 1 张图像 | 1 个视频 | `XAI_API_KEY` |
有些提供商还接受额外的或替代的 API 密钥环境变量。详情请参见各个[提供商页面](#related)。
某些提供商还接受额外或替代的 API 密钥环境变量。详情请参阅各自的[提供商页面](#related)。
运行 `video_generate action=list` 可在运行时检查可用的提供商、模型和
运行时模式。
运行 `video_generate action=list` 可在运行时查看可用的提供商、模型和运行时模式。
### 声明的能力矩阵
### 声明的能力矩阵
这是 `video_generate`、契约测试
以及共享实时扫描所使用的显式模式契约。
这是 `video_generate`、契约测试和共享 live sweep 使用的显式模式契约。
| Provider | `generate` | `imageToVideo` | `videoToVideo` | 当前共享实时通道 |
| -------- | ---------- | -------------- | -------------- | ------------------------------------------------------------------------------------------------------------ |
| Alibaba | 是 | 是 | 是 | `generate`、`imageToVideo`;跳过 `videoToVideo`,因为该提供商需要远程 `http(s)` 视频 URL |
| BytePlus | 是 | 是 | 否 | `generate`、`imageToVideo` |
| ComfyUI | 是 | 是 | 否 | 不在共享扫描中;特定 workflow 的覆盖位于 Comfy 测试中 |
| fal | 是 | 是 | 否 | `generate`、`imageToVideo` |
| Google | 是 | 是 | 是 | `generate`、`imageToVideo`;跳过共享 `videoToVideo`,因为当前基于缓冲区的 Gemini/Veo 扫描不接受该输入 |
| MiniMax | 是 | 是 | 否 | `generate`、`imageToVideo` |
| OpenAI | 是 | 是 | 是 | `generate`、`imageToVideo`;跳过共享 `videoToVideo`,因为当前该组织/输入路径需要提供商侧 inpaint/remix 访问 |
| Qwen | 是 | 是 | 是 | `generate`、`imageToVideo`;跳过 `videoToVideo`,因为该提供商需要远程 `http(s)` 视频 URL |
| Runway | 是 | 是 | 是 | `generate`、`imageToVideo`;仅当所选模型为 `runway/gen4_aleph` 时才运行 `videoToVideo` |
| Together | 是 | 是 | 否 | `generate`、`imageToVideo` |
| Vydra | 是 | 是 | 否 | `generate`;跳过共享 `imageToVideo`,因为内置 `veo3` 仅支持文本,而内置 `kling` 需要远程图片 URL |
| xAI | 是 | 是 | 是 | `generate`、`imageToVideo`;跳过 `videoToVideo`,因为该提供商当前需要远程 MP4 URL |
| 提供商 | `generate` | `imageToVideo` | `videoToVideo` | 当前共享 live lanes |
| ------ | ---------- | -------------- | -------------- | ------------------- |
| Alibaba | 是 | 是 | 是 | `generate`、`imageToVideo``videoToVideo` 已跳过,因为该提供商需要远程 `http(s)` 视频 URL |
| BytePlus | 是 | 是 | 否 | `generate`、`imageToVideo` |
| ComfyUI | 是 | 是 | 否 | 不在共享 sweep 中;特定于工作流的覆盖由 Comfy 测试负责 |
| fal | 是 | 是 | 否 | `generate`、`imageToVideo` |
| Google | 是 | 是 | 是 | `generate`、`imageToVideo`;共享 `videoToVideo` 已跳过,因为当前基于缓冲区的 Gemini/Veo sweep 不接受该输入 |
| MiniMax | 是 | 是 | 否 | `generate`、`imageToVideo` |
| OpenAI | 是 | 是 | 是 | `generate`、`imageToVideo`;共享 `videoToVideo` 已跳过,因为当前此组织/输入路径需要提供商侧的 inpaint/remix 访问 |
| Qwen | 是 | 是 | 是 | `generate`、`imageToVideo``videoToVideo` 已跳过,因为该提供商需要远程 `http(s)` 视频 URL |
| Runway | 是 | 是 | 是 | `generate`、`imageToVideo`;仅当所选模型为 `runway/gen4_aleph` 时才运行 `videoToVideo` |
| Together | 是 | 是 | 否 | `generate`、`imageToVideo` |
| Vydra | 是 | 是 | 否 | `generate`;共享 `imageToVideo` 已跳过,因为内置的 `veo3` 仅支持文本,而内置的 `kling` 需要远程图像 URL |
| xAI | 是 | 是 | 是 | `generate`、`imageToVideo``videoToVideo` 已跳过,因为该提供商当前需要远程 MP4 URL |
## 工具参数
### 必填
| Parameter | Type | Description |
| --------- | ------ | ---------------------------------------------------- |
| `prompt` | string | 要生成的视频文本描述(`action: "generate"` 时必填) |
| 参数 | 类型 | 描述 |
| ---- | ---- | ---- |
| `prompt` | string | 要生成的视频文本描述(`action: "generate"` 时必填) |
### 内容输入
| Parameter | Type | Description |
| ------------ | -------- | ---------------------------------------------------------------------------------------------------------------- |
| `image` | string | 单个参考图片(路径或 URL |
| `images` | string[] | 多个参考图片(最多 9 张) |
| `imageRoles` | string[] | 与合并后图片列表按位置一一对应的可选 role 提示。规范值:`first_frame`、`last_frame`、`reference_image` |
| `video` | string | 单个参考视频(路径或 URL |
| `videos` | string[] | 多个参考视频(最多 4 个) |
| `videoRoles` | string[] | 与合并后视频列表按位置一一对应的可选 role 提示。规范值:`reference_video` |
| `audioRef` | string | 单个参考音频(路径或 URL。在提供商支持音频输入时用于例如背景音乐或语音参考 |
| `audioRefs` | string[] | 多个参考音频(最多 3 个) |
| `audioRoles` | string[] | 与合并后音频列表按位置一一对应的可选 role 提示。规范值:`reference_audio` |
| 参数 | 类型 | 描述 |
| ---- | ---- | ---- |
| `image` | string | 单个参考图像(路径或 URL |
| `images` | string[] | 多个参考图像(最多 9 张) |
| `imageRoles` | string[] | 与合并后的图像列表按位置一一对应的可选角色提示。规范值:`first_frame`、`last_frame`、`reference_image` |
| `video` | string | 单个参考视频(路径或 URL |
| `videos` | string[] | 多个参考视频(最多 4 个) |
| `videoRoles` | string[] | 与合并后的视频列表按位置一一对应的可选角色提示。规范值:`reference_video` |
| `audioRef` | string | 单个参考音频(路径或 URL。当提供商支持音频输入时可用于例如背景音乐或语音参考 |
| `audioRefs` | string[] | 多个参考音频(最多 3 个) |
| `audioRoles` | string[] | 与合并后的音频列表按位置一一对应的可选角色提示。规范值:`reference_audio` |
role 提示会按原样转发给提供商。规范值来自
`VideoGenerationAssetRole` 联合类型,但提供商也可能接受额外的
role 字符串。`*Roles` 数组的条目数不得多于其
对应的参考列表;这类 off-by-one 错误会以清晰的错误信息失败。
如果想让某个位置保持未设置,请使用空字符串。
角色提示会按原样转发给提供商。规范值来自 `VideoGenerationAssetRole` 联合类型,但提供商也可能接受额外的角色字符串。`*Roles` 数组中的条目数不得超过对应的参考列表;这类数量差一位的错误会以清晰的错误信息失败。使用空字符串可将某个位置留空不设置。
### 风格控制
| Parameter | Type | Description |
| ----------------- | ------- | --------------------------------------------------------------------------- |
| `aspectRatio` | string | `1:1`、`2:3`、`3:2`、`3:4`、`4:3`、`4:5`、`5:4`、`9:16`、`16:9`、`21:9` 或 `adaptive` |
| `resolution` | string | `480P`、`720P`、`768P` 或 `1080P` |
| `durationSeconds` | number | 目标时长(秒)(会四舍五入到最近的提供商支持值) |
| `size` | string | 当提供商支持时使用的尺寸提示 |
| `audio` | boolean | 在支持时,为输出启用生成音频。不同于 `audioRef*`(输入) |
| `watermark` | boolean | 在支持时切换提供商水印 |
| 参数 | 类型 | 描述 |
| ---- | ---- | ---- |
| `aspectRatio` | string | `1:1`、`2:3`、`3:2`、`3:4`、`4:3`、`4:5`、`5:4`、`9:16`、`16:9`、`21:9` 或 `adaptive` |
| `resolution` | string | `480P`、`720P`、`768P` 或 `1080P` |
| `durationSeconds` | number | 目标时长(秒),会四舍五入到最接近的提供商支持值 |
| `size` | string | 当提供商支持时使用的尺寸提示 |
| `audio` | boolean | 在支持时为输出启用生成音频。与 `audioRef*`(输入)不同 |
| `watermark` | boolean | 在支持时切换提供商水印 |
`adaptive` 是提供商特定的哨兵值:它会按原样转发给
那些在其能力中声明了 `adaptive` 的提供商(例如 BytePlus
Seedance 会用它根据输入图片
尺寸自动检测比例)。未声明该值的提供商会通过
工具结果中的 `details.ignoredOverrides` 显示这一值,从而让忽略行为可见。
`adaptive` 是一个提供商特定的哨兵值:它会按原样转发给那些在能力声明中包含 `adaptive` 的提供商(例如 BytePlus Seedance 会用它根据输入图像尺寸自动检测比例)。如果提供商未声明支持它,则该值会通过工具结果中的 `details.ignoredOverrides` 暴露出来,以便明确看见它被忽略。
### 高级参数
### 高级
| Parameter | Type | Description |
| ----------------- | ------ | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| `action` | string | `"generate"`(默认)、`"status"` 或 `"list"` |
| `model` | string | 提供商/模型覆盖(例如 `runway/gen4.5` |
| `filename` | string | 输出文件名提示 |
| `timeoutMs` | number | 可选的提供商请求超时(毫秒) |
| `providerOptions` | object | 提供商特定选项,以 JSON 对象形式传入(例如 `{"seed": 42, "draft": true}`)。声明了类型化 schema 的提供商会验证键和类型;未知键或类型不匹配会在回退期间跳过该候选项。未声明 schema 的提供商会按原样接收这些选项。运行 `video_generate action=list` 可查看提供商接受哪些选项 |
| 参数 | 类型 | 描述 |
| ---- | ---- | ---- |
| `action` | string | `"generate"`(默认)、`"status"` 或 `"list"` |
| `model` | string | 提供商/模型覆盖(例如 `runway/gen4.5` |
| `filename` | string | 输出文件名提示 |
| `timeoutMs` | number | 可选的提供商请求超时时间(毫秒) |
| `providerOptions` | object | 以 JSON 对象形式提供的提供商特定选项(例如 `{"seed": 42, "draft": true}`)。声明了类型化 schema 的提供商会验证键和类型;未知键或类型不匹配会在回退期间跳过该候选项。未声明 schema 的提供商会按原样接收这些选项。运行 `video_generate action=list` 可查看每个提供商接受哪些选项 |
并非所有提供商都支持所有参数。OpenClaw 已经会将时长标准化为最接近的提供商支持值,在回退提供商暴露出不同控制面时,它也会重映射已翻译的几何提示,例如尺寸到宽高比。真正不受支持的覆盖项会尽力忽略,并在工具结果中作为警告报告。硬性能力限制(例如参考输入过多)会在提交前直接失败。
并非所有提供商都支持所有参数。OpenClaw 已经会将时长规范化为最接近的提供商支持值,并且在回退提供商暴露出不同控制接口时,也会重映射类似尺寸到宽高比这样的几何提示。真正不受支持的覆盖项会尽力忽略,并在工具结果中作为警告报告。硬性能力限制(例如参考输入过多)会在提交前直接失败。
工具结果会报告实际应用的设置。当 OpenClaw 在提供商回退期间重映射时长或几何参数时,返回的 `durationSeconds`、`size`、`aspectRatio` 和 `resolution` 值反映的是实际提交的内容,而 `details.normalization` 会记录从请求值到应用值的转换。
工具结果会报告实际应用的设置。当 OpenClaw 在提供商回退期间重映射时长或几何参数时,返回的 `durationSeconds`、`size`、`aspectRatio` 和 `resolution`反映实际提交的内容,而 `details.normalization` 会记录从请求值到应用值的转换。
参考输入也会选择运行时模式:
参考输入还会决定运行时模式:
- 参考媒体:`generate`
- 任意图参考:`imageToVideo`
- 没有参考媒体:`generate`
- 任意图参考:`imageToVideo`
- 任意视频参考:`videoToVideo`
- 参考音频输入不会改变最终解析的模式;它们是在图片/视频参考选定的模式之上附加应用,并且仅对声明了 `maxInputAudios` 的提供商有效
- 参考音频输入不会改变最终解析出的模式;它们会叠加在图像/视频参考所选出的模式之上,并且仅适用于声明了 `maxInputAudios` 的提供商
混合使用图片和视频参考并不是稳定的共享能力表面
建议每请求只使用一种参考类型。
图像参考和视频参考混合使用并不是稳定的共享能力接口
建议每请求只使用一种参考类型。
#### 回退类型化选项
#### 回退类型化选项
某些能力检查会在回退层而不是
工具边界应用,这样即使请求超过主提供商的限制,
也仍然可能在具备能力的回退提供商上运行:
某些能力检查会在回退层而不是工具边界上应用,这样即使请求超出了主提供商的限制,仍然可能在有能力的回退提供商上运行:
- 如果当前候选项未声明 `maxInputAudios`(或声明为
`0`),而请求中包含音频参考,则会跳过该候选项,
并尝试下一个候选项。
- 如果当前候选项的 `maxDurationSeconds` 小于请求的
`durationSeconds`,且该候选项未声明
`supportedDurationSeconds` 列表,则会被跳过。
- 如果请求中包含 `providerOptions`,而当前候选项
显式声明了类型化的 `providerOptions` schema那么当
提供的键不在 schema 中或值类型
不匹配时,该候选项会被跳过。尚未声明 schema 的提供商会
按原样接收这些选项(向后兼容透传)。某个提供商也可以
通过声明空 schema
`capabilities.providerOptions: {}`)来显式拒绝所有 provider 选项,
这会触发与类型不匹配相同的跳过行为。
- 如果当前候选项未声明 `maxInputAudios`(或将其声明为 `0`),那么当请求包含音频参考时,它会被跳过,并尝试下一个候选项。
- 如果当前候选项的 `maxDurationSeconds` 小于请求的 `durationSeconds`,且该候选项未声明 `supportedDurationSeconds` 列表,则会被跳过。
- 如果请求包含 `providerOptions`,且当前候选项明确声明了类型化的 `providerOptions` schema那么当提供的键名不在 schema 中或值类型不匹配时,该候选项会被跳过。尚未声明 schema 的提供商会按原样接收这些选项(向后兼容的透传行为)。提供商也可以通过声明空 schema`capabilities.providerOptions: {}`)来显式拒绝所有提供商选项,这会产生与类型不匹配相同的跳过结果。
请求中的第一个跳过原因会以 `warn` 级别记录,这样运维人员就能看到
为何主提供商被跳过;后续跳过则记录为
`debug` 级别,以避免长回退链产生过多噪音。如果所有候选项都被跳过,
聚合错误会包含每个候选项的跳过原因。
请求中的第一个跳过原因会记录为 `warn`,以便运维人员看到为何主提供商被跳过;后续跳过会记录为 `debug`,以避免冗长的回退链产生过多日志。如果所有候选项都被跳过,聚合错误中会包含每个候选项的跳过原因。
## 操作
- **generate**(默认)—— 根据给定提示和可选参考输入创建视频。
- **status** —— 检查当前会话中正在进行的视频任务状态,而不启动新的生成。
- **list** —— 显示可用的提供商、模型及其能力。
- **generate**(默认)-- 根据给定提示和可选参考输入创建视频。
- **status** -- 检查当前会话中正在进行的视频任务状态,而不启动新的生成。
- **list** -- 显示可用提供商、模型及其能力。
## 模型选择
生成视频时OpenClaw 按以下顺序解析模型:
生成视频时OpenClaw 按以下顺序解析模型:
1. **`model` 工具参数** —— 如果智能体在调用中指定了它。
2. **`videoGenerationModel.primary`** —— 来自配置。
3. **`videoGenerationModel.fallbacks`** —— 按顺序尝试。
4. **自动检测** —— 使用具有有效身份验证的提供商,从当前默认提供商开始,然后按字母顺序尝试其余提供商。
1. **`model` 工具参数** -- 如果智能体在调用中指定了它。
2. **`videoGenerationModel.primary`** -- 来自配置。
3. **`videoGenerationModel.fallbacks`** -- 按顺序尝试。
4. **自动检测** -- 使用具有有效认证的提供商,从当前默认提供商开始,然后按字母顺序尝试其余提供商。
如果某个提供商失败,会自动尝试下一个候选项。如果所有候选项都失败,错误中会包含每次尝试的详细信息。
如果你希望视频生成仅使用显式的 `model`、`primary` 和 `fallbacks`
条目,请设置 `agents.defaults.mediaGenerationAutoProviderFallback: false`
如果你希望视频生成仅使用显式的 `model`、`primary` 和 `fallbacks` 条目,请设置 `agents.defaults.mediaGenerationAutoProviderFallback: false`
```json5
{
@ -257,84 +231,82 @@ Seedance 会用它根据输入图片
<AccordionGroup>
<Accordion title="Alibaba">
使用 DashScope / Model Studio 异步端点。参考图和视频必须是远程 `http(s)` URL。
使用 DashScope / Model Studio 异步端点。参考图和视频必须是远程 `http(s)` URL。
</Accordion>
<Accordion title="BytePlus1.0">
提供商 ID`byteplus`。
<Accordion title="BytePlus (1.0)">
提供商 id`byteplus`。
模型:`seedance-1-0-pro-250528`(默认)、`seedance-1-0-pro-t2v-250528`、`seedance-1-0-pro-fast-251015`、`seedance-1-0-lite-t2v-250428`、`seedance-1-0-lite-i2v-250428`。
T2V 模型(`*-t2v-*`)不接受图片输入I2V 模型和通用 `*-pro-*` 模型支持单张参考图片(首帧)。你可以按位置传入图片,或设置 `role: "first_frame"`。当提供图片时T2V 模型 ID 会自动切换为对应的 I2V 变体。
T2V 模型(`*-t2v-*`)不接受图像输入I2V 模型和通用 `*-pro-*` 模型支持单个参考图像(首帧)。你可以按位置传入图像,或设置 `role: "first_frame"`。当提供了图像时T2V 模型 ID 会自动切换到对应的 I2V 变体。
支持的 `providerOptions` 键:`seed`number、`draft`boolean —— 强制 480p、`camera_fixed`boolean
支持的 `providerOptions``seed`number、`draft`boolean —— 强制 480p、`camera_fixed`boolean
</Accordion>
<Accordion title="BytePlus Seedance 1.5">
需要 [`@openclaw/byteplus-modelark`](https://www.npmjs.com/package/@openclaw/byteplus-modelark) 插件。提供商 ID`byteplus-seedance15`。模型:`seedance-1-5-pro-251215`。
需要 [`@openclaw/byteplus-modelark`](https://www.npmjs.com/package/@openclaw/byteplus-modelark) 插件。提供商 id`byteplus-seedance15`。模型:`seedance-1-5-pro-251215`。
使用统一的 `content[]` API。最多支持 2 张输入图`first_frame` + `last_frame`)。所有输入都必须是远程 `https://` URL。请在每张图上设置 `role: "first_frame"` / `"last_frame"`,或按位置传入图
使用统一的 `content[]` API。最多支持 2 张输入图`first_frame` + `last_frame`)。所有输入都必须是远程 `https://` URL。请在每张图上设置 `role: "first_frame"` / `"last_frame"`,或按位置传入图
`aspectRatio: "adaptive"` 会根据输入图自动检测比例。`audio: true` 会映射为 `generate_audio`。`providerOptions.seed`number会被转发。
`aspectRatio: "adaptive"` 会根据输入图自动检测比例。`audio: true` 会映射为 `generate_audio`。`providerOptions.seed`number会被转发。
</Accordion>
<Accordion title="BytePlus Seedance 2.0">
需要 [`@openclaw/byteplus-modelark`](https://www.npmjs.com/package/@openclaw/byteplus-modelark) 插件。提供商 ID`byteplus-seedance2`。模型:`dreamina-seedance-2-0-260128`、`dreamina-seedance-2-0-fast-260128`。
需要 [`@openclaw/byteplus-modelark`](https://www.npmjs.com/package/@openclaw/byteplus-modelark) 插件。提供商 id`byteplus-seedance2`。模型:`dreamina-seedance-2-0-260128`、`dreamina-seedance-2-0-fast-260128`。
使用统一的 `content[]` API。最多支持 9 张参考图、3 个参考视频和 3 个参考音频。所有输入都必须是远程 `https://` URL。请为每个资源设置 `role` —— 支持的值`"first_frame"`、`"last_frame"`、`"reference_image"`、`"reference_video"`、`"reference_audio"`。
使用统一的 `content[]` API。最多支持 9 张参考图、3 个参考视频和 3 个参考音频。所有输入都必须是远程 `https://` URL。请为每个资源设置 `role` —— 支持的值包括`"first_frame"`、`"last_frame"`、`"reference_image"`、`"reference_video"`、`"reference_audio"`。
`aspectRatio: "adaptive"` 会根据输入图自动检测比例。`audio: true` 会映射为 `generate_audio`。`providerOptions.seed`number会被转发。
`aspectRatio: "adaptive"` 会根据输入图自动检测比例。`audio: true` 会映射为 `generate_audio`。`providerOptions.seed`number会被转发。
</Accordion>
<Accordion title="ComfyUI">
workflow 驱动的本地或云端执行。通过已配置的图支持文视频和图视频。
工作流驱动的本地或云端执行。通过已配置的图支持文生视频和图生视频。
</Accordion>
<Accordion title="fal">
对长时间运行任务使用基于队列的流程。仅支持单张图片参考。
对长时间运行任务使用基于队列的流程。仅支持单张参考图像
</Accordion>
<Accordion title="GoogleGemini / Veo">
支持一张图片或一个视频参考。
<Accordion title="Google (Gemini / Veo)">
支持 1 张图像或 1 个视频参考。
</Accordion>
<Accordion title="MiniMax">
仅支持单张图片参考。
仅支持单张参考图像
</Accordion>
<Accordion title="OpenAI">
仅转发 `size` 覆盖值。其他风格覆盖`aspectRatio`、`resolution`、`audio`、`watermark`)会被忽略并附带警告。
仅转发 `size` 覆盖项。其他风格覆盖项`aspectRatio`、`resolution`、`audio`、`watermark`)会被忽略并附带警告。
</Accordion>
<Accordion title="Qwen">
与 Alibaba 使用相同的 DashScope 后端。参考输入必须是远程 `http(s)` URL本地文件会在前期直接被拒绝。
与 Alibaba 使用相同的 DashScope 后端。参考输入必须是远程 `http(s)` URL本地文件会在前置阶段被拒绝。
</Accordion>
<Accordion title="Runway">
通过 data URI 支持本地文件。视频生成视频需要 `runway/gen4_aleph`。纯文本运行暴露 `16:9``9:16` 宽高比。
通过 data URI 支持本地文件。视频视频需要 `runway/gen4_aleph`。纯文本运行暴露 `16:9``9:16` 两种宽高比。
</Accordion>
<Accordion title="Together">
仅支持单张图片参考。
仅支持单张参考图像
</Accordion>
<Accordion title="Vydra">
直接使用 `https://www.vydra.ai/api/v1`,以避免丢失身份验证的重定向。内置的 `veo3` 仅支持文本生成视频;`kling` 需要远程图片 URL。
直接使用 `https://www.vydra.ai/api/v1`,以避免认证丢失的重定向。内置 `veo3` 仅支持文生视频;`kling` 需要远程图像 URL。
</Accordion>
<Accordion title="xAI">
支持文视频、图视频以及远程视频编辑/扩展流程。
支持文生视频、图生视频以及远程视频编辑/扩展流程。
</Accordion>
</AccordionGroup>
## 提供商能力模式
共享的视频生成契约现在允许提供商声明按模式区分的
能力,而不只是扁平的聚合限制。新的提供商
实现应优先使用显式模式块:
共享视频生成契约现在允许提供商声明特定模式的能力,而不再仅限于扁平化的聚合限制。新的提供商实现应优先使用显式模式块:
```typescript
capabilities: {
@ -358,15 +330,11 @@ capabilities: {
}
```
`maxInputImages``maxInputVideos` 这样的扁平聚合字段
不足以声明转换模式支持。提供商应显式声明
`generate`、`imageToVideo` 和 `videoToVideo`,这样实时测试、
契约测试以及共享的 `video_generate` 工具才能
以确定性的方式验证模式支持。
`maxInputImages``maxInputVideos` 这样的扁平聚合字段,不足以声明变换模式支持。提供商应显式声明 `generate`、`imageToVideo` 和 `videoToVideo`,这样 live 测试、契约测试以及共享的 `video_generate` 工具才能以确定性的方式验证模式支持。
## 实时测试
## Live 测试
为共享内置提供商启用可选的实时覆盖:
为共享内置提供商启用可选的 live 覆盖:
```bash
OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.live.test.ts
@ -378,30 +346,27 @@ OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.liv
pnpm test:live:media video
```
此实时测试文件会从 `~/.profile` 加载缺失的提供商环境变量,
默认优先使用实时/环境变量 API 密钥而不是已存储的身份验证配置档案,
并默认运行一个适合发布的 smoke 测试:
这个 live 文件会从 `~/.profile` 加载缺失的提供商环境变量,默认优先使用 live/环境变量 API 密钥而不是已存储的认证配置文件,并默认运行适合发布的 smoke 测试:
- 对扫描中的每个非 FAL 提供商执`generate`
- 使用一秒钟龙虾提示词
- 每个提供商的操作上限 `OPENCLAW_LIVE_VIDEO_GENERATION_TIMEOUT_MS`
控制(默认 `180000`
- 对 sweep 中每个非 FAL 提供商运行 `generate`
- 使用 1 秒钟的龙虾提示词
- 每个提供商的操作上限来自 `OPENCLAW_LIVE_VIDEO_GENERATION_TIMEOUT_MS`
(默认值为 `180000`
FAL 为选择启用,因为提供商侧队列延迟可能会主导发布时间:
FAL 采用可选启用,因为提供商侧的队列延迟可能会主导发布时间:
```bash
pnpm test:live:media video --video-providers fal
```
设置 `OPENCLAW_LIVE_VIDEO_GENERATION_FULL_MODES=1` 后,还会运行共享扫描可以安全使用本地媒体执行的已声明转换模式:
设置 `OPENCLAW_LIVE_VIDEO_GENERATION_FULL_MODES=1` 后,还会运行共享 sweep 可以安全使用本地媒体执行的已声明变换模式:
- 当 `capabilities.imageToVideo.enabled` 时运行 `imageToVideo`
- 当 `capabilities.videoToVideo.enabled` 且提供商/模型
在共享扫描中接受基于缓冲区的本地视频输入时运行 `videoToVideo`
- 当 `capabilities.imageToVideo.enabled` 为真时运行 `imageToVideo`
- 当 `capabilities.videoToVideo.enabled` 为真,且该提供商/模型在共享 sweep 中接受基于缓冲区的本地视频输入时运行 `videoToVideo`
目前,共享的 `videoToVideo` 实时通道覆盖:
目前共享 `videoToVideo` live lane 覆盖:
- 仅 `runway`,且你选择 `runway/gen4_aleph`
- 仅 `runway`且你选择 `runway/gen4_aleph`
## 配置
@ -429,9 +394,9 @@ openclaw config set agents.defaults.videoGenerationModel.primary "qwen/wan2.6-t2
## 相关内容
- [工具概览](/zh-CN/tools)
- [后台任务](/zh-CN/automation/tasks) -- 异步视频生成的任务跟踪
- [后台任务](/zh-CN/automation/tasks) -- 用于异步视频生成的任务跟踪
- [Alibaba Model Studio](/zh-CN/providers/alibaba)
- [BytePlus(国际版)](/zh-CN/concepts/model-providers#byteplus-international)
- [BytePlus](/zh-CN/concepts/model-providers#byteplus-international)
- [ComfyUI](/zh-CN/providers/comfy)
- [fal](/zh-CN/providers/fal)
- [GoogleGemini](/zh-CN/providers/google)
@ -443,4 +408,4 @@ openclaw config set agents.defaults.videoGenerationModel.primary "qwen/wan2.6-t2
- [Vydra](/zh-CN/providers/vydra)
- [xAI](/zh-CN/providers/xai)
- [配置参考](/zh-CN/gateway/config-agents#agent-defaults)
- [模型](/zh-CN/concepts/models)
- [Models](/zh-CN/concepts/models)