智剧通(ZJT)文档中心 视频生成驱动说明

视频生成驱动说明

概述

图生视频驱动实现了调用第三方视频生成模型(异步 API,创建任务后轮询状态)的驱动逻辑。

支持的模型

Task ID模型驱动支持的图片模式支持参考音频/视频
21第三方视频生成模型(首尾帧增强版)对应驱动first_last_frame不支持
22第三方视频生成模型(快速版)对应驱动first_last_frame, multi_reference支持
23第三方视频生成模型(标准版)对应驱动first_last_frame, multi_reference支持

特性

Content 数组格式

视频生成 API 使用 content 数组传递输入:

{
  "model": "模型标识(按 Task ID 选择)",
  "content": [
    {"type": "text", "text": "视频描述提示词"},
    {"type": "image_url", "image_url": {"url": "首帧图URL"}, "role": "first_frame"},
    {"type": "image_url", "image_url": {"url": "尾帧图URL"}, "role": "last_frame"},
    {"type": "image_url", "image_url": {"url": "参考图1URL"}, "role": "reference_image"},
    {"type": "image_url", "image_url": {"url": "参考图2URL"}, "role": "reference_image"},
    {"type": "video_url", "video_url": {"url": "参考视频URL"}, "role": "reference_video"},
    {"type": "audio_url", "audio_url": {"url": "参考音频URL"}, "role": "reference_audio"}
  ],
  "duration": 5,
  "ratio": "9:16",
  "generate_audio": false,
  "watermark": false
}

角色说明

角色类型说明
first_frameimage_url视频首帧图片
last_frameimage_url视频尾帧图片
reference_imageimage_url参考图片(可多张)
reference_videovideo_url参考视频
reference_audioaudio_url参考音频

参考音频/视频数据来源

参考音频和参考视频优先从 ai_tool 模型字段读取,向后兼容 extra_config

  1. 参考视频:优先读取 ai_tool.video_path,备选 extra_config.reference_video
  2. 参考音频:优先读取 ai_tool.audio_path,备选 extra_config.reference_audio

配置

在配置中添加视频生成服务配置(驱动读取该服务配置节下的 api_key,数据库配置优先、YAML 配置兜底;配置节名称定义于 config/default_configs.py):

<视频生成服务配置节>:
  api_key: "<your_api_key>"

文件列表

文件说明
task/visual_drivers/(对应驱动)驱动实现
task/visual_drivers/base_video_driver.py驱动基类
config/unified_config.py驱动配置定义
model/ai_tools.pyAI 工具模型(含 audio_path、video_path 字段)