OpenCreator:基于AI技术的音视频本地化与增强工具项目

Formerly KrillinAI. Open-source AI workspace for creators, powered by Codex. Create videos, images, voice, avatars, translations, and edits with Agents in one place.

分支27Tags38
文件最后提交记录最后更新时间
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
16 小时前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前
2 天前

OpenCreator
面向创作者的开源 AI 工作区

从剧本到视频、图像、语音、虚拟形象、翻译与剪辑,智能体让整个创作流程在同一工作区内推进。

OpenCreator,曾用名 KrillinAI:Trendshift 今日第一仓库

English | 简体中文 | 日本語 | 한국어 | Bahasa Indonesia | Español | Français | Deutsch | Português | Русский | العربية

GitHub 星标 许可证 Bilibili Discord QQ 群

项目亮点 · 创作者工具 · 对话与工作区 · 支持的模型 · 示例 · 快速开始 · 桌面端 · OpenCreator 系统架构 · 开发 · 文档 · 贡献者 · 星标历史

OpenCreator 智能体工作区

项目概览

OpenCreator 面向希望让创意与开发工作在本地运行的个人和团队构建。它不重新实现 Agent 循环,而是使用 Codex CLI 作为执行引擎,并在其外围添加稳定的本地 Runtime、可视化工作区和桌面端宿主。

该产品整合了两个相互关联的工作流:

  • AI 内容创作:使用专用创作工具完成视频翻译、视频下载、封面生成和图像生成。
  • 通用 Agent 工作区:按项目组织会话,让 Runs 在后台持续运行,并统一管理服务项、附件、文件、Skills、MCP、计划任务、通知、记忆和诊断信息。

Web 是唯一的前端实现。Desktop 加载相同的 Web 构建,并仅添加需要操作系统支持的能力,例如目录选择、窗口生命周期、托盘行为和原生通知。凭借相同的数据与内容视口,两个平台共享相同的通用 UI 和 Runtime 行为。

项目亮点

  • 🤖 Codex 原生:复用 Codex 的 Agent 循环、模型、推理、工具调用、会话、Skills 和 MCP,无需维护第二个执行引擎。

  • 🚀 开箱即用的桌面应用:通过桌面应用直接启动 OpenCreator,并内置 Codex CLI;本地 Runtime 按需启动,并自动准备默认项目。

  • 🔄 受管 Runtime 组件:查看内置、当前生效和最新的 yt-dlp 版本,定期检查更新,并支持手动更新;若更新失败,仍会保留当前可用版本。

  • 🎨 多模态创作:通过一个联动工作流创建并管理视频、图像、音频、字幕和文档。

  • 🔗 双模式工作流:可经由可视化工作区或 Agent 对话进行操作,并由一个共享状态机保持步骤、进度和结果同步。

  • 🕘 版本管理:每次修订都会创建新版本,同时保留此前的配置和输出,便于审阅与比较。

  • 🧩 Skills 与 MCP:浏览、安装并调用 Skills,同时通过 Codex 原生配置管理 MCP。

  • 🧠 记忆:维护全局、项目和线程级别的记忆,并提供摘要以及可复现的 Run 输入快照。

  • 🔐 本地安全:默认将数据、附件和日志保留在本地,并提供审批与脱敏诊断。

创作者工具

当前版本包含四个创作者工具。可用的模型和服务取决于您的本地 Codex 环境和 AI 服务设置。

打开仪表板,可翻译视频、下载公开视频、生成缩略图或创建图像。

OpenCreator 创作者仪表板

更多创作者工具正在持续添加。

工作区 状态 功能
视频翻译✅ 可用导入本地或公开视频;使用云端或本地 Whisper 服务进行转录;利用 LLM 上下文完成字幕分段、对齐、术语处理与翻译;配置双语字幕、配音或自定义语音样本、字幕样式、横屏或竖屏构图,并导出 SRT、音频或视频
视频下载器✅ 可用解析 YouTube、Bilibili 及其他受支持的公开链接,查看可用的画质和格式选项,并下载视频或音频,供后续工作流使用
缩略图生成器✅ 可用结合主题、视频链接和可选参考图,生成并比较多种内容缩略图方案
图像生成✅ 可用根据提示词和可选参考图,使用 GPT Image 生成图像,配置宽高比和输出数量,然后预览并下载单张图片
火柴人动画即将推出在引导式工作流中制作角色、分镜、配音和动画
自动剪辑开发中分析长视频,识别高光片段,并将所选片段转化为可复用的短剪辑
智能配音开发中将脚本转为配音,可选择音色、语速,并支持情绪控制
视频生成开发中根据提示词和参考图生成视频,然后预览并导出结果
数字人开发中结合脚本、语音和数字人形象,生成口播视频

对话与工作区,协同联动

自然地描述任务,当需要精确控制时,可随时进入可视化工具。

OpenCreator 对话与可视化工作区协同工作

精细化工作区控制

精准调整字幕、镜头、音频与生成设置。

灵活的对话式编辑

用自然语言告诉 Agent 需要修改之处,并持续优化结果。

状态同步

对话与工作区共享当前任务状态,无需重复描述。

独立版本

每次修改都会创建独立版本,不会覆盖之前的结果或设置。

支持的模型

语言模型的可用性取决于 Codex 模型目录或你的 OpenAI 兼容提供商。图像、语音和转写模型使用 设置 → AI 服务 中配置的服务。

语言模型

OpenAI
GPT
DeepSeek
DeepSeek
Qwen
Qwen
Kimi
Kimi
Z.ai
GLM
xAI
Grok
Doubao
Doubao
ERNIE
ERNIE
Tencent Hunyuan
Hunyuan

图像

OpenAI
GPT Image

语音与转录

OpenAI
Whisper
OpenAI
OpenAI TTS
MiniMax
MiniMax
Microsoft
Edge TTS
Alibaba Cloud
Aliyun Speech

示例

视频翻译

以下公开示例制作于 OpenCreator 仍名为 KrillinAI 时。它们展示了成熟稳定的字幕对齐、翻译、配音以及竖屏视频工作流;OpenCreator 的“视频翻译”工作区将上述能力引入了更广泛的 Agent 工作流。

该项目在一次运行中,从一个 46 分钟的本地视频生成了下方字幕文件,无需手动调整字幕。发布结果显示字幕覆盖完整、无重叠行、分段自然,且翻译质量高。

OpenCreator 字幕对齐示例

字幕翻译

https://github.com/user-attachments/assets/bba1ac0a-fe6b-4947-b58d-ba99306d0339

配音

https://github.com/user-attachments/assets/0b32fad3-c3ad-4b6a-abf0-0865f0dd2385

竖屏模式

https://github.com/user-attachments/assets/c2c7b528-0ef8-4ba9-b8ac-f9f92f6d4e71

这些视频示例和字幕对齐图片均制作于 OpenCreator 仍使用 KrillinAI 名称的阶段。

视频下载器

分析公开的影视链接,比较可用格式,并将视频或音频直接下载到项目中。

OpenCreator 视频下载器格式选择

火柴人动画(即将推出)

即将推出。当前版本尚未集成。

OpenCreator 与艺术家 Harbor HsiaBehance 上的 Stickman 的创作者)合作开发了这套原创角色集。预设角色阵容正在为未来的故事与动画工作流做准备,以保持角色身份一致。

OpenCreator 与艺术家共同开发的火柴人角色

计划中的工作流将引导一个角色和故事创意,依次经过分镜生成、镜头审阅、配音、音乐以及版本化动画输出。

OpenCreator 火柴人动画示例帧

快速开始

前提条件

  • Node.js 22 或更高版本
  • pnpm 9.15.0,通过仓库的 packageManager 字段固定
  • 在你的终端中可调用 Codex CLI 可执行文件
  • 用于真实模型任务的有效 Codex CLI 登录

请先检查你的本地环境:

node --version
pnpm --version
codex --version

从源码运行 Web

git clone https://github.com/krillinai/OpenCreator.git
cd OpenCreator
corepack enable
pnpm install
pnpm web:dev

打开 http://127.0.0.1:19861/。开发服务器会按需启动本地守护进程,并通过同源代理注入临时的 Runtime token,因此无需手动复制连接令牌。

首次启动时,Runtime 会准备一个默认项目。连接完成后,创作器即可就绪。若仅需操作守护进程:

pnpm daemon:dev

该守护进程仅监听回环地址,并仅向标准输出打印一次其连接地址和临时令牌。

桌面端

桌面端与浏览器共用来自 apps/web 的同一套 React 前端。项目、会话、任务与设置等通用行为均调用同一个 Daemon/API。Electron 仅额外提供真实系统路径、窗口控制、托盘行为以及原生通知。

开发模式

pnpm desktop:dev

本地打包

命令 输出
pnpm desktop:package 当前平台可运行目录,用于本地验证
pnpm desktop:dist 当前平台的安装包
pnpm desktop:release 正式发布的打包入口
pnpm --filter @opencreator/desktop verify:package 对现有桌面端包的验证
pnpm krillinai:package 所选平台的独立 KrillinAI Server 与 CLI 归档包

桌面端打包会从当前工作区重新构建 Web,记录提交、脏状态、平台、架构和 Web 哈希,并比较 apps/web/dist 与应用内嵌资源。若二者不一致,打包将失败。关于签名、公证、Windows 构建和发布要求,请参阅桌面端发布运行手册

核心工作流

会话与 Run

  1. 选择项目或开启新会话。
  2. 输入任务并选择权限级别、配置档、模型和推理强度。
  3. 当某个 Run 处于活动状态时,可将后续任务加入队列,或将其中断并立即继续。
  4. 使用时间线查看推理摘要、工具调用、文件变更、审批和最终结果。
  5. 使用任务中心全局跟踪正在运行、已完成、失败以及被审批阻塞的任务。

Skills 与 MCP

  • 在插件中心浏览 Skill 市场、安装历史和本地可用的 Skills。
  • 在 composer 中通过 / 或添加菜单选择 Skill,使下一个任务遵循其工作流。
  • MCP 管理通过 Codex 原生命令和配置实现,而非维护第二套执行引擎。
  • OpenCreator 默认使用当前生效的 $CODEX_HOME,因此更改全局 Skills 或 MCP 配置前,请先确认影响。

调度与专用任务线程

  • 每个调度都拥有一个持久且专用的 OpenCreator 会话。
  • 自动触发、手动运行和用户后续操作会复用该会话,并按 queueskip 策略串行执行。
  • 删除调度会归档其专用会话,同时保留现有 Run、结果以及底层 Codex 历史。
  • 轮换或恢复底层 Codex 线程不会更改 OpenCreator 任务入口或页面路由。

OpenCreator 系统架构

OpenCreator 将可视化工作区和 Agent 对话视为同一创作任务的两个界面,而不是两条彼此独立的流程。每一种创作者工作流都被建模为一台状态机:源输入、配置、生成、审阅、修订和导出都会成为明确的状态与事件。工作区操作和对话指令进入同一状态机,而当前步骤、配置、进度、版本和结果则会同步投射回两个界面。这让工作区与对话保持一致,而无需引入第二个事实来源。

创作是迭代的,因此修订不会覆盖当前结果。每一次修正或重新生成都基于现有工作流状态创建新版本,同时保留先前版本的设置与输出,便于审阅、比较和持续完善。

+-----------------------------+     +------------------------------------+
| Browser Access              |     | Desktop Host                       |
|                             |     | Shared Web build + Electron        |
+--------------+--------------+     +------------------+-----------------+
               |                                       |
               +-------------------+-------------------+
                                   v
+----------------------------------------------------------------------------+
| Creator Experience / apps/web                                              |
| Dashboard / Creator Tools / Agent Conversation / Settings / Files          |
+-------------------------------------+--------------------------------------+
                                      |
+-------------------------------------v--------------------------------------+
| Collaboration Core                                                         |
| Shared workflow state / Steps / Progress / Results / Versions              |
+-------------------------------------+--------------------------------------+
                                      | Runtime API + SSE
+-------------------------------------v--------------------------------------+
| Local Runtime / apps/daemon                                                 |
| Projects / Runs / Approvals / Schedules / Memory / Notifications           |
| Component status / Update checks / Verified updates / Safe fallback        |
+-------------+------------------------+------------------------+-------------+
              |                        |                        |
              v                        v                        v
+---------------------+  +---------------------+  +-------------------------+
| Local Data          |  | Codex Engine        |  | Media Toolchain         |
| SQLite / Files      |  | CLI / app-server    |  | FFmpeg / yt-dlp         |
| System credentials  |  | Skills / MCP        |  | Whisper / AI services   |
+---------------------+  +---------------------+  +-------------------------+
OpenCreator 组件 职责 实现
创作者体验 仪表盘、创作者工具、Agent 对话、设置与文件 apps/web · React 18 · Vite · TypeScript
协作核心 保持工作区步骤、对话上下文、进度、结果和修订同步 共享工作流状态 · CreatorCollaborationPanel · 版本历史
本地运行时 管理项目、Runs、审批、计划、记忆与通知 apps/daemon · Fastify · Runtime API · SSE
运行时组件 跟踪内置、当前启用和最新版本;定期检查,并仅安装用户请求的更新 yt-dlp nightly · 更新校验 · 可用版本回退
Codex 引擎 提供 Agent 循环、会话、推理、工具、Skills 与 MCP Codex CLI · app-server
媒体工具链 下载、转写、转换、生成并导出创意媒体 yt-dlp · Whisper · FFmpeg · 已配置的 AI 服务
本地数据 在本地存储项目数据、Runs、附件、输出与凭据 SQLite · 文件系统 · 系统凭据存储
桌面宿主 加载共享的 Web 构建产物,并添加操作系统能力 apps/desktop · Electron · Preload Bridge

核心原则:

  • 工作区与 Agent 对话是同一工作流状态的同步投影;二者都向同一个状态机派发事件,而不是维护并行的任务状态。
  • 修订会创建新版本,而不是替换既有结果,从而保留每一次创意迭代的上下文和输出。
  • 前端不会直接启动 Codex,也不依赖原始的 Codex JSONL 事件格式。
  • 守护进程负责进程生命周期、事件规范化、持久化、审批、计划与通知出站队列。
  • Codex 仍是 Agent 循环、Skills 与 MCP 的执行事实来源。
  • Browser Bridge 与 Desktop Bridge 不实现独立的通用产品逻辑副本。

仓库结构

OpenCreator/
├── apps/
│   ├── web/          # The single React frontend implementation
│   ├── daemon/       # Local Fastify Runtime and Codex adapter
│   ├── desktop/      # Electron Main, Preload, native capabilities, and packaging
│   └── harness/      # Runtime command-line verification tool
├── packages/
│   ├── protocol/     # Runtime contracts shared by Web, Daemon, and Desktop
│   └── skill-market/ # Skill marketplace models and shared logic
├── docs/             # Design docs, API references, runbooks, and test reports
├── scripts/          # Repository-level checks
└── .runtime/         # Local Runtime data, created on first launch

配置

AI 服务 API 密钥

打开 设置 → AI 服务,配置当前工作区使用的模型、转写、语音和图像提供商。为即将推出的创作者工具做准备,可能会出现更多服务类别。每个类别仅显示所选提供商所需的字段,包括 Base URL、API Key、模型、代理或提供商专属凭据。

OpenCreator AI 服务 API 密钥设置

凭据会通过本地 Runtime 的系统凭据存储保存,切勿提交到代码仓库。某些本地或系统支持的提供商(如 Edge TTS)无需 API Key。

第三方运行时组件

打开 设置 → 第三方组件,查看当前使用的 yt-dlp 每日构建版本、OpenCreator 内置版本、其来源以及最新可用版本。OpenCreator 会每七天检查一次更新,但绝不会自动安装。更新需要用户明确操作;如果下载、校验或安装失败,当前可用版本仍可继续使用。

OpenCreator 第三方组件设置

运行时环境变量

大多数用户无需配置环境变量。在需要隔离数据、指定特定 Codex 可执行文件,或自定义托管项目目录时,可使用以下环境变量:

环境变量 默认值 用途
OPENCREATOR_DATA_DIR .runtime OpenCreator 数据库、Runs、附件以及托管工作区
OPENCREATOR_CODEX_BIN codex Codex CLI 可执行文件路径
CODEX_HOME ~/.codex Codex 会话、配置、Skills、MCP 和 Profiles 的权威来源
OPENCREATOR_DEFAULT_CWD 当前工作目录 默认守护进程工作目录
OPENCREATOR_DEFAULT_PROJECT_ROOT Runtime 默认策略 托管项目根目录;设置后,OpenCreator 会使用该目录下的 OpenCreator/ 子目录
OPENCREATOR_CODEX_THREAD_ROTATION_RUN_THRESHOLD 50 用于长期运行计划下轮换 Codex 线程的终止 Run 阈值;使用 0 可禁用主动轮换

例如,同时隔离 Runtime 数据和 Codex 环境:

OPENCREATOR_DATA_DIR=/path/to/opencreator-data \
CODEX_HOME=/path/to/codex-home \
pnpm web:dev

数据与安全

默认情况下,运行时数据存储在仓库根目录下的 .runtime/ 中:

路径 内容
.runtime/app.sqlite 项目、线程、Runs、事件、计划、通知、附件元数据、审批、记忆和摘要
.runtime/runs/ 各个 Run 的脱敏日志、诊断信息和元数据
.runtime/attachments/ 受控附件文件
.runtime/workspaces/ 由运行时管理的项目工作区

Codex 会话和配置仍保留在 $CODEX_HOME 中,并且必须与 .runtime/ 分开备份。

安全边界包括:

  • 守护进程仅监听 127.0.0.1;除健康检查外,所有 API 都需要 Bearer token。
  • HTML 预览默认禁用脚本、导航和弹窗,并且仅允许受控的同工作区相对资源。
  • 敏感记忆需要二次确认。OpenCreator 不会自动永久保存未确认的建议。
  • 诊断信息和 Run 日志在返回或导出前都会进行脱敏。
  • 桌面版软件包启用 ASAR 完整性和 Cookie 加密,同时禁用 RunAsNode、NODE_OPTIONS 和 Node CLI Inspector。

完整的备份、恢复、清理和重置流程,请参阅用户指南和故障排查参考

开发

常用命令

命令 用途
pnpm web:dev 启动 Web 并按需启动本地守护进程
pnpm daemon:dev 仅启动守护进程
pnpm desktop:dev 构建依赖项并以开发模式启动 Electron
pnpm test 运行工作区单元测试和集成测试
pnpm typecheck 在整个仓库中运行 TypeScript 类型检查
pnpm build 构建所有工作区
pnpm e2e 运行 Web Playwright E2E 测试
pnpm smoke:ci 运行 fake-Codex Runtime 冒烟测试
pnpm perf:check 检查已记录的性能基线

在提交变更之前,至少运行:

pnpm test
pnpm typecheck
pnpm build

对桌面端、Host Bridge、Runtime 代理或共享前端工作流的修改,也需要进行 Web/桌面端一致性测试、打包应用 E2E 以及 Web 构建哈希校验。仅通过 Web 单元测试不足以确认桌面端已具备发布就绪条件。

真实的 Codex 冒烟测试默认处于禁用状态。请显式使用以下方式启用:

OPENCREATOR_RUN_REAL_CODEX_SMOKE=1 \
pnpm --filter @opencreator/daemon test -- test/smoke/real-codex-smoke.test.ts

文档

翻译约定

根目录下的 README.md 是权威英文文档。维护中的译文位于 docs/<locale>/README.md。只有在完整文档翻译完成并与英文结构保持同步后,才将该语言加入语言切换器。

参与贡献

  1. 请在 Issues 中描述问题、使用场景和预期行为。
  2. 请从最新开发分支创建一个聚焦的功能或修复分支。
  3. 请遵循现有架构:通用产品能力只需在 Web 和 Daemon 中实现一次,并通过显式能力隔离原生差异。
  4. 请为行为变更添加合适的单元测试、集成测试或 E2E 测试覆盖,并在 Pull Request 中列出已完成和已跳过的验证项。
  5. 请勿提交 .runtime/、本地凭据、Codex 会话、构建缓存或其他用户数据。

贡献者

感谢所有通过代码、文档、反馈、问题报告、Skills、设计和创意参与贡献的人。

OpenCreator 贡献者

星标历史

OpenCreator 曾用名 KrillinAI。该图表涵盖仓库在更名前后的完整历史。

OpenCreator 星标历史

相关项目

项目 作用
OpenAI Codex 支撑模型访问、推理、工具调用、会话、Skills 与 MCP 集成的智能体执行引擎。
yt-dlp 识别受支持的公开媒体链接,列出可用格式,并为创作者工作流下载视频或音频。
FFmpeg FFmpeg 与 ffprobe 负责媒体转码、合成、抽帧与输出校验。
Whisper, whisper.cpp, faster-whisper, and WhisperKit 根据可用 Runtime 能力选择的云端及特定平台本地语音转写选项。
React Web 与桌面端体验共享的用户界面基础。
Fastify 本地 Runtime 的 HTTP 与 API 基础。
Electron 桌面端宿主,提供原生系统能力、应用生命周期与打包。
SQLite 为项目、对话、Runs、排程、记忆及其他工作区数据提供本地持久化存储。
Model Context Protocol 用于将外部工具与服务接入智能体工作区的开放协议。

OpenCreator · 本地创作,持续工作。

项目介绍

Formerly KrillinAI. Open-source AI workspace for creators, powered by Codex. Create videos, images, voice, avatars, translations, and edits with Agents in one place.

定制我的领域
5511.36 K1.09 K访问 GitHub