TensorRT 扩展：助力 Stable Diffusion 效能升级

本扩展借助 TensorRT 技术，让 Stable Diffusion 在 NVIDIA RTX 系列 GPU 上发挥出卓越性能。 使用前，您需要先安装本扩展并生成优化引擎。请按照以下步骤完成所有设置。 支持 Stable Diffusion 1.5、2.1、SDXL、SDXL Turbo 以及 LCM 模型。对于 SDXL 和 SDXL Turbo，鉴于其模型规模和计算强度，我们建议使用配备 12GB 或更大显存的 GPU，以获得最佳性能。

安装步骤

以 Automatic1111 为例的安装说明：

1. 启动 webui.bat
2. 选择“Extensions”（扩展）选项卡，然后点击“Install from URL”（从 URL 安装）
3. 复制本仓库链接，并粘贴到“URL for extension's git repository”（扩展的 git 仓库 URL）输入框中
4. 点击“Install”（安装）

使用方法

1. 点击“Generate Default Engines”（生成默认引擎）按钮。此步骤耗时 2-10 分钟，具体取决于您的 GPU。您也可以为其他组合生成引擎。
2. 进入“Settings”（设置）→“User Interface”（用户界面）→“Quick Settings List”（快速设置列表），添加 sd_unet。应用这些设置，然后重新加载 UI。
3. 返回主 UI，若页面顶部的 sd_unet 下拉菜单尚未选中“Automatic”（自动），请选择它。
4. 现在，您可以开始生成由 TRT 加速的图像了。如果需要创建更多引擎，请前往“TensorRT”选项卡。

祝您创作愉快！

LoRA

要使用 LoRA / LyCORIS 模型 checkpoint，需先将其转换为 TensorRT 格式。这可以在 TensorRT 扩展的“Export LoRA”（导出 LoRA）选项卡中完成。

1. 从下拉菜单中选择一个 LoRA checkpoint。
2. 点击“Export”（导出）。（此操作不会生成引擎，仅转换权重，耗时约 20 秒）
3. 导出后的 LoRA 可像往常一样通过提示词嵌入（prompt embedding）使用。

更多信息

TensorRT 针对特定分辨率和批次大小使用优化引擎。您可以根据需要生成任意数量的优化引擎。引擎类型如下：

• “Export Default Engines”（导出默认引擎）选项为 Stable Diffusion 1.5 和 2.1 模型添加了对 512x512 至 768x768 分辨率以及 1 至 4 批次大小的支持。对于 SDXL 模型，此选项生成一个支持 1024x1024 分辨率和批次大小为 1 的引擎。
• 静态引擎（Static engines）支持单一特定的输出分辨率和批次大小。
• 动态引擎（Dynamic engines）支持一定范围的分辨率和批次大小，但会牺牲少量性能。范围越广，占用的显存越多。
• 首次为某个 checkpoint 生成引擎时耗时较长。为同一 checkpoint 生成额外引擎时，速度会快很多。

每个预设都可通过“Advanced Settings”（高级设置）选项进行调整。更详细的说明可参见此处。

常见问题/限制

高清修复（HIRES FIX）：如果在 Automatic1111 中使用 hires.fix 选项，您必须构建与起始分辨率和结束分辨率都匹配的引擎。例如，如果初始尺寸为 512 x 512，而 hires.fix 放大到 1024 x 1024，则必须生成一个涵盖整个范围的动态引擎。

分辨率：生成图像时，分辨率需要是 64 的倍数。这也适用于 hires.fix，要求低分辨率和高分辨率都能被 64 整除。

失效的命令行参数：

• medvram 和 lowvram 在编译引擎时可能会导致问题。
• api 可能会导致 model.json 无法更新，从而导致编译后 SD Unets 不显示。
• 安装失败或 TensorRT 选项卡在界面中不出现：这很可能是由于安装失败。要手动解决此问题，请使用此指南。

要求

驱动程序：

Linux：>= 450.80.02

• Windows：>= 452.39

我们始终建议保持驱动程序为最新版本，以获得系统级的性能提升。