Demo运行说明

功能描述

基于 Streamlit 构建的图形化 RAG 聊天系统样例。提供可视化的 Web 界面，支持用户进行参数配置、文档上传与删除、多轮对话问答等操作。主要特性包括：

• 多格式文档解析：支持 txt、md、docx、pdf、xlsx、pptx 等格式文件的上传与解析
• 图文并茂回答：可选启用 OCR 和 VLM 模型，解析文档中的图片并生成图文交错的回答
• 知识图谱检索：支持基于 NetworkX 或 openGauss 的知识图谱构建与检索
• 语义缓存加速：支持 memory cache 和 similarity cache 两级缓存，加速重复问答
• 多轮对话与查询改写：支持对话历史管理和基于 LLM 的查询改写

前提条件

执行Demo前请先阅读《RAG SDK 用户指南》，并按照其中"安装部署"章节的要求完成必要软、硬件安装。 本章节为"应用开发"章节提供开发样例代码,便于开发者快速开发。

环境准备(容器化部署)

需按以下顺序完成依赖服务部署，确保各服务可正常通信：

1. 部署RAG SDK（参考链接）
2. 部署LLM服务（参考链接）
3. 部署Milvus服务（支持v2.5.0及以上版本，参考链接）
4. 部署mis-tei embedding与reranker服务（参考链接）
5. 部署OCR服务（推荐模型：MinerU2.5-2509-1.2B，参考链接）
6. 图文并茂回答支持（可选）： 若需解析docx、pdf文件中的图片并生成图文回答，需额外部署VLM模型服务（推荐模型：qwen2.5-vl-7b-instruct，参考链接）。

运行Demo步骤

1. 容器内环境准备

在ragsdk容器中，打开样例代码目录：

cd /opt/package/RAGSDK/examples/chat_with_ascend/

2. 启动WEB服务

执行以下命令启动Streamlit服务，替换服务端口为实际可用端口（如8501）：

streamlit run app.py --server.address "127.0.0.1" --server.port 服务端口

3. 访问与使用

在PC浏览器中输入地址访问：http://服务IP:服务端口

进入界面后，即可完成参数配置、文档上传、删除、问答等操作。