Semantic search. Search local photos and videos through natural language. AI语义搜索本地素材。以图搜图、查找本地素材、根据文字描述匹配画面、视频帧搜索、根据画面描述搜索视频。
MaterialSearch 本地素材搜索
扫描本地的图片以及视频,并且可以用自然语言进行查找。
本仓库现仅包含本项目的前端代码。核心逻辑已独立封装为一个 pip 包,并托管在另一个仓库(materialsearch-core),以便更好地管理版本与分发,并且方便大家进行直接调用和开发。
过去曾出现过恶意修改、删除版权信息等行为,对项目造成不良影响。因此,在新的架构中,API 核心实现部分经过加密与混淆,仅用于保护原创性与版权归属。此举不会影响任何依据 GNU 通用公共许可证第 3 版(GPLv3)进行的正常使用。
我们真诚地希望使用者能够尊重作者的劳动成果,并保留相关声明。
如果你对本项目的代码进行了任何有用的修改(例如修复错误、添加功能等),欢迎通过 Pull Request 回馈社区,让更多人受益!
如果你想贡献:
- 前端功能:请在本仓库提PR。
- API相关:请在本仓库提需求issue。(API部分代码不公开,由作者维护)
- 其它功能:请在本仓库提issue或在materialsearch-core仓库提PR。
注意:不接受AI生成的代码贡献。请保证你是真正理解代码逻辑后所做的修改。
功能
- 文字搜图
- 以图搜图
- 文字搜视频(会给出符合描述的视频片段)
- 以图搜视频(通过视频截图搜索所在片段)
- 图文相似度计算(只是给出一个分数,用处不大)
部署说明
Windows整合包
注意:系统最低要求Win10,如果你还在用Win7,请换电脑或升级系统。
B站视频教程:点击这里,求三连支持。
用户互助QQ群:1029566498(因作者精力有限,欢迎加群讨论,互相帮助。一言解惑,胜造七级浮屠;一念善行,自有千般福报。)
首先下载整合包,并使用 7-Zip 解压缩(注意:使用其它软件解压缩,可能会报错)。
整合包有两个版本:
MaterialSearchWindows.7z: 不包含模型,适合专业用户MaterialSearchWindows_include_base_model.7z: 包含基础模型(OFA-Sys/chinese-clip-vit-base-patch16),开箱即用,适合大部分用户【推荐下载这个】
下载方式:
- GitHub Release
- 夸克网盘
- 百度网盘 提取码: CHNL
解压后请阅读里面的使用说明.txt。整合包会自动选择独显或核显进行加速。
通过Docker部署
支持amd64,打包了基础模型(OFA-Sys/chinese-clip-vit-base-patch16)并且支持GPU。
镜像地址:
- yumilee/materialsearch (DockerHub)
- registry.cn-hongkong.aliyuncs.com/chn-lee-yumi/materialsearch (阿里云,推荐中国大陆用户使用)
启动镜像前,你需要准备:
- 数据库的保存路径
- 你的扫描路径以及打算挂载到容器内的哪个路径
- 你可以通过修改
docker-compose.yml里面的environment和volumes来进行配置。 - 如果打算使用GPU,则需要取消注释
docker-compose.yml里面的对应部分
具体请参考docker-compose.yml,已经写了详细注释。
最后执行docker-compose up -d启动容器即可。
注意:
- 不推荐对容器设置内存限制,否则可能会出现奇怪的问题。比如这个issue。
- 容器默认设置了环境变量
TRANSFORMERS_OFFLINE=1,也就是说运行时不会连接huggingface检查模型版本。如果你想更换容器内默认的模型,需要修改.env覆盖该环境变量为TRANSFORMERS_OFFLINE=0。
配置说明
所有配置都在config.py文件中,里面已经写了详细的注释。
建议通过环境变量或在项目根目录创建.env文件修改配置。如果没有配置对应的变量,则会使用config.py中的默认值。例如os.getenv('HOST', '127.0.0.1'),如果没有配置HOST变量,则HOST默认为127.0.0.1。
.env文件配置示例:
ASSETS_PATH=C:/Users/Administrator/Pictures,C:/Users/Administrator/Videos
SKIP_PATH=C:/Users/Administrator/AppData
如果你发现某些格式的图片或视频没有被扫描到,可以尝试在IMAGE_EXTENSIONS和VIDEO_EXTENSIONS增加对应的后缀。如果你发现一些支持的后缀没有被添加到代码中,欢迎提issue或pr增加。
小图片没被扫描到的话,可以调低IMAGE_MIN_WIDTH和IMAGE_MIN_HEIGHT重试。
如果想使用代理,可以添加http_proxy和https_proxy,如:
http_proxy=http://127.0.0.1:7070
https_proxy=http://127.0.0.1:7070
注意:ASSETS_PATH不推荐设置为远程目录(如SMB/NFS),可能会导致扫描速度变慢。
问题解答
如遇问题,请先仔细阅读本文档。如果找不到答案,请在issue中搜索是否有类似问题。如果没有,可以新开一个issue,详细说明你遇到的问题,加上你做过的尝试和思考,附上报错内容和截图,并说明你使用的系统(Windows/Linux/MacOS)和你的配置(配置在执行main.py的时候会打印出来)。
本人只负责本项目的功能、代码和文档等相关问题(例如功能不正常、代码报错、文档内容有误等)。运行环境问题请自行解决(例如:如何配置Python环境,无法使用GPU加速,如何安装ffmpeg等)。
本人做此项目纯属“为爱发电”(也就是说,其实本人并没有义务解答你的问题)。为了提高问题解决效率,请尽量在开issue时一次性提供尽可能多的信息。如问题已解决,请记得关闭issue。一个星期无人回复的issue会被关闭。如果在被回复前已自行解决问题,推荐留下解决步骤,赠人玫瑰,手有余香。
硬件要求
amd64 (x86-64)架构的CPU。内存最低2G,但推荐最少4G内存。如果照片数量很多,推荐增加更多内存。
搜索速度
测试环境:J3455,8G内存。
在 J3455 CPU 上,1秒钟可以进行大约 31000 次图片匹配或 25000 次视频帧匹配。
已知问题
- 部分视频无法在网页上显示,原因是浏览器不支持这一类型的文件(例如svq3编码的视频)。
- 点击图片进行放大时,部分图片无法显示,原因是浏览器不支持这一类型的文件(例如tiff格式的图片)。小图可以正常显示,因为转换成缩略图的时候使用了浏览器支持的格式。大图使用的是原文件。
- 搜视频时,如果显示的视频太多且视频体积太大,电脑可能会卡,这是正常现象。建议搜索视频时不要超过12个。