可将生成式 AI 直接嵌入应用,实现设备端推理,确保数据不离开设备、零网络延迟且支持离线使用。提供集成 SDK、CLI 工具,支持文本生成和语音转文本,自动硬件加速,跨平台且可自定义模型。【此简介由AI生成】
项目介绍
可将生成式 AI 直接嵌入应用,实现设备端推理,确保数据不离开设备、零网络延迟且支持离线使用。提供集成 SDK、CLI 工具,支持文本生成和语音转文本,自动硬件加速,跨平台且可自定义模型。【此简介由AI生成】
Others C++336提交数ai-sdkchat-completionsfoundry-localgpu-accelerationlocal-aimicrosofton-device-inferenceonnx-runtimespeech-to-textwhisper
定制我的领域