Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level
项目介绍
在您的计算机上利用node.js绑定的llama.cpp本地运行AI模型。在生成级别上强制对模型输出应用JSON架构。【此简介由AI生成】
MIT TypeScript252提交数aibindingscataicmakecmake-jscudaembeddingfunction-callingggufgpugrammarjson-schemallamallama-cppllmmetalnodejsprebuilt-binariesself-hostedtypescript
定制我的领域