推理与服务
共 751 个仓库
汇总日语大语言模型资源的清单，涵盖基础模型与生成式模型，方便快速查找和对比日语 LLM 生态。
面向波斯语（Farsi）的 Python NLP 工具包，提供文本归一化、分词、词性标注、依存句法分析、词形还原和词向量等完整处理流程。
企业级私有 AI 网关，统一接入和治理各家大模型，让每次调用都可控、可追踪、可归属。
把视频自动翻译并配音成另一种语言，集语音识别、说话人分离、字幕翻译和语音合成于一体，输出音画同步的译制视频。
分布式模型服务框架，能把多台机器组成自建 AI 推理集群，用来跑 Llama、DeepSeek 等大模型。
围绕 TTS 生成模型搭建的语音合成服务，提供 API Server 和 Gradio WebUI，方便快速部署和调用多种语音生成模型。
一份精选的渗透测试工具与效率工具清单，覆盖多个领域，方便安全从业者和漏洞赏金猎人快速找到趁手的工具。
把大语言模型接入 spaCy 的结构化 NLP 流水线，用提示词完成命名实体识别等任务，无需训练即可复用现有流程。
把 Windows 经典助手 Clippy 用 Electron 重制，并接入本地 llama 大模型，让回形针能真正对话回答问题。
阿里开源的高性能大模型推理引擎，支持 GPT、Llama 等多种模型，面向各类应用提供低延迟、高吞吐的在线推理服务。
集音视频处理、图片编辑、文本操作与编码于一体的桌面工具箱，内置语音识别、OCR 等 AI 增强能力，并提供本地 MCP 服务来简化日常办公流程。
整理大语言模型检索增强生成（RAG）方向的进阶资源清单，涵盖嵌入、检索与信息获取等关键环节，方便快速找到相关论文、工具和实践方案。
基于 CTranslate2 加速的 Whisper 命令行客户端，接口与 OpenAI 官方客户端兼容，能更快地做语音转文字。
面向俄语的轻量级 NLP 工具集，把分词、词形还原、命名实体识别、句法分析等基础任务封装成统一 API，适合快速搭建俄语文本处理流程。
把大模型接入 Lean 4 定理证明流程的推理服务，支持在证明环境中调用模型做前提检索、策略建议和自动补全。
开箱即用的实时交互数字人，支持自定义形象和音色克隆，端到端对话延迟低至3秒，适合快速搭建虚拟主播或客服场景。
统一接入 OpenCode、Claude、Cursor 等多家编码 Agent 的控制平面，用一个入口调度和路由不同 Agent，省去逐个对接的麻烦。
用 PyTorch 复现 bert4keras 风格的 Transformer 实现，支持 BERT、LLaMA、ChatGLM 等模型，方便做 NLP 训练与推理。
一套 14 个 AI Skill，把抖音、B站、小红书、公众号、播客等中文平台内容采集进个人知识库，支持图文存图、字幕优先免 GPU 转写、订阅调度和每日简报，还带知识库 MCP server。
用 Rust 写的高性能嵌入推理与索引库，支持从多种数据源摄取内容、本地跑 ONNX 模型生成向量并建索引，适合搭建生产级检索管线。
本地优先的语义代码搜索引擎，用向量嵌入理解代码含义，支持像 grep 一样搜索，但能按语义而非仅靠正则匹配找代码。
跨 macOS 和 Windows 的实时语音翻译桌面应用，本地运行无需服务器，用自己的 API key 完成语音识别与翻译，并免费合成语音。
在 Neovim 里直接调用 ChatGPT、Ollama、Anthropic 等大模型，做对话会话、可指令化的文本/代码改写和语音转文字。
用 Go 写的 AI 网关，把 OpenAI、Anthropic、Gemini、Ollama 等多家模型统一成兼容接口，自带可观测性、限流防护、成本追踪、智能路由和故障转移，可作为 LiteLLM 的替代方案。