让 vLLM 在 Apple Silicon 的 Mac 上跑起来,通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片,省去 GPU 服务器。
跨平台渲染库,屏蔽 DirectX、OpenGL、Metal、Vulkan 等图形 API 差异,让你自带引擎或框架也能统一接入渲染。
用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
基于 Java 的跨平台游戏开发框架,一套代码可发布到桌面、Android、iOS 和 HTML5,适合做 2D/3D 游戏。
Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。
把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。
免费开源的跨平台 2D/3D 游戏引擎,支持 WebGL、Vulkan、Metal 等图形后端,帮助开发者高效制作并发布高性能游戏和网页互动内容。
基于 C# 的跨平台游戏开发框架,一套代码即可把 2D/3D 游戏发布到桌面、移动端和主机,省去多平台适配的重复工作。
OpenAI Whisper 语音识别模型的 C/C++ 移植版,无需 Python 和 GPU 依赖,在普通 CPU 上就能跑语音转文字。
面向稠密向量的高效相似度检索与聚类库,支持十亿级向量近邻搜索,是构建向量数据库和 RAG 检索层的底层引擎。
Rust 原生本地推理后端,支持 GGUF 模型和量化,在 Apple Silicon 与 Windows 上跑 LLM,并提供 OpenAI 兼容接口。
…Proxy v0.7.1 显示额度窗口金额,而且只在声明了 quota-window-spend 的后端上显示。 2. 启动时会跑两个 PostgreSQL 迁移 :给 request log content 加一列,并在 request log content 和 usage rollup buckets 上各建一个索引。建索引期间会阻
…8b6f8e)) image: 图片参考图上限按模型条目与调用通道取较小值,超出时提交前报错,不再被后端按型号名静默截断 ([756921b](https://github.com/ArcReel/ArcReel/commit/756921b87611ee2a95ae21c0d9cee6e3988ec801)), closes [ 363
…图内标注的归属,并改善合并图片的阅读顺序。 - 统一布局检测行为 :恢复 ONNX 与 Torch 后端的逐类输出阈值,提高不同后端处理结果的一致性。 - 改善原生文本恢复 :完善空 ToUnicode 映射下的字符恢复,并在后置 OCR 和失败恢复后清理残留的 Unicode 私用区字符,减少缺字和乱码。 - 保留仿斜体正文 :修复整行
…与中英文标签,改善启动和数据源日志,修复中文文档乱码;移除实验性 Codex App Server 后端,并撤回误合入的 API Route / Opper 集成。 What's Changed - Added optional FastAPI security middleware, an option to skip duplicat
…扰。 🖥️ 桌面端稳定性提升 - 优化首次同步下载进度、本地账号登录恢复及失败重试。 - 修复桌面后端启动异常后的恢复流程,改善 Lite 版启动体验。 🎨 界面动效与编辑体验 - 引入统一交互动效设计系统,优化页面切换和界面反馈。 - 修复窗口缩放后的工作区布局、手机端分享弹窗裁切。 - 改进 Word 图片粘贴、Markdown
…sv-folder <目录 可以读取任意通用 CSV 格式的聊天目录。 设置 - 模型服务:选择模型后端并填写设置。测试连接会检查 Codex 是否已登录,或列出服务的模型,并填好服务支持的回答格式和上下文长度。保存时保留 settings.jsonc 里的注释和顺序。 - 画像版本:列出每一次构建,可以随时切换,不要的版本可以删除。 A