面向 Apple Silicon 的原生 SwiftUI 系统监控工具,无需 sudo 即可实时查看 ANE、媒体引擎和内存带宽占用,方便排查本地大模型推理时的硬件瓶颈。
用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。
面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。
面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。
在 Apple Silicon 上快速创建和管理 macOS/Linux 虚拟机,专为 CI 流水线和自动化任务设计,省去手动配置虚拟机的麻烦。
基于苹果 MLX 框架的语音处理库,在 Apple Silicon 上高效完成语音合成、语音识别和语音转换,适合本地跑多模态语音任务。
在 Apple Silicon 上通过 MLX 框架运行大语言模型,支持加载、推理和微调,让 Mac 本地跑 LLM 更省心。
在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理,靠 Metal GPGPU 把 MoE 模型塞进本地设备。
在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包,支持 LLaVA、Pixtral、Florence2 等多种 VLM,本地即可完成多模态任务。
面向系统工程师的实战课程,在 Apple Silicon 上从零搭建一个迷你 vLLM 推理引擎并跑通 Qwen 模型,帮你搞懂大模型推理系统的内部机制。
面向 Apple Silicon 的本地 LLM 推理服务器,兼容 OpenAI 与 Anthropic 接口,主打编码智能体的可靠工具调用,同权重下比 mlx-lm 快至多 4 倍。
面向 Apple Silicon 的端侧语音 AI 工具包,用 Swift 在 iOS 和 macOS 上本地跑语音识别、说话人分离和语音合成,不用联网也能处理音频。
纯 C++ 音频推理引擎,基于 ggml 实现,一套代码覆盖语音合成、识别、VAD、变声和音乐生成,不依赖 Python,适合边缘部署。
在 Apple Silicon 上用 MLX 原生跑 FLUX、Qwen-Image 等前沿图像与视频生成模型,省去 PyTorch 依赖,让 Mac 本地出图更顺畅。
在终端里实时查看 Apple Silicon Mac 的 CPU、GPU、内存和功耗,界面类似 top,适合跑本地模型时盯资源占用。
在 Mac 上跑 Qwen 3.8 等大模型的原生推理引擎,靠 MTP 投机解码把速度拉到 125 tok/s,16GB 内存也能跑 27B 模型,并提供 OpenAI/Anthropic 兼容的本地服务。
面向 Apple Silicon 的本地大模型推理引擎,围绕模型本身做优化,让 Mac 上跑编码智能体和 LLM 推理更快更省资源。
面向 Apple Silicon Mac 的实时系统监控工具,无需 sudo 即可查看 CPU、GPU 等硬件指标,提供 TUI 界面、JSON/Prometheus 指标服务和 Rust 库。
让 vLLM 在 Apple Silicon 的 Mac 上跑起来,通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片,省去 GPU 服务器。
面向 Apple Silicon Mac 的免费开源平铺窗口管理器,融合 Niri 式滚动容器与 Hyprland 式 Dwindle BSP 布局,让窗口自动排列、提升多任务效率。
在本地设备上跑实时多模态 AI 的 Python 项目,整合语音识别、语音合成和本地大模型,实现类似 GPT-Live 的实时对话体验,支持 Apple Silicon 和 MLX。
在终端里实时查看 Apple Silicon Mac 的 CPU、GPU、内存和功耗占用,类似 top 但针对 M 系列芯片优化,适合跑本地模型时盯资源。
macOS 上的本地语音转文字工具,基于端侧 AI 实现听写与转录,数据不出本机,也可按需接入云端。
在 Apple Silicon 上跑大模型的高性能推理服务,兼容 OpenAI 和 Anthropic 接口,支持 MLX 原生加速、连续批处理、多模态和 MCP 工具调用。
本地运行的 AI 聊天应用与推理引擎,基于 llama.cpp 加载 GGUF 开源权重模型,完全离线、保护隐私,支持 Apple Silicon 桌面端。
把 PyTorch 模型转成 iOS/macOS 可直接用的 .mlpackage,每个模型都配转换脚本和 SwiftUI 示例,省去自己折腾 Core ML 的麻烦。
macOS 上的本地会议转录与语音听写工具,支持 Apple Silicon 端侧推理,隐私优先,可替代 Granola 和 WisprFlow。
在 Apple Silicon Mac 上原生微调大模型的工具,基于 MLX 支持 SFT、DPO、GRPO 以及视觉、语音、OCR 等多模态训练,API 兼容 Unsloth。
面向 Apple Silicon 的本地语音工具箱,用 MLX 和 CoreML 在 iOS/macOS 上跑语音识别、语音合成、语音转换、VAD 和说话人分离,全程端侧推理。
用 USB-C 把 iPhone 接到 Mac 上,让手机参与跑 27B 大模型,加快提示词读取并扩展上下文,适合本地推理场景。
把图片或提示词一键变成带贴图、骨骼和动画的游戏角色,本地跑在 Apple Silicon 或 NVIDIA 上,适合独立游戏开发者和 3D 美术。
红果短剧的桌面客户端,支持 M 系列和 Intel Mac 以及 Windows,能跨三个来源搜索、播放、下载短剧并追剧。
面向流式和端侧场景优化的 Whisper 语音识别模型,支持 Apple Silicon、CoreML、MLX 和 NVIDIA GPU,可做实时转写与翻译。
macOS 菜单栏性能诊断工具,实时记录 CPU、内存、GPU、网络和电池数据,帮你定位卡顿和性能问题,无遥测、免费开源。
在 Apple Silicon 上通过 MLX 原生实现 DeepSeek DSpark 与 DFlash 投机解码,让本地大模型推理最高提速 4 倍且无损,兼容 Gemma、Qwen、Nemotron 等模型。
面向 Mac 和 NVIDIA DGX Spark 的 AI 电影制作工作室,按剧组流程规划分镜,并用 Qwen-Image、FLUX、MiniMax 等模型生成带声音的画面与视频。
纯 Swift 实现的单文件记忆层,让多个 Agent 在 Apple Silicon 上本地完成文本、图片和视频的亚毫秒级 RAG 检索,无需服务器和 API。
在 16–64 GB 内存的 Apple Silicon Mac 上,从 SSD 流式加载 105 GB 的 4-bit 大模型跑推理,纯 Swift + MLX/Metal 实现,离线无需 Python。
面向 macOS 的轻量级 Markdown 编辑器,原生 Objective-C 编写并适配 Apple Silicon,用来写和预览 Markdown 文档。
在 Apple 芯片 Mac 上本地运行的电脑操作代理,通过 macOS 无障碍 API 驱动,用 laya 做端侧决策、CUA-S1-FORMS 填表,无需云端。
…es each new Preview password. Bops for Mac (Apple silicon), signed with Developer ID and notarized by Apple.
… upgrade tusk ) macOS 14 (Sonoma) or later, Apple Silicon. Full Changelog : https://github.com/alpcanaydin/tusk/compare/v0.1.0...v0.1.1
0.10.5 — 2026-09-11 - Apple Silicon GPU transcription ( 28, by @blazejp83). A new [mlx] extra runs Whisper through mlx-whisper on M-series Macs: a 21-minute talk went fro
v0.6.0 — JEPA comes to Apple Silicon A big feature release. mlx-tune now supports the JEPA family — Yann LeCun's Joint-Embedding Predictive Architecture — end to end on a
Bug Fix - Fix Docker image crash on Apple Silicon/ARM by using markitdown[pdf] instead of markitdown[all] . The [all] extra pulled in unnecessary dependencies ( SpeechRec
…ies because the build machine is running on Apple Silicon. That's fixed now. Windows, Linux, and macOS builds are identical with 0.4.0 .