面向 Tenstorrent 加速卡的 TT-NN 算子库和 TT-Metalium 底层内核编程模型,让大模型和图像生成模型能在非 GPU 硬件上高效推理。
让 vLLM 在 Apple Silicon 的 Mac 上跑起来,通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片,省去 GPU 服务器。
面向 Apple Silicon 的本地大模型推理与微调框架,用 Rust 实现,支持 LoRA/QLoRA 微调、量化、模型服务和 MLX/Metal 加速。
用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。
用 Rust 写的 GPU 加速终端模拟器,基于 Metal/Vulkan 渲染,桌面和浏览器里都能跑,适合追求流畅终端体验的开发者。
把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。
Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。
OpenAI Whisper 语音识别模型的 C/C++ 移植版,无需 Python 和 GPU 依赖,在普通 CPU 上就能跑语音转文字。
在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理,靠 Metal GPGPU 把 MoE 模型塞进本地设备。
用 Zig 编写、基于 GPU 加速的跨平台终端模拟器,界面采用各平台原生控件,启动快、功能全,适合追求流畅终端体验的开发者。
把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU,写起来像 NumPy,跑起来像高性能计算。
在 Apple Silicon 上通过 MLX 框架运行大语言模型,支持加载、推理和微调,让 Mac 本地跑 LLM 更省心。
用纯 Rust 从零实现的开源非线性视频编辑器,支持多轨道剪辑与视频处理,适合想要轻量、高性能剪辑工具的用户。
用 Rust 写的高性能 AI 模型推理引擎,支持 LLM 和语音合成,并针对 Metal 做加速,适合在本地或服务端跑模型推理。
用 Zig 写的跨平台 LLM 推理引擎,支持 Metal、CUDA 和 Vulkan,让同一套代码在苹果、NVIDIA 和通用 GPU 上跑大模型推理。
在 Node.js 里直接跑 llama.cpp 的绑定库,支持 GPU 加速和 GGUF 模型,还能在生成阶段强制模型按 JSON Schema 输出,方便做结构化抽取和函数调用。
用纯 Go 直接调用 llama.cpp 做本地推理,支持 CUDA、Metal、ROCm 硬件加速,覆盖 Linux、macOS、Windows 和 WebAssembly,方便在 Go 应用里嵌入大模型。
跨平台多媒体开发套件,提供 Dolby Vision、HDR、D3D12、Metal 等硬件加速解码与播放能力,方便在各类设备上集成高质量视频处理。
基于节点的创意编程工具,用可视化连线搭建 3D 图形、图像处理和计算机视觉流程,灵感来自 Quartz Composer,适合实时渲染与多媒体实验。
在 Apple Silicon 上通过 MLX 原生实现 DeepSeek DSpark 与 DFlash 投机解码,让本地大模型推理最高提速 4 倍且无损,兼容 Gemma、Qwen、Nemotron 等模型。
在 iPad 上跑完整 Linux 桌面,用原生窗口管理、平铺和虚拟工作区运行 Firefox、VS Code 等真实 Linux 应用,靠 ARM64 JIT 和 Venus/Metal GPU 加速。
在 Apple Silicon 上做 W8A8/W4A8 量化推理,调用 M5 闲置的 INT8 TensorOps 让 LLM prefill 快 1.2–1.9 倍,并用类 FlashInfer 的 GQA 解码注意力加速 SDPA。
在 Apple Silicon Mac 上本地运行 Phi-3、Phi-3.5 和 Phi-4 视觉与语言模型,基于 MLX 和 Metal 加速,支持微调、LoRA 与多智能体编排。
…Kubernetes Dynamic Resource Allocation 专题,覆盖 GPU 等加速设备的动态分配与调度,面向 AI 工作负载场景。 - 无 Sidecar 服务网格架构对比 新增 Istio Ambient、Cilium、Linkerd 等无 Sidecar 架构的原理对比与选型建议,紧跟服务网格的扁平化演进趋势。
…- 新增5、10、15、30秒快进快退步长,在应用设置或播放器快捷键面板调整,说明即时同步;保留长按加速和进度条精确拖动。 - 保留原配色、登录资料、收藏历史、搜索播放、界面缩放与托盘声音设置。 验收:正式程序搜索“东北后妈”、第1→4→1集声画持续推进;新装、从1.0.25升级、卸载保留数据及回退通过。并行下载和步长设置复用同一冻结候选
…新任务的Linux环境复制采用有界流水线,保留每份文件和目录的落盘;结束工作线程后才发布或清理,设备加速幅度待实测。 - 定时历史新增“打开任务”;不重新执行计划,精确历史运行定位继续完善。 - 包含受控原生确认通路和升级完成状态前置修复。 - Compact wrapping Linux app choices, trailing sw
…the CI workflow https://github.com/tenstorrent/tt-metal/actions/runs/42317870829 LLK (low-level kernels) - Use each Quasar variant's real L1 size [PR 64015](https://githu
…,新功能以双列卡片列出;自动更新在连接 GitHub 失败时优先尝试 Argus 官方镜像,再回退至加速代理,安装包与更新说明同样校验签名。 性能 - 界面响应与高刷动画 :减少采样更新、文字测量与重复绘制的主线程开销,复用图表静态背景与合成图层,多线程并行绘制大尺寸曲线纹理,关闭硬件加速 GPU 计划(HAGS)时的图表 GPU 占用大
… 开关,原生库崩溃也不影响应用;结果和 Windows 显卡驱动版本随诊断包导出,便于定位 GPU 加速闪退 Add "Whisper transcription diagnostics" to the diagnostics export dialog (Windows / Linux): test the Vulkan / CPU b