jhqxxx /
aha
aha是一个基于 Rust 和 Candle 框架的 AI 推理引擎 技术栈： 核心语言及框架：Rust + Candle 领域：多模态 AI 推理、计算机视觉、OCR、ASR、语音生成 支持多种前沿 AI 模型的推理能力，包括： 视觉语言模型：Qwen2.5VL、Qwen3VL,Qwen3.5 OCR 识别：DeepSeek-OCR、Hunyuan-OCR、PaddleOCR-VL 语音识别：GLM-ASR-Nano-2512、Fun…
About
aha是一个基于 Rust 和 Candle 框架的 AI 推理引擎 技术栈： 核心语言及框架：Rust + Candle 领域：多模态 AI 推理、计算机视觉、OCR、ASR、语音生成 支持多种前沿 AI 模型的推理能力，包括： 视觉语言模型：Qwen2.5VL、Qwen3VL,Qwen3.5 OCR 识别：DeepSeek-OCR、Hunyuan-OCR、PaddleOCR-VL 语音识别：GLM-ASR-Nano-2512、Fun-ASR-Nano-2512、Qwen3-ASR 语音生成：VoxCPM、VoxCPM1.5 图像处理：RMBG2.0（背景移除） 语言模型：Qwen3、MiniCPM4 亮点 高性能推理 - 基于 Candle 框架，提供高效的张量计算和模型推理 统一接口 — 一个工具搞定文本、视觉、语音和 OCR 本地优先 — 所有处理在本地运行，数据不离境 跨平台 — 支持 Linux、macOS 和 Windows GPU 加速 — 可选 CUDA 支持以获得更快推理 内存安全 — Rust 构建，稳定可靠 注意力优化 - 可选 Flash Attention 支持，优化长序列处理
Discovery history
- HelloGitHub·用户投稿
Discuss this product