2024-12-05 16:44
本条微博链接
【MLX Omni Server:一款基于苹果MLX框架的本地推理服务器,专为Apple Silicon芯片优化设计。支持OpenAI兼容的API接口,实现文本对话、语音转换、图像生成等AI能力。特点是本地化推理保护隐私、硬件加速高性能、支持OpenAI SDK直接调用,可作为OpenAI API的本地替代方案】 'MLX Omni Server is a local inference server powered by Apple's MLX framework, specifically designed for Apple Silicon chips' GitHub: github.com/madroidmaq/mlx-omni-server #人
………………………………