低延迟
  1. 首页
  2. 低延迟

列表

DeepEP

DeepEP

DeepEP 是 DeepSeek 开发的开源 EP 通信库，专为混合专家模型（MoE）的训练和推理设计。它提供高吞吐、低延迟的 GPU 内核，支持 NVLink 和 RDMA 通信，优化了组限制门控算法，兼容 FP8 等低精度数据格式。适用于大规模模型训练、推理解码及高性能计算场景，具有良好的系统兼容性和网络优化能力。
AI项目与工具 2025年06月12日
Outspeed

Outspeed

Outspeed 是一个专注于实时语音和视频 AI 应用开发的平台，提供强大的流媒体处理、低延迟推理、即时部署等功能，支持企业级合规标准。其核心特性包括灵活的模型定制、全面的 SDK 支持以及高效的应用监控工具，广泛应用于客户服务、教育、医疗保健、娱乐、安全监控和质量控制等领域。
AI项目与工具 2025年06月12日
Gemini 2.5 Flash

Gemini 2.5 Flash

Gemini 2.5 Flash 是 Google 推出的高性能 AI 模型，具备低延迟、高效率及推理能力，适用于代码生成、智能代理和复杂任务处理。其优化设计降低了计算成本，适合大规模部署。该模型基于 Transformer 架构，结合推理机制和模型压缩技术，提升了响应速度与准确性，广泛应用于智能开发、内容生成和实时交互等领域。
AI项目与工具 2025年06月12日
Moshi

Moshi

Moshi是一款由法国Kyutai实验室开发的端到端实时音频多模态AI模型，具备听、说、看的能力，并能模拟70种不同的情绪和风格进行交流。Moshi具有多模态交互、情绪和风格表达、实时响应低延迟、语音理解与生成、文本和音频混合预训练以及本地设备运行等特点。它支持英语和法语，主要应用于虚拟助手、客户服务、语言学习、内容创作、辅助残障人士、研究和开发、娱乐和游戏等领域。
AI项目与工具 2025年06月12日
RealtimeSTT

RealtimeSTT

RealtimeSTT是一款开源的实时语音转文本库，具备高精度语音活动检测、GPU加速的实时转录能力以及语音唤醒功能。支持多语言识别，适用于语音助手、会议记录、实时字幕等场景，提供灵活的音频输入与预处理机制，便于开发者快速集成和扩展。
AI项目与工具 2025年06月12日