负载均衡
  1. 首页
  2. 负载均衡

列表

EPLB

EPLB

EPLB是DeepSeek推出的专家并行负载均衡工具，用于优化大规模模型训练中的资源分配。它通过冗余专家策略和分层/全局负载均衡机制，提升GPU利用率和训练效率。支持多层MoE模型，减少通信开销，适应不同场景需求。
AI项目与工具 2025年06月12日
MiLoRA

MiLoRA

MiLoRA是一种参数高效的大型语言模型微调方法，通过奇异值分解将权重矩阵分为主要和次要两部分，专注于次要部分的优化以降低计算成本，同时保持模型的高精度和高效性。它在自然语言处理任务中表现出色，适用于文本分类、情感分析、问答系统等多个领域，并在多租户环境和实时内容生成中展现出显著优势。 ---
AI项目与工具 2025年06月12日
LiveKit Agents

LiveKit Agents

LiveKit Agents 是一款基于 Python 的多模态 AI 工具框架，支持实时语音、视频和数据交互。其核心功能包括基于 WebRTC 的低延迟通信、与 OpenAI 等服务的深度集成、丰富的插件生态系统以及负载均衡与自动扩展能力。适用于虚拟助手、客户服务、实时翻译、视频内容审核等多个应用场景。
AI项目与工具 2025年06月12日