大模型部署

万智

万智是零一万物推出的企业级AI解决方案,支持快速部署大模型,兼容多种硬件和架构,具备本地化部署能力,保障数据安全。平台集成RAG、联网搜索等功能,提升企业决策效率,并提供模型微调工具以满足垂直领域需求。采用Rewrite和Rerank技术优化输出准确性,显著提升性能。

赤兔Chitu

Chitu(赤兔)是清华大学与清程极智联合开发的高性能大模型推理引擎,支持多种GPU及国产芯片,打破对特定硬件的依赖。其具备全场景部署能力,支持低延迟、高吞吐、小显存优化,并在性能上优于部分国外框架。适用于金融风控、智能客服、医疗诊断、交通优化和科研等领域,提供高效、稳定的推理解决方案。