强化学习
Auto Think
Auto Think是快手Kwaipilot团队开源的KwaiCoder-AutoThink-preview自动思考大模型,针对深度思考大模型的“过度思考”问题,提出了一种全新的训练范式。模型融合“思考”和“非思考”能力,能根据问题难度自动切换模式,提升复杂任务表现。在代码和数学类任务中,性能提升可达20分。其技术原理包括最小提示干预和多阶段强化学习,适用于视频生成、文案创作、智能客服等多个场景。
MaskSearch
MaskSearch是阿里巴巴通义实验室推出的新型通用预训练框架,通过检索增强掩码预测(RAMP)任务提升大型语言模型(LLM)的智能体搜索能力。该工具利用外部知识库和搜索工具预测被掩盖的关键信息,增强模型对复杂问题的理解和回答能力。结合SFT和强化学习(RL)训练方法,采用多智能体协同生成思维链数据,并引入课程学习策略优化模型性能。适用于智能客服、教育、企业搜索及机器学习模型调试等多个场景。
悟道·天鹰(Aquila)
悟道·天鹰(Aquila)是智源研究院开源的中英双语语言大模型,具备强大的语言理解和生成能力。模型在设计上注重商用和数据合规性,同时提供持续的开源更新和技术支持。