Qwen2.5

Qwen2.5-Coder是由阿里云Qwen团队开发的一系列开源代码生成模型，旨在推动代码语言模型领域的发展。该系列模型涵盖多种规模，包括1.5B、7B、0.5B、3B、14B和32B参数量，以满足不同开发者的多样化需求。旗舰模型Qwen2.5-Coder-32B-Instruct在多个流行的代码生成基准测试中展现了卓越性能，其代码能力接近GPT-4o的水平。此外，该模型在代码生成、代码修复和代码推理等方面表现出色，支持超过40种编程语言，并在McEval和MdEval基准测试中取得优异成绩。 Qwen2.5-Coder注重人类偏好对齐，通过内部标注的Code Arena基准进行了评估，显示了其在人类偏好上的显著优势。该模型家族的参数配置和许可信息均详细公开，其中0.5B、1.5B、7B、14B和32B版本采用Apache 2.0许可证，而3B版本则适用于研究用途。 Qwen2.5-Coder的核心功能包括代码生成、代码推理、代码修复、多语言支持及模型尺寸多样性。旗舰版本Qwen2.5-Coder-Instruct通过指令微调进一步优化了性能，同时在数学任务和代码结合场景中展现出强大实力。技术上，Qwen2.5-Coder基于自回归语言模型架构，采用Transformer变体，支持长上下文处理，通过独特数据清洗和配比提升多语言能力。该项目提供了详细的文档、源码和预训练模型下载链接。