MiniCPM 3.0是由面壁智能开发的一款高性能端侧AI模型,具备40亿参数。该模型通过采用LLMxMapReduce技术,支持无限长文本处理,从而扩展了模型的上下文理解能力。MiniCPM 3.0在Function Calling方面的表现接近GPT-4o,展示了其在端侧执行复杂任务的能力。此外,MiniCPM 3.0包含了RAG三件套,包括检索、重排序和生成模型,显著提升了中文检索和内容生成的质量。该模型已全面开源,量化后的版本仅占用2GB内存,非常适合端侧设备部署,同时确保了数据处理的安全性和隐私性。
发表评论 取消回复