CAMPHOR是由苹果团队开发的一款面向端侧的小型语言模型(SLM)多智能体框架,旨在提升移动设备的隐私保护能力和响应效率。该框架通过在设备本地对多个用户输入进行处理及个人上下文推理,保障了用户数据的安全性。CAMPHOR采用了分层架构设计,高阶推理智能体负责任务分解和协调,而专家智能体则专注于个人上下文检索、工具交互以及动态计划生成。借助参数共享和提示压缩技术,该框架有效减少了模型体积、延迟时间和内存消耗。
CAMPHOR是由苹果团队开发的一款面向端侧的小型语言模型(SLM)多智能体框架,旨在提升移动设备的隐私保护能力和响应效率。该框架通过在设备本地对多个用户输入进行处理及个人上下文推理,保障了用户数据的安全性。CAMPHOR采用了分层架构设计,高阶推理智能体负责任务分解和协调,而专家智能体则专注于个人上下文检索、工具交互以及动态计划生成。借助参数共享和提示压缩技术,该框架有效减少了模型体积、延迟时间和内存消耗。
发表评论 取消回复