BlueLM
简介：BlueLM-V-3B是一种针对移动设备设计的多模态大型语言模型，结合了高效算法与系统优化，支持快速、低功耗的文本与图像处理。其主要特性包括多模态理解、实时响应、隐私保护、高效率部署及跨语言能力。该模型通过动态分辨率调整、批量图像编码及令牌下采样等技术，实现了在有限资源下的高性能表现。
官网地址
BlueLM-V-3B是由vivo AI Lab与香港中文大学MMLab联合开发的一种算法与系统协同设计方法，旨在高效地将多模态大型语言模型（MLLM）部署到移动设备上。该模型具备小尺寸（2.7B语言参数+400M视觉参数）、高效率（24.4 token/s生成速度）及高性能（OpenCompass基准测试得分66.1）的特点，通过优化动态分辨率策略和硬件感知部署，显著提升了模型在移动设备上的推理效率。
发表评论 取消回复