边缘计算

Ivy

Ivy-VL是一款专为移动端和边缘设备设计的轻量级多模态AI模型,具备约30亿参数,专注于视觉问答、图像描述及复杂推理等任务,能够有效降低计算资源需求,同时在多模态任务中表现出色,尤其适用于增强现实、智能家居及移动学习等领域。

Zamba2

Zamba2-7B是一款由Zyphra公司开发的小型语言模型,具有高效的推理速度和低内存占用的特点。它在图像描述任务中表现出色,适用于边缘设备和消费级GPU。Zamba2-7B通过创新的混合架构和技术优化,提供了卓越的语言理解和生成能力,同时支持多种应用场景,如移动应用开发、智能家居设备、在线客服系统、内容创作以及教育工具等。

算了么

算了么是一款基于GPU资源共享的平台,用户可通过闲置算力参与科学计算并获取收益。平台具备智能调度、灵活控制、收益追踪等功能,适用于科研、游戏、气候模拟等多个领域。用户可随时开启或关闭任务,确保不影响日常使用,同时为科技进步贡献力量。

Gemma 3 QAT

Gemma 3 QAT 是谷歌推出的开源 AI 模型,采用量化感知训练技术,在降低显存需求的同时保持高性能。它支持多模态任务,具备 128,000-token 长上下文处理能力,并可在消费级 GPU 和边缘设备上运行。适用于视觉问答、文档分析、长文本生成等场景,同时兼容多种推理框架,便于部署。

OpenVision

OpenVision是加州大学圣克鲁兹分校推出的多模态视觉编码器系列,具备从5.9M到632.1M参数的多种模型,适用于不同硬件环境。其采用渐进式多阶段分辨率训练策略,训练效率比同类模型高2至3倍,在多模态任务中表现优异。支持可变大小patch输入,兼具灵活性与高效性,广泛应用于工业检测、机器人视觉、自动驾驶及科研教育等领域。

Jina

Jina-embeddings-v3 是一款基于 Transformer 架构的文本嵌入模型,支持多语言处理和长文本分析。通过 LoRA 适配器和 Matryoshka 表示学习技术,模型能够生成高质量的嵌入向量,适用于多种任务,包括查询-文档检索、聚类、分类和文本匹配。其高性能和成本效益使其适用于生产环境及边缘计算场景。

百聆

百聆是一款开源语音对话系统,融合语音识别、语音活动检测、大语言模型和语音合成技术,实现自然流畅的语音交互。支持低延迟运行,无需GPU,适用于边缘设备。具备记忆、工具调用和任务管理等功能,适用于智能家居、个人助理、车载系统等多种场景,提供高效的语音交互解决方案。

Granite 4.0 Tiny Preview

Granite 4.0 Tiny Preview是IBM推出的轻量级语言模型,具备高效计算能力和紧凑结构,支持在消费级GPU上运行多个长上下文任务。采用混合Mamba-2/Transformer架构,结合高效与精准优势,支持无位置编码(NoPE)处理128K tokens上下文。内存需求降低72%,推理时仅激活1B参数,适用于边缘设备部署、长文本分析及企业级应用开发,适合资源受限环境下的AI研究与

Delta

Delta-CoMe是一种由清华大学NLP实验室牵头研发的增量压缩算法,它通过低秩分解与混合精度量化技术,显著减少了大型语言模型的存储和内存需求,同时保持了模型性能几乎无损。该工具支持多任务处理、推理加速,并广泛适用于云计算、边缘计算及学术研究等领域,特别擅长应对数学、代码和多模态任务。