部署

DL4J

DL4J开源的使用JVM部署和训练...

Flowise

Flowise 是一款开源的低代码/无代码平台,支持用户通过可视化界面快速构建和部署基于大语言模型的应用。它提供拖拽式工作流设计、多模型集成、丰富的组件库以及灵活的部署方式,适用于智能客服、文档分析、推荐系统等多种场景。支持本地与云端部署,具备企业级安全特性,适合各类开发者与企业使用。

AingDesk

AingDesk 是一款开源的 AI 模型部署工具,支持一键安装上百款 AI 模型,降低使用门槛。具备联网搜索功能,提升回答准确性;提供模型共享与多语言支持,便于团队协作与跨语言使用。内置模型管理器,优化本地资源利用,适用于学习、办公及学术研究等多种场景。

FlowiseAI

FlowiseAI 是一款开源的低代码 AI 工具,允许用户通过可视化拖拽方式快速构建大型语言模型应用。支持多模型集成、对话记忆、API 接口等功能,适用于聊天机器人、工作流自动化和文档问答等多种场景。提供本地、Docker 和云平台部署方式,适合开发者和企业用户进行灵活应用开发。

Mistral Small 3.1

Mistral Small 3.1 是一款由 Mistral AI 开发的开源多模态 AI 模型,拥有 240 亿参数,支持文本与图像处理,具备长达 128k tokens 的上下文窗口和每秒 150 token 的推理速度。采用 Transformer 架构与 MoE 技术,提升计算效率,支持多语言和本地部署。适用于文档处理、图像分析、质量检测、虚拟助手等多种场景。

Cooragent

Cooragent是清华大学LeapLab团队推出的开源AI Agent协作框架,支持通过自然语言快速创建Agent并实现多Agent协同。采用Prompt-Free设计,无需手动编写Prompt,系统自动优化功能。支持本地部署,保障数据安全,兼容Langchain工具链和MCP协议,提供全面API支持,适用于旅行规划、股票分析、文档处理等多种场景。

Firsthand AI

Firsthand AI提供了一个强大的平台,使品牌和出版商能够通过AI Agents与消费者进行个性化对话,同时完全控制自己的数据和内容。

Mistral Saba

Mistral Saba 是一款面向中东和南亚地区的定制化 AI 模型,具备 240 亿参数,专注于阿拉伯语及南亚语言(如泰米尔语、马拉雅拉姆语)的处理。其优势在于高效部署、低资源占用和高准确性,适合需要文化背景理解的场景。可通过微调应用于多个行业,并支持 API 和本地部署,适用于对话支持、专业领域知识生成及文化内容创作。

Pad.ws

Pad.ws 是一款基于浏览器的在线开发环境,融合了交互式白板与完整代码编辑功能。支持多人协作、实时绘图、VS Code 集成及终端操作,适用于团队开发、教育、个人项目及产品设计等多种场景。具备多语言支持、跨设备访问和自托管部署能力,提升开发效率与灵活性。

VideoLLaMA3

VideoLLaMA3 是阿里巴巴开发的多模态基础模型,支持视频与图像的深度理解和分析。基于 Qwen 2.5 架构,结合先进视觉编码器与语言生成能力,具备高效时空建模与多语言处理能力。适用于视频内容分析、视觉问答、字幕生成等场景,提供多种参数版本,支持灵活部署。