Awesome-Ollama-Server 是什么?

Awesome-Ollama-Server 是一个用于监控和检测 Ollama 服务可用性和性能的现代化系统。它拥有直观的 Web 界面,支持中文和英文双语切换,并能够实时展示检测数据。此工具可以帮助用户高效管理多个 Ollama 实例,同时在服务出现问题时迅速发出警报。无论是个人还是团队,若需批量检测在线 Ollama 服务器的状态,这个工具都非常实用。

功能特点

  • 服务检测:支持批量检测 Ollama 服务,并实时显示检测状态和结果。

  • 性能监控:提供对服务响应时间和 TPS(每秒事务数)的测试,展示可用模型列表,并进行性能数据可视化。

  • 多语言界面:提供中文和英文两种界面,用户可以轻松切换语言。

  • 高级筛选:允许用户根据模型进行过滤,并可按 TPS 或更新时间进行排序,便于数据的快速查找和管理。

技术栈

  • Next.js:一个基于 React 的框架,用于构建用户界面。

  • TypeScript:用于确保代码的类型安全。

  • Tailwind CSS:用于快速构建样式。

  • next-intl:用于处理国际化。

  • 响应式设计:确保在各种设备上的良好显示。

Awesome-Ollama-Server 安装步骤

1. 克隆代码库:

git clone git@github.com:forrany/Awesome-Ollama-Server.git
cd Awesome-Ollama-Server

2. 安装依赖:

npm install

3. 运行开发服务器:

npm run dev

4. 然后访问 http://localhost:3000 查看应用。

如何使用 Awesome-Ollama-Server

检测服务:

  • 打开应用后,点击“检测服务”按钮,在弹出的对话框中输入 Ollama 服务地址(每行一个)。

  • 点击“开始检测”按钮,等待检测完成,然后查看结果,可以选择下载检测结果。

筛选和排序:

  • 使用模型过滤器选择特定模型,点击 TPS 或更新时间进行排序,或使用搜索框快速查找模型。

语言切换:

  • 点击右上角的语言切换按钮,选择需要的语言进行界面切换。


评论列表 共有 0 条评论

暂无评论

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部