流式处理
  1. 首页
  2. 流式处理

列表

LitServe

LitServe

LitServe是一款基于FastAPI的高性能AI模型部署引擎，专为企业级AI服务设计。它支持批处理、流式处理和GPU自动扩展，简化了模型部署流程。LitServe易于安装和使用，提供灵活的API定义和强大的服务器控制能力。它兼容多种机器学习框架，具备自动扩展和身份验证等高级特性，适用于机器学习模型部署、大语言模型服务、视觉模型推理、音频和语音处理及自然语言处理等多个领域。
AI项目与工具 2025年06月12日
CleanS2S

CleanS2S

CleanS2S是一款流式语音到语音交互智能体原型，通过集成自动语音识别（ASR）、大型语言模型（LLM）、文本到语音（TTS）以及WebSockets等技术，提供高质量、实时的语音交互体验。它支持全双工交互和打断功能，可整合网络搜索和RAG模型以增强回答能力，适用于客户服务、智能家居控制、教育辅助、健康咨询及车载系统等多个领域。
AI项目与工具 2025年06月12日
Eino

Eino

Eino是由字节跳动开源的大模型应用开发框架，采用Go语言构建，具备组件化设计、图编排引擎、流式处理和回调机制等功能，支持高效构建复杂AI应用。其可视化开发工具EinoDev降低了开发门槛，适用于智能客服、知识管理、内容创作等多种场景，具备高扩展性和良好的性能表现。
AI项目与工具 2025年06月12日
Responses API

Responses API

Responses API 是 OpenAI 推出的 AI 代理开发核心接口，结合对话生成与工具调用能力，支持多轮交互与复杂任务处理。具备流式事件处理、统一 Item 结构设计、多态性简化等功能，内置网页搜索、文件搜索和计算机使用等工具。适用于智能客服、市场分析、内容创作等多个领域，提供灵活的定价模式，提升开发效率与用户体验。
AI项目与工具 2025年06月12日
OmniTalker

OmniTalker

OmniTalker 是一款由阿里巴巴开发的实时多模态交互技术，支持文本、图像、音频和视频的同步处理，并能生成自然流畅的语音响应。其核心技术包括 Thinker-Talker 架构和 TMRoPE 时间对齐技术，实现音视频精准同步与高效流式处理。适用于智能语音助手、内容创作、教育、客服及工业质检等场景，具有高实时性与稳定性。
AI项目与工具 2025年06月12日