推理
DuoAttention
DuoAttention是由MIT韩松团队提出的新型框架,通过区分“检索头”和“流式头”两种注意力机制,显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用,加速了解码和预填充过程,并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。
文心大模型X1 Turbo
文心大模型X1 Turbo是百度推出的深度思考型AI模型,具备强大的逻辑推理和多模态处理能力,适用于内容创作、智能问答、任务规划等多个领域。相比前代产品,性能提升显著,价格更具竞争力,支持复杂场景下的高效应用。
SmolDocling
SmolDocling-256M-preview 是一款轻量级多模态文档处理模型,能将图像文档高效转换为结构化文本,支持文本、公式、图表等多种元素识别。模型参数量仅256M,推理速度快,适合学术与技术文档处理。具备OCR、布局识别、格式导出等功能,并兼容Docling,适用于文档数字化、科学研究及移动环境应用。
