大型语言模型

1. 首页
2. 大型语言模型

LayerSkip

LayerSkip 是一种针对大型语言模型推理优化的技术，通过层 dropout 和早期退出损失机制，实现从早期层的精准退出，降低计算成本并提高解码效率。该方法结合自我推测解码技术，支持模型在早期层生成预测并通过后续层验证修正，广泛适用于文档摘要、编程任务、语义解析等自然语言处理任务，同时确保高精度与低延迟。

AI项目与工具 2025年06月12日 72 点赞 0 评论 209 浏览

ComfyGen

ComfyGen是一款基于大型语言模型（LLM）的文本到图像生成系统，能够根据用户提供的文本提示自动生成高质量图像。它通过结合多种专业组件如微调基础模型、LoRAs、嵌入技术和超分辨率处理等构建复杂工作流，并采用两种基于LLM的方法优化图像生成质量，适用于艺术创作、游戏开发、广告设计、电影制作等多个领域。

AI项目与工具 2025年06月12日 54 点赞 0 评论 444 浏览

Self

Self-Taught Evaluators是一种无需人工标注数据的模型评估框架，通过自我训练方式增强大型语言模型（LLM）的评估能力。其核心在于利用LLM生成对比输出并进行迭代优化，显著提升了模型评估的准确性，达到了与顶级奖励模型相媲美的效果，广泛适用于语言模型开发、内容评估、教育科研以及技术支持等领域。

AI项目与工具 2025年06月12日 26 点赞 0 评论 478 浏览

PUMA

PUMA是一款先进的多模态大型语言模型，专注于通过整合多粒度视觉特征提升视觉生成与理解能力。它支持文本到图像生成、图像编辑、条件图像生成及多粒度视觉解码等功能，适用于艺术创作、媒体娱乐、广告营销等多个领域，凭借其强大的多模态预训练和微调技术，成为多模态AI领域的前沿探索。

AI项目与工具 2025年06月12日 72 点赞 0 评论 133 浏览

Whispo

Whispo是一款AI驱动的语音转录工具，支持用户通过快捷键快速录制语音并将其转写为文本，同时具备本地数据处理、隐私保护及基于大型语言模型的文本后处理功能。它适用于会议记录、教育、自动字幕生成等多个场景，旨在提升工作效率和用户体验。

AI项目与工具 2025年06月12日 47 点赞 0 评论 185 浏览

DuoAttention

DuoAttention是由MIT韩松团队提出的新型框架，通过区分“检索头”和“流式头”两种注意力机制，显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用，加速了解码和预填充过程，并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。

AI项目与工具 2025年06月12日 58 点赞 0 评论 206 浏览

OmniParser

OmniParser是一款由微软研究院开发的屏幕解析工具，能够将UI截图转换为结构化数据，通过识别可交互图标和提取功能语义，提升基于大型语言模型的UI代理系统的性能。它支持跨平台应用，无需依赖额外信息，适用于自动化软件测试、虚拟助手、辅助技术等多个领域。

AI项目与工具 2025年06月12日 29 点赞 0 评论 245 浏览

Ditto

Ditto是一款基于Flask框架的Web应用程序生成工具，通过自然语言输入和大型语言模型（LLM）实现自动化代码生成，支持模块化结构和无代码操作，适合快速原型开发、教育学习及非技术人员使用。其核心功能包括自然语言解析、代码自动生成、模块化管理以及环境变量配置等。

AI项目与工具 2025年06月12日 99 点赞 0 评论 505 浏览

SynthID Text

SynthID Text 是一种由谷歌DeepMind开发的文本水印技术，主要用于识别和验证大型语言模型生成的文本。它通过在生成过程中嵌入几乎不可见的水印，保持文本质量的同时实现高效检测。SynthID Text 支持多种模式，适用于新闻、教育、法律及社交媒体等多个领域，为内容验证和AI应用提供了技术支持。

AI项目与工具 2025年06月12日 50 点赞 0 评论 262 浏览

MobileLLM

MobileLLM是一款针对移动设备优化的大型语言模型，具有语言理解与生成、零样本常识推理、聊天交互、API调用、文本重写与摘要生成以及数学问题解决等功能。它通过深度薄型架构、SwiGLU激活函数、嵌入共享和分组查询注意力机制等技术，在低参数环境下实现高效性能，适用于移动聊天、语音助手、内容推荐、教育辅助和移动搜索等多种应用场景。

AI项目与工具 2025年06月12日 52 点赞 0 评论 186 浏览