GPU

Together AI

Together AI 是一家提供生成式 AI 云服务的平台,支持模型快速推理、微调及训练,具备高性能、低成本和可扩展性。平台提供无服务器或专用端点部署,支持企业级 VPC,确保数据安全。其 GPU 集群支持大规模 AI 计算,适用于内容创作、企业应用、网络安全等多个领域,满足从模型优化到定制开发的全流程需求。

unsloth

Unsloth 是一款高效开源的LLM微调工具,通过优化计算流程和GPU内核设计,大幅提升训练速度并降低内存占用。支持多种主流大模型,提供动态量化、长上下文支持等功能,适用于学术研究、企业应用及资源受限环境中的模型优化。

KTransformers

KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。

NobodyWho

NobodyWho是一款专为Godot游戏引擎设计的AI插件,支持本地运行大型语言模型(LLM),提供高效、安全的互动叙事功能。其核心特性包括本地化处理、GPU加速、多上下文支持、流式输出、采样器调节、语义嵌入、工具调用及记忆功能。适用于互动小说、动态对话系统及多线叙事等场景,帮助开发者构建更真实、灵活的游戏内容。

VisoMaster

VisoMaster 是一款基于 AI 的面部编辑与换脸工具,支持图片、视频及直播场景,能生成自然逼真的换脸效果。采用 GPU 加速与自定义模型功能,适用于影视、广告、视频创作等领域。核心技术包括深度学习与 GANs,实现高精度面部特征提取与图像合成,支持实时预览与参数调整,提升用户体验与效率。

BEN2

BEN2是一款由Prama LLC开发的深度学习图像和视频处理工具,专注于高效、精准的背景移除与前景分割。采用置信度引导抠图技术,可处理复杂细节,如头发和边缘,确保高精度分割。支持4K图像处理,具备GPU加速功能,适用于图像编辑、视频剪辑及批量处理等多种应用场景。

NVIDIA

NVIDIA-Ingest 是一款由英伟达开发的开源微服务工具,专为解析非结构化企业文档设计。支持多种文档格式,具备多方法提取、内容分类、并行处理及预后处理功能,结合 GPU 加速技术提升处理效率。适用于企业内容管理、智能客服、法律合规、金融分析和医疗健康等多个领域,是大规模文档处理与生成式 AI 应用的理想选择。

优云智算

优云智算是一款由UCloud优刻得推出的GPU算力租赁平台,支持按需租用,提供多种规格的GPU资源及丰富的AI镜像社区,便于快速部署应用。平台还具备弹性IP、海外资源和多样化存储方案,适用于模型训练、数据分析、科研仿真等多种AI场景,提升开发效率与灵活性。

ZOO

ZOO 是一款 AI 驱动的 CAD 软件平台,主打 Text-to-CAD 功能,可通过文本提示快速生成 3D CAD 模型,降低设计门槛。支持实时编辑、模型 APP 创建、DIFF 查看器及远程 GPU 和 API 接口。适用于工程设计、制造、教育、科研和娱乐等多个领域,提升设计效率与灵活性。

CLEAR

CLEAR是一种由新加坡国立大学推出的新型线性注意力机制,能够有效提升预训练扩散变换器生成高分辨率图像的效率。该机制通过局部注意力窗口和知识蒸馏技术,实现了线性复杂度,显著减少了计算量和时间延迟,同时保持了高质量的图像生成效果。CLEAR还支持跨模型泛化、多GPU并行推理以及稀疏注意力优化,广泛适用于数字媒体创作、虚拟现实、游戏开发等多个领域。