DeepGEMM DeepGEMM是DeepSeek开发的高效FP8矩阵乘法库,专为NVIDIA Hopper架构优化,支持普通与分组GEMM操作。采用即时编译技术,实现运行时动态优化,提升计算性能与精度。通过细粒度缩放和双级累加技术解决FP8精度问题,结合TMA特性提升数据传输效率。代码简洁,仅约300行,适用于大规模AI推理、MoE模型优化及高性能计算场景。 AI项目与工具 2025年06月12日 61 点赞 0 评论 455 浏览
RightNow AI RightNow AI 是一款专注于 CUDA 代码优化的 AI 工具,能够自动分析并提升 GPU 性能。它支持多种 NVIDIA GPU 架构,提供无服务器的性能分析服务,并允许用户通过自然语言指令生成高性能代码。适用于模型训练、科学计算、金融建模等多个领域,显著降低 GPU 编程门槛,提升计算效率。 AI项目与工具 2025年06月11日 46 点赞 0 评论 157 浏览