PE

DeepGEMM

DeepGEMM是DeepSeek开发的高效FP8矩阵乘法库,专为NVIDIA Hopper架构优化,支持普通与分组GEMM操作。采用即时编译技术,实现运行时动态优化,提升计算性能与精度。通过细粒度缩放和双级累加技术解决FP8精度问题,结合TMA特性提升数据传输效率。代码简洁,仅约300行,适用于大规模AI推理、MoE模型优化及高性能计算场景。

Awesome

一个用于实时监控和检测 Ollama 服务可用性和性能的系统。支持多语言,能够方便用户进行服务检测和性能监控。

宾夕法尼亚大学

宾夕法尼亚大学(University of Pennsylvania),简称宾大(UPenn),位于宾夕法尼亚州费城,私立研究型大学,常春藤盟校之一,美国大学协会创始成员。全球大学校长论坛成员。 宾...

咒语集市

一个提示词虚拟市场。你可以买提示词,你也可以卖提示词。

IdeaApe

一个AI市场研究工具,帮助您验证您的业务创意

PaperPass

PaperPass是国内首款中文论文检测系统,提供5大分类,12个专业的毕业论文检测服务,同时推出免费论文检测字数活动。

Operator

Operator是由OpenAI开发的AI工具,基于Computer-Using Agent(CUA)模型,能够模拟人类操作网页浏览器,完成如预订、购物、表单填写等任务。它结合了GPT-4o的视觉识别能力和强化学习的推理能力,支持多任务处理和个性化设置。具备自我纠错、安全防护及隐私保护机制,在涉及敏感信息时会请求用户接管。适用于自动化购物、数据分析、日程安排等多种场景。

Pencil

Pencil 是一款使用人工智能 帮助电子商务品牌更快地创建更好广告的软件。它可以根据您的数据、资产和品牌生成无限变化的静态广告和视频广告。

MHA2MLA

MHA2MLA是一种由多所高校与研究机构联合开发的数据高效微调方法,基于多头潜在注意力机制(MLA)优化Transformer模型的推理效率。通过Partial-RoPE和低秩近似技术,显著减少KV缓存内存占用,同时保持模型性能稳定。仅需少量数据即可完成微调,适用于边缘设备、长文本处理及模型迁移等场景,具备高兼容性和低资源消耗优势。

AI Transcribe

Transcribe 是一个基于 OpenAl 训练并开源的录音转文字工具,支持英语、中文等多种语言,最大的优点就是无需下载大型的模型文件。