AI安全
  1. 首页
  2. AI安全

列表

REEF

REEF

REEF是一种用于大型语言模型的指纹识别技术，通过在训练中嵌入编码信息生成唯一“指纹”，实现高精度、低开销的模型识别。具备鲁棒性、兼容性强等特点，适用于版权保护、模型溯源、非法行为打击等场景，广泛应用于学术、商业和监管领域。
AI项目与工具 2025年06月12日
FakeShield

FakeShield

FakeShield是一款由北京大学研发的多模态大型语言模型框架，主要用于检测和定位图像篡改。它通过结合视觉与文本信息，生成篡改区域掩码并提供详细的判断依据。其核心模块包括领域标签引导的检测模块和多模态定位模块，支持多种篡改技术的分析，具有较高的准确性与可解释性。FakeShield广泛应用于社交媒体内容审核、法律取证、新闻媒体真实性验证以及版权保护等领域。
AI项目与工具 2025年06月12日
LOKI

LOKI

LOKI是一个由中山大学与上海AI实验室联合推出的合成数据检测基准，用于评估大型多模态模型在识别视频、图像、3D模型、文本及音频等多模态合成数据方面的性能。它包含超过18,000个问题，涵盖26个子类别，支持多层次标注和细粒度异常注释，并通过自然语言解释增强模型的可解释性。LOKI还通过对比多种开源和闭源模型的表现，揭示了这些模型在合成数据检测任务中的优势与不足。
AI项目与工具 2025年06月12日