Mistral AI 是一家成立于 2023 年 4 月的法国人工智能公司,由前 Meta 和 Google 的研究人员创立,包括 Artur Mensch、Timothée Lacroix 和 Guillaume Lample。截至 2023 年 10 月,该公司已融资 3.85 亿欧元(约 4.15 亿美元)。到 2023 年 12 月,其估值已超过 20 亿美元。
与 OpenAI 和 Google 类似,Mistral AI 开发大型语言模型,这些模型为 ChatGPT 和 Gemini 等聊天机器人提供技术支持。ChatGPT 去年年底风靡全球,展示了接近人类水平的对话能力。
不过,Mistral AI 采用了不同的策略。它相信生成式人工智能技术应是开源的,这意味着支持其 LLM 的代码可以自由供他人使用和修改。通过这种方式,这家初创公司希望为用户提供构建定制化聊天机器人的工具。
Mistral AI 推出了开源的大型语言模型,其中最著名的项目是 Mistral 7B,这是一个开放模型,旨在成为欧洲对 OpenAI 的 ChatGPT 和 Google 的 Bard 等 AI 平台的回应。Mistral AI 平台的测试版计划于 2024 年初推出。
Mistral 7B 简介:
Mistral AI 推出了 Mistral 7B,这是一种突破性的 7.3B 参数语言模型,其性能在同尺寸模型中树立了新标杆。它在推理、理解和概括方面表现卓越,同时具备高效性和成本效益。
Mistral 7B 特点:
强大的语言模型:Mistral 7B 拥有 7.3B 参数,使其成为同类产品中最强大的模型之一。
卓越的性能:在多种基准测试中优于 Llama 2 13B 和 Llama 1 34B。
先进的注意力机制:结合分组查询注意力(GQA)和滑动窗口注意力(SWA),实现更快、更高效的处理。
开放许可:在 Apache 2.0 许可下发布,确保广泛可用性且无限制。
微调功能:可轻松针对特定任务微调 Mistral 7B,并展示过针对聊天的微调模型。
综合基准测试:包含多个基准测试中与各种 Llama 模型对比的详细性能指标。
滑动窗口注意力:高效的注意力机制,可降低计算成本并提高速度。
社区参与:承诺与社区合作,确保模型满足用户需求并遵守护栏。
Mistral 常见问题:
问:Mistral 7B 真的可以免费使用吗?
是的,它是在 Apache 2.0 许可下发布的,允许免费使用。
问:Mistral 7B 与 GPT-4 等其他型号相比如何?
它提供类似的功能,但计算成本较低。
问:Mistral 7B 是开源的吗?
不,它是免费使用的,但不是开源的。数据集和权重是专有的。
问:Mistral 的商业模式是什么?
免费模式可作为其商业产品的切入点,其中包括白盒解决方案。
问:我可以将 Mistral 7B 用于商业目的吗?
是的,Apache 2.0 许可证允许商业用途,只要您提供适当的归属。
Mistral AI 发布了一个免费的高性能语言模型,这是 AI 社区的一大进步。它不仅降低了进入门槛,还为小型模型能够实现的目标设定了新标准。未来几个月,Mistral 的加入将如何影响语言模型的前景,这将是一件有趣的事情。
发表评论 取消回复