模型简介

Llama3-70B-Instruct是Meta 开发并发布的Llama 3 系列中规模为700亿参数的大型语言模型 （LLM），指令调优模型针对对话用例进行了优化，在常见的行业基准测试中优于许多可用的开源聊天模型。

使用场景

Llama 3的预期用例是英语语境下的商业和研究。指令调优模型适用于类似助手的聊天，而预训练模型可以适应各种自然语言生成任务。 Llama 3可供各种规模的个人、创作者、研究人员和企业使用。

超出范围 ：以任何违反适用法律或法规（包括贸易合规法）的方式使用。以可接受使用政策和 Llama 3社区许可证禁止的任何其他方式使用。使用英语以外的语言。

注意 ：开发者可以采用英语以外的语言对 Llama 3 模型进行微调，前提是它们符合 Llama3 社区许可证和可接受使用政策。

评测效果

Llama 3 模型在标准自动基准测试下的结果。

技术亮点

• Llama3 是一种自回归语言模型，它使用优化的转换器架构。优化版本使用监督微调（SFT）和具有人类反馈的强化学习（RLHF）来符合人类对帮助性和安全性的偏好。
• 使用分组查询注意力（GQA）来提高推理可扩展性。
• Llama3 在来自公开来源的超过 15 万亿tokens数据上进行了预训练。微调数据包括公开可用的指令数据集，以及超过 1000万个人工注释的示例。

相关引用

如对您有帮助，欢迎引用。

@article{llama3modelcard,

  title={Llama 3 Model Card},

  author={AI@Meta},

  year={2024},

  url = {https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}

}

免责声明

Llama3-70B-Instruct模型，来源于第三方，本平台不保证其合规性，请您在使用前慎重考虑，确保合法合规使用并遵守第三方的要求。