meta公司宣布了一项重大技术进展，发布了其最新的开源模型——llama3。这一模型包含两种参数规模:8b（80亿参数）和70b(700亿参数)，预计将于今年7月正式面世。llama3模型不仅具备多模态能力，还集成了新的计算机编码功能，能够输出文本和图像，预示着其未来将被应用于雷朋 meta 智能眼镜等设备。
meta公司与谷歌建立了k8凯发首页的合作伙伴关系，将实时搜索结果整合到 ai 助手的答复中，进一步提升了用户体验。与前代 llama2相比，llama3在多个行业基准测试中展现了突破性的性能，特别是在推理、代码生成和指令跟踪等方面取得了显著进步。为了训练这一模型，meta 构建了两个包含2.4万个gpu的集群，其中1.6万个gpu同时用于llama3的训练。
llama3的开发预示着 meta 在 ai 领域的雄心壮志。目前，公司正在开发的最大型模型拥有超过400b（400亿）的参数规模。meta llama3的主要性能特点包括:
模型规模与类型:提供8b和70b两种规模的预训练和指令调优生成文本模型，专为对话和其他语言处理任务优化。
模型架构:采用自回归方法和基于优化的变换器架构，引入了分组查询注意力机制，提升了大规模参数下的推理可扩展性。
训练与数据处理:使用超过15万亿的tokens进行预训练，训练集是llama2的七倍，支持高达30种语言。
性能与基准测试:在多个自动化基准测试中表现出色，包括对话、问答、推理等多种任务，并特别针对现实世界场景进行了优化。
meta 还发布了基于 llama3的 ai 助手，目前已在美国之外的十多个国家推出。用户可以在 facebook、instagram、whatsapp 和 messenger 上使用 meta ai 助手，它能够推荐餐厅、规划周末活动、协助学习等。此外，meta ai 还整合了搜索功能，可以直接访问网络上的实时信息，无需切换应用。
llama-3-70b-instruct 已经登陆hugging chat ，可以在上面直接使用！
体验地址：https://www.meta.ai/
模型下载：https://top.aibase.com/tool/meta-llama-3
hugging chat：https://huggingface.co/chat/conversation/6621c6d78f6a88b6b6084ac4
粤icp备18094028号
粤公网安备 44010602007072号