马斯克开源Grok-1:史上最大3140亿参数模型,权重架构全面公开,附最新下载地址

2024-03-18 2 次阅读 会员专享
马斯克开源Grok-1:史上最大3140亿参数模型,权重架构全面公开,附最新下载地址

马斯克的xAI公司正式开源了3140亿参数的大型语言模型Grok-1,包括权重和网络架构。这使Grok-1成为目前参数量最大的开源大语言模型。Grok-1采用混合专家(MoE)架构,在给定token上的激活权重为25%。xAI在2023年10月使用自定义训练堆栈从头训练了该模型,并遵守Apache 2.0许可证开源。1.Grok-1 开源模型下载:【磁力链接】 ,然后使用 【Torrent 客户端】进行下载即可!2.Grok 开源项目:【Githubg 官方下载】或【网盘下载 】3.如果需要在云端安装Grok-1大模型,可以通过【租赁H100 云GPU】进行云端搭建4.当然也可以直接调用HuggingFace 🤗 Hub:git clone https://github.com/xai-org/grok-1.git && cd grok-1 pip install huggingface_hub[hf_transfer] huggingface-cli download xai-org/grok-1 --repo-type model --include ckpt-0/...

🔒

登录后继续阅读

登录账号即可免费阅读本文

立即登录 还没账户? 注册