AI创企潞晨科技今日宣布,Colossal-AI作为全球最大、最活跃的大模型开发工具和社区,以LLaMA大模型为例,率先提供开箱即用的650亿参数预训练方案,相比业界其他主流选择,仅需32张A100/A800 GPU即可将预训练速度提高38%,并且不限制商业用途,有助于为大模型企业节省大量成本。

Colossal-AI开源650亿参数大模型预训练方案

自开源发布以来,面向大模型时代的通用深度学习系统Colossal-AI已多次在GitHub Trending上排名第一,获得超过3万颗GitHub Stars。100多家公司参与了Colossal-AI生态系统的建设。Colossal-AI背后的潞晨科技在今年5月获得数亿元A轮融资,至此成立18个月内已迅速连续完成三轮融资。

代码地址:

https://github.com/hpcaitech/ColossalAI