Dolly是一款具有低成本训练能力的语言模型，表现出了惊人的指令执行能力，与ChatGPT相当。模型团队发现，即使是使用具有更早架构的多年开源老模型，在对少量指令训练数据进行微调时，也会表现出令人惊喜的表现。

Dolly从EleutherAI中提取了一个现有的开源60亿参数模型，并对其进行轻微修改，即获得了原始模型中没有的指令执行能力。尽管Dolly的基础模型只有60亿个参数，相对于GPT-3的参数1750亿，而且已经有两年的历史了，但其工作效果同样出色，这表明最先进模型的大部分优势源于对训练数据的专注和精细。

Dolly的发布，为那些希望以低成本构建自己的大型模型的公司提供了可能。这一创新将为语言模型领域产生革命性的影响，让更多的公司和组织能够利用深度学习技术，开发出更具实用和生产力的应用程序。