谷歌、微软、OpenAIAnthropic近日宣布成立一个新的行业机构,目的是确保安全且负责任地开发AI模型。

谷歌、OpenAI、微软等企业成立行业组织联合推动AI安全发展

在谷歌博客上发布的联合声明中,四家公司概述了这个名为Frontier Model Forum的组织,该组织负责推进AI研究,确定最佳实践,并与政府、政策制定者和学术界展开合作,为确保人工智能值得信赖和安全性铺平道路。

微软公司副董事长兼总裁Brad Smith表示:“开发AI技术的企业有责任确保其安全、可靠并处于人类控制之下。该举措是重要一步,旨在将科技行业聚集在一起、负责任地推进AI并应对挑战、使其造福全人类。”

自去年11月首次亮相以来,OpenAI的ChatGPT AI聊天机器人因其理解自然语言并使用令人信服的类人对话进行回复而风靡一时。从那时起,AI模型变得更加精致了,能够轻松地进行研究、长篇论文、执行逻辑谜题等。还有一些模型能够通过利用现有材料创建令人信服的图像和视频,从而引起对隐私和冒充的担忧。

声明称,Frontier Model Forum的成员仅限于致力于大规模机器学习模型的公司,这些模型将构建并超越当前模型的能力。成员企业的任务是开发和部署这些“前沿模型”,并对安全构建这些模型做出坚定承诺,以及推出考虑到安全、信任和社区外展的联合举措。

在接下来的几个月中,Frontier Model Forum打算成立一个顾问委员会来指导开展优先事项。创始公司还将重点为政府和社区引导AI模型发展进行决策和咨询。

根据声明,创始公司打算追随其他旨在为AI开发完整性带来积极成果举措的脚步,例如AI合作伙伴关系和MLCommons。

Frontier Model Forum的成立正值世界各国政府逐渐意识到AI模型和新兴行业背后的原始力量之际。上周,所有Frontier Model Forum的成员都加入了向白宫发布的自愿承诺声明,表示在总统拜登4月份会见科学和技术顾问以探讨AI技术的影响之后,他们将致力于解决人们对AI模型风险日益增长的担忧。

在某组织要求联邦贸易委员会调查OpenAI之后,这家公司最近成为美国联邦贸易委员的贸易行为调查目标。

与此同时,欧盟一直在推动全球第一部全面的AI法律,称为“AI法案”(AI Act),该法案将规范欧盟对AI的监管方式。这项立法自4月以来一直被人们所争议,旨在平衡不断发展的行业与消费者的安全和担忧以及隐私、监控、版权等人权。

发评论,每天都得现金奖励!超多礼品等你来拿

登录后,在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见:查看奖励规则
暂无评论...