17日《金融时报》报道,ChatGPT的开发者OpenAI与云端基础AI公司Anthropic正在制定各自企业及最高管理层关于减缓人工智能研发进度的方案。两位CEO借助研究人员不断重复的风险警告,坚决重申近期须限制最前沿模型的发展,并在竞争关系中亦作出相似方向之举措。

然而,两家公司内部执行阶段仍不充分。员工与相关安全研究者到发布前几乎未能获悉方案细节,对实际施行过程可能导致研发成果受挫的担忧已表露。上周六日,Amoday呼吁降低AI开发速度,并提议独立模型评估及各国研所、政府间协作扩大。其强调外部评估者在主要AI研所需具与员工同等入场权。

OpenAI相较Anthropic采更务实之方案,已开始执行部分最前沿模型训练中途。反观Anthropic仍持续研究。两家公司皆正就外部评估者进入范围进行争议,且安全问题升起。员工担忧核心技术与敏感信息泄露风险,若外部人员深入接触则危险性高。AI研所已限制入场权并管理训练资料使用,而OpenAI亦加强内部员工之系统安全管制,以防止潜在破坏。

OpenAI原员迈尔斯·布兰迪认为第三方机构入场权最少于正规职员,且对行业整体适用的约束标准甚需。Anthropic自早已与外部评估机构合作,并公布内部计划。两家公司均强调外部评估者之重要性,并提出在安全事故发生时加强应变体系。此举措亦含政治变量,且美国行政及监管议论仍在进行中。