来源:华尔街见闻
包括亚马逊(130, 0.04, 0.03%)、谷歌(120.31, 0.78, 0.65%)、微软(343.77, -3.10, -0.89%)、Meta、OpenAI在内的七家公司共同承诺,发布AI系统前进行内外部测试,向全行业和政府及社会分享AI风险的信息,用水印等机制帮助识别AI生成内容,鼓励第三方发现安全漏洞,报告不当使用和偏见等社会风险,优先研究AI的社会风险,用先进的AI系统解决严重的社会问题。拜登称,承诺只是第一步,将采取行政行动,并同国会合作出台针对AI的法规。
在白宫“指示”下,美国人工智能(AI)巨头 “自我管控”的条例浮出水面,他们承诺要尽量降低AI技术带来的风险。
美东时间7 月21日周五,白宫公布,拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺,管控AI带来的风险。他们承诺,将帮助推动AI技术安全且透明地发展。
白宫称,政府目前在指定一项总统行政令,寻求两党达成立法议案,帮助引导国内开展负责任的创新活动。
上述七家公司公布的具体承诺内容如下:
企业承诺,在发布AI系统前,先进行内部和外部的安全测试;全行业共享有关管理AI风险的信息,也对政府、民间的社会和学术界分享这些信息。
企业承诺,投资针对网络安全和内部人士威胁的防护措施,保护专有的和未发布的模型权重;推动第三方发现及报告企业AI系统的漏洞。
企业承诺,推出强大的技术机制,确保用户知道内容何时由AI生成,例如水印系统;公开报告企业AI系统的功能、局限性、适当和不当使用的领域,包括将覆盖安全风险和社会风险,例如在公平和偏见方面的影响。
企业承诺,优先研究AI系统可能带来的社会风险,包括避免有害的偏见和歧视,以及保护隐私;开发及部署先进的AI系统,帮助解决最严重的社会问题。
上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。
发布承诺后,拜登周五表示,这些承诺是切实的,将帮助AI行业履行对国人的基本义务,开发安全、可靠和值得信赖的技术,造福社会。
拜登说,这些企业的承诺将立即实行,体现了安全、保障和信任这三个基本原则,但他们的承诺只是第一步,“我们必须对(AI的)威胁保持清醒和警惕。”
拜登承诺,要采取行政行动,同时与国会合作,出台针对AI的法规。他说,新兴的技术需要一些新的法律、监管法规和监督。
白宫的幕僚长Jeff Zients同日称,这是一个不断变化的目标。不但必须执行和落实这些企业的承诺,还必须随着技术的变革,厘清下一轮的承诺。