网络知识 财经 AI巨头“自控”条例出台,承诺确保产品安全,拜登放话必须警惕AI威胁AI

AI巨头“自控”条例出台,承诺确保产品安全,拜登放话必须警惕AI威胁AI

来源:华尔街见闻

包括亚马逊(130, 0.04, 0.03%)谷歌(120.31, 0.78, 0.65%)微软(343.77, -3.10, -0.89%)、Meta、OpenAI在内的七家公司共同承诺,发布AI系统前进行内外部测试,向全行业和政府及社会分享AI风险的信息,用水印等机制帮助识别AI生成内容,鼓励第三方发现安全漏洞,报告不当使用和偏见等社会风险,优先研究AI的社会风险,用先进的AI系统解决严重的社会问题。拜登称,承诺只是第一步,将采取行政行动,并同国会合作出台针对AI的法规。

在白宫“指示”下,美国人工智能(AI)巨头 “自我管控”的条例浮出水面,他们承诺要尽量降低AI技术带来的风险。

美东时间7 月21日周五,白宫公布,拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺,管控AI带来的风险。他们承诺,将帮助推动AI技术安全且透明地发展。

白宫称,政府目前在指定一项总统行政令,寻求两党达成立法议案,帮助引导国内开展负责任的创新活动。

上述七家公司公布的具体承诺内容如下:

企业承诺,在发布AI系统前,先进行内部和外部的安全测试;全行业共享有关管理AI风险的信息,也对政府、民间的社会和学术界分享这些信息。

企业承诺,投资针对网络安全和内部人士威胁的防护措施,保护专有的和未发布的模型权重;推动第三方发现及报告企业AI系统的漏洞。

企业承诺,推出强大的技术机制,确保用户知道内容何时由AI生成,例如水印系统;公开报告企业AI系统的功能、局限性、适当和不当使用的领域,包括将覆盖安全风险和社会风险,例如在公平和偏见方面的影响。

企业承诺,优先研究AI系统可能带来的社会风险,包括避免有害的偏见和歧视,以及保护隐私;开发及部署先进的AI系统,帮助解决最严重的社会问题。

上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。

发布承诺后,拜登周五表示,这些承诺是切实的,将帮助AI行业履行对国人的基本义务,开发安全、可靠和值得信赖的技术,造福社会。

拜登说,这些企业的承诺将立即实行,体现了安全、保障和信任这三个基本原则,但他们的承诺只是第一步,“我们必须对(AI的)威胁保持清醒和警惕。”

拜登承诺,要采取行政行动,同时与国会合作,出台针对AI的法规。他说,新兴的技术需要一些新的法律、监管法规和监督。

白宫的幕僚长Jeff Zients同日称,这是一个不断变化的目标。不但必须执行和落实这些企业的承诺,还必须随着技术的变革,厘清下一轮的承诺。

本文来自网络,不代表本站立场,转载请注明出处:https://www.tlcement.com/a/50292.html

AI,拜登,白宫

网络知识后续将为您提供丰富、全面的关于AI,拜登,白宫内容,让您第一时间了解到关于AI,拜登,白宫的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。