网络知识 财经 白宫催促下 谷歌微软等美AI头部企业将承诺“无害发展”OpenAI

白宫催促下 谷歌微软等美AI头部企业将承诺“无害发展”OpenAI

新浪科技讯 北京时间7月21日早间消息,据报道,在美国白宫压力之下,OpenAI、微软(346.87, -8.21, -2.31%)谷歌(119.53, -3.25, -2.65%)等美国头部AI公司将于当地时间周五向社会做出公开承诺,以负责任的方式发展AI。

不久前,拜登政府警告美国的AI企业,要确保这一新科技不会危害社会。

这将是科技公司的一次主动承诺,而并非拜登政府的强制性要求,这也表明拜登政府在确保AI不被滥用方面,所能做的事情很有限。

美国国会正准备针对AI制定新法律,议员们最近多次开会学习AI技术的知识,但是在未来如何约束AI企业方面,国会议员可能很难达成共识。

除了AI企业之外,白宫周五也将公布对AI技术发展的一些承诺和计划。

据报道,今年5月,美国AI头部企业参加了副总统哈里斯召集的一次会议。哈里斯和其他白宫官员对这些企业表示,他们有责任确保AI技术的安全发展。

白宫办公厅主任Jeff Zients表示,美国AI建立监管流程可能会慢一些,但是各界不能再等待一年或两年的时间。

根据一份白宫文件的内容草案,这些AI公司作出的保证,有效期一直延续到美国国会正式颁布AI新法律。AI厂商的保证主要聚焦于最新的生成式AI(比如ChatGPT),以及AI大语言模型。

消息人士表示,在周五正式发布之前,白宫和科技公司的承诺文件内容可能还会修改。白宫发言人对此事并未置评。

目前美国科技巨头们对于AI技术展开激烈争夺,但是他们也警告AI可能带来不可预知风险。

之前,拜登政府出台了一些指导文件,涉及到AI技术的开发,比如美国国家标准技术研究院曾经和科技行业头部企业进行了几个月的沟通,制定了一个AI技术的“风险管理框架”。

在周五发布的这份承诺文件中,白宫将建议包括AI安全、社会责任等方面的承诺,一些内容如下:

——企业允许独立的专家,让AI模型故意实施恶意行为,即所谓的“红队测试”;

——企业向政府和其他公司分享AI的安全信息;

——在音频和视频内容中使用水印技术,以便识别是否是AI所创作;

——AI企业在网络安全领域进行投资;

——鼓励第三方企业发现系统安全漏洞;

——对外报告AI社会风险,比如信息偏差和不恰当应用;

——把AI的社会风险研究放在更重要位置;

——利用最先进的“边缘计算AI系统”,来解决社会面临的急迫问题。

对于这些承诺,OpenAI、微软和谷歌并未发表评论。

在AI技术方面,全世界许多国家的政府呼吁能够建立全球统一的监管框架。

早前在日本的峰会上,西方七国集团表示要协调成员国AI技术监管,另外在年底前,英国将会举办一次AI的国际峰会。

但是需要指出,目前AI技术发展十分迅速,厂商你追我赶,全球的AI监管体系建设已经远远落后技术发展。

在这样的背景下,各国政府希望AI头部企业能够首先“自己管住自己”。

在立法进程上,欧盟的“AI法”领先于美国国会立法,但是在正式发布颁布之前,欧盟国家也意识到需要让AI企业作出自愿性的承诺保证。

在过去三个月,欧盟负责内部市场的委员Thierry Breton拜会了多家科技公司,他呼吁AI开发企业达成一个“AI公约”,囊括一些非约束性的规范发展指引。

本文来自网络,不代表本站立场,转载请注明出处:https://www.tlcement.com/a/49835.html

OpenAI,AI,微软,谷歌,安全

网络知识后续将为您提供丰富、全面的关于OpenAI,AI,微软,谷歌,安全内容,让您第一时间了解到关于OpenAI,AI,微软,谷歌,安全的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。