美国白宫:英伟达等八家公司自愿承诺管理AI风险,包括展开安全测试、添加数字水印等
gangqin @ 2023年09月13日 财经风云
美国白宫:英伟达等八家公司自愿承诺管理AI风险,包括展开安全测试、添加数字水印等 葛佳明 Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险,白宫称,承诺只是一部分,将继续寻求同国会合作出台针对AI的法规。 "安全和负责"已成为AI发展中至关重要的话题,美国政府继续"督促"AI巨头们管控AI或为人类社会带来的风险。 9月12日,美国白宫发布声明称,当日,美国商务部长雷蒙多等政府高官将在白宫召集AI行业高管,宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺,采取自愿监管措施管理AI技术开发风险,包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。 声明指出,这8家公司选择做出承诺,来强调人工智能未来的三个基本原则——安全、保障和信任,标志着他们朝开发负责任的人工智能系统迈出了关键一步。 白宫称,承诺仅为政府制定AI风险管理办法的一部分,政府将采取行政行动,并同国会合作出台针对AI的法规。帮助引导AI负责任的发展。 具体来看,白宫在声明中指出,如今,这八家领先的人工智能公司承诺: 确保AI产品在发布之前是安全的 公司承诺在发布AI系统前进行内部和外部的安全测试。测试部分由独立专家进行,以防范存在的重大AI风险,如生物安全和网络安全,以及其更广泛的社会影响。 公司承诺与行业内外以及政府、社会和学术界分享管理AI风险的信息,包括:保障安全的最佳实践方法、试图规避保障措施的信息以及技术合作。 构建把安全放在首位的系统 公司承诺投资于网络安全和内部威胁保障措施,以保护专有和未发布的模型权重。这些模型的权重是AI系统最重要的部分。公司一致认为,只有在认真考虑到安全风险的情况下,才能发布模型权重,这一点至关重要。 公司承诺推进第三方发现和报告其AI系统存在的漏洞。有些问题可能在AI系统发布后仍然存在,而一个强大的报告机制能使这些问题被迅速发现并修复。 赢得公众的信任 公司承诺开发出强大的技术,确保用户知道内容是人工智能生成的,例如添加数字水印。这一行动既能充分发挥人工智能的创造力和生产力,又能减少网络诈骗的危险。 公司承诺公开报告其AI系统的能力、限制以及适用和不适用的领域。报告将涵盖AI系统的安全风险和社会风险,如公平公正性以及偏见的影响。 公司承诺优先研究AI系统可能带来的社会风险,包括避免极端的偏见和歧视,并保护用户隐私。AI的历史记录可以看出这些危险的潜在规模和普及程度,这些公司承诺推出可以减轻这些危险的AI。 公司承诺开发和部署先进的AI系统,以帮助解决社会面临的最大挑战。从癌症到减缓气候变化,以及许多其他领域,如果AI风险得到管理,AI可以为所有人做出巨大贡献。 今年4月,在呼吁暂停开发AI模型的公开信引发轩然大波后,美国AI领先企业将齐聚,共同商议并制定AI相关安全协议。 今年5月,白宫与OpenAI、谷歌、微软等公司的首席执行官会面,探讨相关技术的风险。白宫还表示,七家最大的AI公司已经同意在8月份的年度Def Con极客大会上开放模型,接受一定程度的公众监督。 7月,在白宫"指示"下,美国人工智能(AI)巨头 "自我管控"的条例浮出水面。白宫宣布,拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺,管控AI带来的风险。他们承诺,将帮助推动AI技术安全且透明地发展。 拜登曾指出,这些企业的承诺将立即实行,体现了安全、保障和信任这三个基本原则,但他们的承诺只是第一步,"我们必须对(AI的)威胁保持清醒和警惕。" 拜登承诺,要采取行政行动,同时与国会合作,出台针对AI的法规。他说,新兴的技术需要一些新的法律、监管法规和监督。 风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
|
推荐内容
- 淘宝拟全面接入微信支付!
- 更难控制通胀!一旦利率接近3%,欧央行降息将更棘..
- 加密货币闪崩!7.5万投资者血本无归..
- 42种商品27个在跌,铁矿石跌破95美元,全球大宗商..
- 美元在关键位置,迎来季节性上涨的9月..
- 美联储褐皮书:经济活动持平或下降地区增至9个,..
- 桥水(中国),狂卖A股黄金ETF!
- 连续第三次降息!加拿大央行将政策利率下调25基点..
- 中国消费何时能回升?
- A股头条:15天14板妖股紧急公告,存在情绪过热风..
- 俞敏洪卸任!新东方文旅业务何去从?..
- 日本央行行长重申:经济环境仍然宽松,若数据符合..
- 7月通胀突破4%!匈牙利央行成为首个因通胀突然加..
- 高盛交易员谈市场焦点:AI、美国消费、降息……怎..
- 美国8月ISM制造业47.2不及预期,较7月改善,就业..
热点阅读
- 中东土豪开始减仓A股了?有哪些调仓动作?其他境..
- 重庆调整商品房限售规则 将加快存量房去化速度..
- 政策等风来还要多久?
- 地方国资场内买入美股ETF,四年大赚99%..
- 国际金价上涨逻辑,你看清了吗?
- 若存量房贷降息,潜在空间几何?
- 周末要闻汇总:A股上市公司中期分红创历史新高,..
- 美银“大转向”:看多商品、看空美债,关键在下周..
- 黄金,有“9月魔咒”
- 9月决议前最后一次非农,25还是50基点降息?就看..
- 中信证券:有哪些政策在路上?
- 因美国劳动节假期 9月2日美股休市一日..
- 下周重磅日程:美国8月非农、ISM制造业指数决定全..
- 8月PMI的最显著特征:价格的大幅回落..
- 环球下周看点:聚集美国8月非农报告 科技股能否重..