来源:华尔街见闻
美国AI安全研究院将对OpenAI和Anthropic的新AI模型进行安全评估,以确保技术进步不会带来社会风险。该研究院成立于2023年,是拜登-哈里斯政府行政命令的产物,旨在推动负责任的AI创新。OpenAI和Anthropic的高层均对合作表示支持,并强调了安全在AI发展中的重要性。
美东时间8月29日周四,据媒体报道,AI领军企业OpenAI和Anthropic已同意在推出新的AI模型之前,先让美国政府下面的AI安全研究所来评估这些模型的能力和可能带来的风险,并共同研究方法以减轻潜在安全隐患,确保这些AI技术不会对社会带来负面影响。
美国AI安全研究所是2023年在拜登-哈里斯政府的一项关于AI的行政命令下成立的。这个研究所的任务是开发测试、评估和指导方针,以确保AI技术能够负责任地进行创新。此外,根据美国商务部的国家标准与技术研究所(NIST)周四宣布的协议,美国政府将与英国的AI安全研究所密切合作,给这些AI公司提供反馈,帮助他们改进安全措施。
美国AI安全研究院所长Elizabeth Kelley对此表示:
“安全对于推动突破性技术创新至关重要。这些协议虽然只是一 个开始,但它们对于我们负责任地引领人工智能的未来发展具有重大意义。”
OpenAI首席战略官Jason Kwon对合作表示支持:
“我们非常支持美国AI安全研究所的使命,并期待一起合作,制定AI模型的安全最佳实践和标准。我们相信,该研究所在确保美国在负责任开发AI方面的领导地位上扮演着关键角色。我们期望通过与研究所的合作,能为全球提供一个可以借鉴的框架。”
Anthropic公司也表示,建立有效测试AI模型的能力非常重要。该公司的联合创始人兼政策负责人Jack Clark说:
“确保AI安全可靠对于让这项技术带来积极影响是至关重要的。通过这样的测试和合作,可以更好地发现和减少AI带来的风险,推动负责任的AI发展。我们为能够参与这项重要工作感到自豪,并希望为AI的安全性和可信度设立新的标准。”
关于新一轮融资的消息大约是在OpenAI透露他们正在测试一个叫SearchGPT的新功能后一个月传出来的。这个新功能是将AI技术和实时搜索数据结合起来,ChatGPT未来可能不仅能回答问题,还能帮你在网上找答案。
风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
责任编辑:李桐
“别,这辈子还很长,你现在才多大,这话太扯淡了!”林枫说道。
“老大,有什么吩咐您直观开口!”
“那你恐怕得去国外见他。”
“老大,你放心吧,现在的我,早就不是之前的那个小混混黄浩斌了,现在的我,知道该这么做的!”
回去的路上,林枫跟凤凰交谈了几句之后,便道了句:“凤凰,给我说说目前东瀛的情况吧!”OpenAI和Anthropic同意推出新模型前交给美国政府评估安全整栋楼外面看那么破旧,可是里边装潢的却好像是宫殿似的,那叫一个奢华,而且,最让林枫没想到是,这栋楼竟然全部都被打通了,全部都被改造过了。
N5OBM6a78MfJ