美媒:OpenAI发布新安全指南 赋予董事会否决权

来源: 南风窗
2024-06-12 04:10:25

律师解读吴亦凡一审判决书,如何执行?怎么服刑?日本体内she精2汇谝最新章节,

  中新网12月19日电 据彭博社报道,当地时间18日,美国人工智能公司OpenAI在其网站上公布一项安全指南,加强其内部安全流程,并赋予董事会对高风险人工智能的否决权。

  据报道,当天,OpenAI发表一系列安全指南,阐释公司计划如何应对最强大人工智能(AI)系统可能引起的极端风险。

  在该指南下,OpenAI只会在确定最新技术的安全性之后才会开始运用。公司将成立一个顾问团队以审核安全报告,再转交公司高层和董事局。虽然公司领导负责做决策,董事局可推翻决定。

  具体来说,公司检查的是定义为:能造成上亿美元经济损失,或导致许多个人受伤 害或死亡的“灾难性”风险。

  “AI本身没有好坏,我们正在塑造它。”领导“备灾小组”的亚历山大·马德里表示,他的团队会每月提交报告给内部新成立的安全顾问团队,再由阿尔特曼与公司董事会判断分析团队所提交的建议。

  马德里希望,其他公司能利用OpenAI的指引,来评估旗下AI模型的潜在风险。

发布于:
声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有