花粉乐分享平台宣传视频
> 乐学堂 > > OpenAI创始人呼吁全球合作应对人工智能风险
OpenAI创始人呼吁全球合作应对人工智能风险
来源:环球网
2023-08-19 21:19:34
363
管理

来源:环球时报-环球网

【环球时报-环球网报道 记者 赵觉珵】“减轻人工智能带来的人类灭绝风险,应该与大流行病和核战争等其他影响社会的大规模风险一同成为全球性的优先事项。”今年5月30日,国际人工智能(AI)领域非营利组织“人工智能安全中心”发布的公开信提醒国际社会重视AI带来的一系列重要且紧迫的风险。被称为“ChatGPT之父”的OpenAI创始人兼CEO萨姆·奥特曼也签署了上述公开信,他在本月10日举行的一场论坛上呼吁,通过国际合作为AI系统的安全开发建立规范和标准,并为所有国家使用通用人工智能(AGI)设置平等、统一的护栏。奥特曼还表示,他期待中国的AI研究者能够在其中做出重要贡献。

当前由ChatGPT引发的新一轮AI热潮正在席卷全球,人们对AI能够带来的生产力提升抱有期待,但也越发认识到其可能带来的巨大风险。奥特曼10日在2023北京智源大会期间发表视频演讲表示,未来十年,人们很可能会拥有非常强大的AI系统,“人工智能革命将创造共同财富,并有可能显着提高每个人的生活水平,但我们必须共同管理风险才能实现这一目标。”

针对AI可能带来的问题,奥特曼举例称:旨在改善公共卫生的AI系统可能会通过提供毫无根据的建议来破坏整个医疗保健系统。同样,由于缺乏对影响粮食生产和环境平衡的可持续性考虑,旨在优化农业措施的AI系统可能会无意中耗尽自然资源或破坏生态系统。“我希望我们都能同意,推进AGI安全是我们需要共同关注的最重要领域之一……AI是一项具有世界影响的全球技术,不计后果地开发和部署造成的事故后果将影响到我们所有人。”

奥特曼认为,保证AGI术的安全需要国际合作与协调。首先,需要在具备包容性的过程中建立国际规范和标准,并为所有国家使用AGI设置平等、统一的护栏。其次,需要通过国际合作,以可验证的方式建立全球对AI系统安全开发的信任机制。“千里之行,始于足下”,奥特曼援引《道德经》的话表示,最具建设性的第一步是国际科技界的合作,各方应该推动提升在安全技术进步方面的透明度和知识共享。

奥特曼也承认,大国之间有时可能会有分歧,但历史上,即使是最困难的时期,全球大国也找到了在重要议题上开展合作的方法,而大多数此类合作都为关键医学和科学进步做出了贡献,例如根除脊髓灰质炎和天花等疾病。如今,随着AI技术的发展,任何偏差的潜在影响和严重程度都将呈指数级增长,人们现在要解决这些挑战,努力让AI系统在未来发生灾难性后果的风险降至最低。

奥特曼表示,保证AI的安全和有益不仅是一个技术问题,这还需要了解不同国家的用户偏好。中国拥有一些世界上最优秀的AI人才,“我希望中国的AI研究人员在解决AI系统对齐难题上做出重要贡献。”

“我们看到中美和世界各地的研究人员为实现共同目标而携手努力的巨大潜力”,奥特曼说,如果能够这样做,他相信人们能够利用AI解决世界上最重要的问题,并显着改善人类的生活质量。

花粉社群VIP加油站

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与花粉乐分享无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非花粉乐分享)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@hflfx.com
关于作者
小丸子(小蜜蜂)
文章
557
主题
0
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行
随手拍
54个圈友 0个话题
华为手机随手拍,记录生活点滴之美好
华为P30pro
51个圈友 0个话题
这里是华为P30pro手机交流圈,欢迎华为P30pro用户进群交流
体验官
60个圈友 2个话题
华为花粉体验官,体验官专属的交流群
登录后查看您创建的圈子
登录后查看您创建的圈子
所有圈子
猜你喜欢
杭州互联网违法和不良信息举报平台 网络110报警服务 浙ICP备17046585号
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索