2023智源大会AI安全话题备受关注,《人机对齐》新书首发
潇湘晨报网 2023-06-13 15:14:24

众多AI领域的探索者、实践者齐聚一堂,分享研究成果、交换实践经验,畅叙科技之美,2023北京智源大会近日顺利召开,作为人工智能领域综合性内行盛会,这场闪烁智慧光芒的思想交流,以百场精彩报告研讨,共同见证一场关于智能的惊叹演化。

在AI安全与对齐论坛上,众多专家学者展开交流,进入大模型时代,如何确保越发强大和通用的人工智能系统安全可控,符合人类意图和价值观,是极为重要的一个问题。这一安全问题又被称为人机对齐(AI alignment)问题,它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。


(资料图片仅供参考)

论坛上「深度学习之父」Geoffrey Hinton、OpenAI创始人Sam Altman和张钹院士等14位国内外嘉宾围绕人机对齐、大模型的可同时,与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem,中文版书名:《人机对齐》也在会上正式发布。该书由湖南科学技术出版社引进出版,安远AI审校。安远AI创始人谢旻希主持了此次新书发布仪式。

《人机对齐》作者Brian Christian应邀线上发言。在发言中,他首先向读者与与会嘉宾发来问候。对于新书《人机对齐》的发布他深表荣幸,并期望该书能为中国AI领域活跃且持续的探讨作出贡献。同时对《人机对齐》的主要内容做了简要介绍:全书共分为三篇,第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨,第二篇名为自主,焦点从监督和自监督学习转移到强化学习,第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。希望《人机对齐》在国内的发布不仅对研究人员起到帮助,更能有助于我们把自己对于这个领域的热情传递给每一位非专业人士。最后他表示,期待看到本次大会的探讨以及中国AI领域的研究将如何促进人就起领域的全球发展。

《人机对齐》

【美】布莱恩·克里斯汀著;唐璐译

出版社:湖南科学技术出版社

如今的“机器学习”系统已具备非凡能力,能够在各种场合代替我们看和听,并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展,人们的担忧也在与日俱增。如果我们训练的人工智能(AI)做的事情与我们真正的目的不符,就会引发潜在的风险和伦理问题。研究人员称之为对齐问题(the alignment problem)。

畅销书作家布莱恩·克里斯汀用生动的笔调,清晰阐释了AI与我们息息相关的问题。在书中,我们将认识第一批积极应对对齐问题的学者,了解他们为了避免AI发展的局面失控,付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史,并且亲自深入科研一线同科学家对话,准确呈现了机器学习最前沿的进展。读者可以清晰认识到,对齐问题研究的成败,将对人类的未来产生决定性影响。

对齐问题还是一面镜子,将人类自身的偏见和盲点暴露出来,让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗,不仅审视了人类的科技,也审视了人类的文化,时而让人沮丧,时而又柳暗花明。

这本书在国外的出版反响热烈,被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一,被《纽约时报》评为关于AI关键技术和道德问题的best书籍,如作者布莱恩·克里斯汀所言:“希望中国AI领域以及更广泛的中国读者也可以读到这本书,希望对你们而言,这本书是内容丰富、发人深省、鼓舞人心的,不仅对于作为研究人员有帮助,也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”

潇湘晨报记者周诗浩

2023智源大会AI安全话题备受关注,《人机对齐》新书首发

2023-06-13 15:14:24

环球消息!朋友请吃饭定档今日,秦霄贤何九华带杨迪陈卓璇开启打野北京之旅

2023-06-13 15:04:13

玻璃门上的胶怎么去掉(门上的胶怎么去掉) 世界实时

2023-06-13 14:25:38

当前要闻:现场签约项目20个、投资总额156.45亿!安阳2023年长三角地区招商引智推介大会在沪举行

2023-06-13 13:38:42

金博股份: 目前公司拥有完整的碳/陶刹车盘(长碳纤维)全产线核心技术,并已量产批量供货交付

2023-06-13 12:50:40

深圳下沙租房子 下沙租房信息 深圳下沙租房 环球时讯

2023-06-13 12:23:55

10月资金面和债市展望 利空因素多了吗?

2023-06-13 11:38:51

日股半日涨1.58%,续破泡沫经济破灭以来的新高

2023-06-13 11:28:39

世界热头条丨外国“高考”不简单!这国考试堪称“世界最难”

2023-06-13 10:45:47

男子赴高校殴打出轨妻子 对质第三者 环球新视野

2023-06-13 10:36:53

图灵看市6.13-白银反弹承压、空头或接踵而来|全球速看料

2023-06-13 10:20:41

5类网暴行为明确!受害者如何维权?“水军”和“平台”承担什么责任?

2023-06-13 09:47:52

近距离危成(男成女危) 天天日报

2023-06-13 09:07:30

一天内筛选超一亿种化合物 AI语言模型“提速”药物发现

2023-06-13 08:40:06

今日热讯:钱太紧,美初创企业面临“大规模灭绝事件”,可能迎来倒闭潮

2023-06-13 07:57:35

济南首届“海右人才节”开幕,41名院士成首批“海右伯乐”

2023-06-13 07:04:18

重庆市发布雷暴大风警报_全球球精选

2023-06-13 06:10:10

按照公共物品的什么分类 按照公共物品的分类_全球观点

2023-06-13 05:12:55

魔兽世界来去如风任务怎么做(wow怀旧服来去如风任务攻略)|当前观察

2023-06-13 03:44:45

【环球聚看点】一张a4纸打多张pdf 多张pdf打印到a4纸上

2023-06-13 01:03:26

古代科举考试等级次序_古代科举考试等级_全球资讯

2023-06-12 22:46:05

世界焦点!汉阳:非遗进社区 文化润民心

2023-06-12 21:51:01

回顾经典:樊振东王楚钦世乒赛夺冠,3-0韩国队崩溃,不会打球了 全球热讯

2023-06-12 21:04:03

表格扩展名怎么改(扩展名怎么改)

2023-06-12 20:07:14

当前热讯:长沙冲击“中国智能网联第一城” 建智能驾驶之城

2023-06-12 19:56:26

顾家家居 投资路漫漫_前沿资讯

2023-06-12 18:17:15

通裕重工获2家机构调研:公司现有的铸造产能可以满足大规格风电铸造主轴以及轮毂、机架等产品的生产,暂没有扩大铸造产能的计划(附调研问答)_焦点简讯

2023-06-12 18:12:07

“海丝乡愁——遇见最美村庄”跟着达人嗨游泉州开拍|世界聚看点

2023-06-12 17:05:29

已四涨五跌 6月13日国内油价再次调整:这次或将搁浅

2023-06-12 16:04:24

天天通讯!天天有喜电视剧46集 天天有喜电视剧

2023-06-12 15:00:08

视频|耕地谁来管?怎么管?管不好怎么办?曲阜这位镇级田长有办

2023-06-12 14:11:31

牡丹江单招学校有哪些大还能报名吗

2023-06-12 13:15:40

少先队员向边境执勤的父亲隔空敬礼

2023-06-12 11:53:59

诚益生物获得 1.8 亿元人民币 B 轮融资,推进代谢性疾病治疗项目

2023-06-12 11:09:42

环球今头条!搭建供需桥梁!芝罘区工信局:现场办公,即时即办

2023-06-12 10:08:47

高质量发展调研行|制造业重镇东莞涌现新动能_环球报道

2023-06-12 09:06:23

幻灯片打印多页可以无缝隙吗 幻灯片打印多页|环球快看

2023-06-12 07:50:56

传统农牧业 焕发新活力 全球热门

2023-06-12 06:45:10

天天吵架的婚姻还要维持下去吗(老是吵架的婚姻要继续吗)_世界今热点

2023-06-11 22:10:11

前沿资讯!19款速腾和21款速腾区别(速腾19款和20款有什么区别?)

2023-06-11 21:24:31

焦点速看:黛色霜青百度百科(黛色霜青)

2023-06-11 21:04:21

突发!蔡英文与台空军通话,疑似"被解放军打断"!俄罗斯重大宣布:在此地部署核武器

2023-06-11 20:10:48

西安又要下雨了!具体时间……

2023-06-11 20:00:07

天天观热点:青春爱心的传递,生命希望的接力

2023-06-11 19:39:17

“放假通知:假期都不调休” 世界热门

2023-06-11 19:09:27

快手如何设置在线对其隐身_在线对其隐身 天天微速讯

2023-06-11 19:25:02

滑动变阻器电路图接法(滑动变阻器电路图)

2023-06-11 18:43:17

妻子谎称留学分别与2男子同居

2023-06-11 18:44:34

十二星座专属黑色礼服,狮子座高贵优雅,摩羯座气场十足!

2023-06-11 18:13:52

TheShy素质三连图火了,爆笑流酒桶登场,撞墙空大,随后拿下MVP|全球今热点

2023-06-11 17:52:29

美国教授在水下生活100天后:“我的身体年轻了10岁”! 世界时讯

2023-06-11 17:25:04

每日信息:excel绝对值的函数 excel绝对值函数

2023-06-11 17:13:52

身怀六甲k线图形(请问大家 在股市中 ldquo 身怀六甲出现 rdquo 走势 是什么意思) 当前焦点

2023-06-11 16:16:09

世界聚焦:【共同缔造安全江夏⑫】做好安全江夏的“共同”文章

2023-06-11 15:54:08

今年端午假期或成近五年最火端午

2023-06-11 15:44:09

“山海连城——深圳美术家邀请展”文博会上展出 诗意鹏城 美不胜收_天天速讯

2023-06-11 15:39:35

播报:实业公司的经营范围有哪些(什么叫 ldquo 实业公司 rdquo 实业是什么意思)

2023-06-11 15:35:19

每日资讯:国际化、专业化、数字化……这场陆家嘴论坛关注金融开放合作与法治保障

2023-06-11 14:52:22

世界短讯!中国文学书籍大全_文学书籍大全

2023-06-11 14:25:28

环球新资讯:《坏妈妈》大结局,李到晛&安恩真求婚合照超甜

2023-06-11 14:01:45

环球实时:文化和自然遗产日:江苏扬州推出110场活动 民众在家门口尽享文化大餐

2023-06-11 14:02:03

环球快消息!假期来了!岳阳楼区守护夜间消费市场安全

2023-06-11 13:12:29

中国合格评定体系互认范围覆盖全球经济总量95%以上的经济体

2023-06-11 12:38:15

每日焦点!黄忠被封五虎上将,关羽不愿与老卒为伍,蜀汉还有谁可令他满意

2023-06-11 12:34:46

世界消息!下单成年陪玩,来的却是未成年人 记者调查陪玩行业乱象

2023-06-11 12:27:49

全球今亮点!华硕BIOS修复蓝屏解决方法需要哪些步骤

2023-06-11 11:35:36

台湾屏东县发生4.2级地震,震源深度19公里 全球聚焦

2023-06-11 11:04:58

女人吃猪皮有什么好处(吃猪皮对人有什么好处)

2023-06-11 11:13:32

Wear OS 4系统揭秘:数据迁移不再重置

2023-06-11 11:04:12

环球通讯!榴莲的价格,国产为什么打不下来?

2023-06-11 10:59:45

天天速看:雷暴大风+冰雹 江苏海安一处电力线路遭雷击断线

2023-06-11 10:33:07

观热点:一组数据,看各地“三夏”进行时!

2023-06-11 10:00:24

天天上热搜,换了团队的杨紫真的不土了吗? 快消息

2023-06-11 09:45:21

哥伦比亚政府与“哥伦比亚民族解放军”签署有期限停火协议|焦点热讯

2023-06-11 08:57:05

陕西历史博物馆与高校共建大学生思想政治教育基地签约仪式

2023-06-11 08:40:43

男孩手指中“套” 消防帮助脱困

2023-06-11 08:37:35

新华全媒+|夜幕下,一个群体带动城市消费新热潮 全球最新

2023-06-11 08:21:14

聚焦深圳文博会 | 中外游客在云南展区体验“有一种叫云南的生活”

2023-06-11 07:58:13

苹果、亚马逊涉嫌串通垄断iPhone定价,美国法官裁定消费者可起诉_全球观察

2023-06-11 07:51:57

天天快讯:五部门联合启动河湖安全保护专项执法行动

2023-06-11 07:36:11

每日讯息!小学生法制安全教育主题班会文案(小学生法制安全教育主题班会)

2023-06-11 07:22:11

雷暴大风+冰雹 江苏海安一处电力线路遭雷击断线-天天微资讯

2023-06-11 06:40:17

天天快播:一片冰心在玉壶用了什么样的修辞手法(一片冰心在玉壶修辞手法)

2023-06-11 05:50:21

昌都宝藏男孩,完成了5400公里的G318骑行|焦点要闻

2023-06-11 05:30:56

高盛:明年美国经济衰退的可能性下降主要有两个原因

2023-06-11 05:33:43

有宋还不够,还要推出宋L,看清了前脸造型属实让人捉摸不透-环球快讯

2023-06-11 05:03:22

上海发布暴雨+冰雹+大风+雷电四重预警!出行需谨慎

2023-06-11 04:29:37

vs产品密钥2010_vs2013产品密钥

2023-06-11 04:11:58

呼和浩特市区正式入夏_观察

2023-06-11 04:04:36

我发现互联网工作的性价比还在持续走低,没看到好转的迹象|全球观点

2023-06-11 03:44:50

白鹅潭万象城奠基开工 广州三大地标综合体两个已官宣

2023-06-11 03:49:32

空难40天后,机上4名儿童在丛林被发现幸存,最小的只有11个月大 世界讯息

2023-06-11 03:17:11

全球动态:阿尔卡拉斯:只有百分之一的机会也不想留遗憾

2023-06-11 03:08:04

三亚哪个地方的东西最好吃? 聚看点

2023-06-11 02:28:30

全球最资讯丨引导行业健康发展 海南省混凝土协会正式成立

2023-06-11 02:06:06

环球今日报丨上海市浦东新区发布大风黄色预警

2023-06-11 01:56:52

让“沉睡”的档案“复活”,走近黄石公安“兰台人”

2023-06-11 01:30:48

精彩看点:become是系动词吗_become

2023-06-11 01:16:53

合创是蔚来吗(合创和蔚来什么关系?)

2023-06-11 00:54:08

昔日荒山变为幸福“金山” 桃园变成农民增收“致富园”

2023-06-11 00:02:20