全球科技新闻|人工智能大会上的23条准则

全球科技新闻|人工智能大会上的23条准则

王煜全

6小时前

人工智能大会上的23条准则

24:29 11.47MB

王煜全亲述

王煜全

今天给大家介绍今年1月4—8日在美国加州 Asilomar 召开的有关人工智能的会议,讨论如何能让公众对人工智能有更多了解,以及如何进行风险防范。
以下是干货笔记,完整内容欢迎收听音频。

一、Asilomar 生物学家会议

1、Asilomar 和转基因、重组 DNA 相关的控制原则已成为同义词

1975 年 2 月,诺贝尔化学奖(1980 年)获得者、斯坦福大学教授 Paul Berg 和其他四位教授在 Asilomar 共同发起了一个生物学家会议,探讨重组 DNA 对社会的潜在影响,并制定了 Asilomar Principle 阿希洛玛原则,对生物医学、尤其转基因的使用形成了一定限制,确定生物科技造福人类、防范潜在危害。

2、Asilomar Principle (阿希洛玛原则)

  • 所有转基因科学操作都要有风险评估;
  • 要有和风险相匹配的防范措施;

例如把携带外源性 DNA 的病毒植入哺乳动物的细胞,利用宿主细胞实现自我繁殖,这个功能看似危险,但 DNA 重组可以对病毒 DNA 做手术,只把想要表达的 DNA 转到宿主细胞;与此同时,潜在风险是很多病毒 DNA 会诱发癌症。

3、防范风险,至关重要

2008 年,Paul Berg 教授在《自然》杂志撰文指出,当年的会议是科学家事先防范风险、充分告知公众的典范,但今天如果再做类似的会议,效果会打折扣,因为今天很多生物研究已经是在商业机构里了,商业机构更难遵守原则。

二、Asilomar 人工智能会议

1、生命未来研究院

非盈利公益组织 Future of Life Institute(生命未来研究院)发起了本次人工智能会议。它由一群对未来有深入思考的人组成,创始人包括 MIT 的天体物理学家 Max Tegmark、Skype 公司的联合创始人 Jaan Tallinn、当时哈佛大学人工智能博士生 Viktoriya Krakovna(全球奥林匹克数学竞赛金牌得主,后加入 DeepMind )等,一共 5 位创始人。

Future of Life Institute 的顾问团强大,包括斯蒂芬霍金、Elon Musk 等重量级人物。

早在 2015 年就开会讨论未来人工智能的约束条件,认为确实需要一系列共同遵守的原则。

2、与会嘉宾,名流如云

参会人数不多,但基本都是全球人工智能和相关领域的顶尖专家。

演讲者包括 Yann LeCun( Facebook 首席科学家)、Ray Kurzweil (著作《奇点理论》备受争议、谷歌首席未来科学家)、AndrewMcAfee( MIT 著名教授,《和机器赛跑》、《第二次机器时代》作者)等。

台下观众包括吴恩达、Marin Soljacic(MIT 物理系教授,无线充电公司 Witricity 的发明人)等。

3、会议内容

a.推出 Asilomar AI Principle

The Future of Life Institute 希望达成共识,对人工智能未来发展保持警惕,制定一系列共同原则。

通过 5 天的会议,推出 Asilomar AI Principle(阿希洛玛的人工智能原则),共 23 条。

b.人工智能带来的威胁

Allen Institute for Artificial Intelligence 艾伦人工智能研究院(微软的联合创始人 Paul Allen 设立,专做人工智能研究)院长提出—— 人工智能对人的威胁不是天网,而是会消灭中产阶级。

会议上,大家热议当人工智能大量消灭工作以后,如何使社会顺利转型。

三、23 条准则

第一,研究的目的并不仅仅是创造智能,而应该产生造福人类的智能。

第二,研究的资助不仅要投资于开发,还要投资于相应的研究项目,才能保证人工智能研究顺利发展。

第三,科学和政策相连接,科学家和政策制定者要互相沟通、充分理解。

第四,在人工智能研究领域要鼓励合作,不鼓励产生军备竞赛,不能为了超越对手而研究。

第五,强调团队合作和协同,避免互相竞争。

第六,人工智能系统开发必须保证安全性。

第七,失败过程透明,向第三方公开人工智能失误的原因。

第八,判断透明,人要了解人工智能内部发展,从而自主决定何时接管人工智能,掌控人工智能。

第九,充分评估道德风险,要对所建立的人工智能系统全面负责。

第十,人工智能系统的价值观判断应与人类一致。

第十一,人类价值优先。

第十二,尊重个人隐私。

第十三,强调自由和隐私,数据属于人。

第十四,共享利益,人工智能应尽可能造福更多人。

第十五,共享繁荣,人工智能给经济带来的繁荣也应造福全社会。

第十六,人类控制,人工智能要被人完全掌控。

第十七,不能利用人工智能颠覆现有系统或利用人工智能转变社会行为。

第十八,禁止人工智能军备竞赛。

第十九,对人工智能未来能力要有充分的关注与评估,不能对它的潜力设限。

第二十,对人工智能要给予同等重要的关注,提供同等重要的资源。

第二十一,分配相关资源、提供相关努力,将风险置于可控范围之内。

第二十二,充分关注重复性的自我改进,防止指数级增长带来预想不到的结果。

第二十三,共同利益,人工智能(尤其超级人工智能)要符合所有人类的道德价值观,符合人类共同利益。

Asilomar 人工智能会议标志着人工智能专家已经采取行动,至于结果还需拭目以待:

  • 一方面,人工智能发展速度不似当年的生物技术,虽然认同它的未来潜力,但目前的关注点并不是人工智能能否毁灭人类,而更多的是会不会剥夺眼前工作;
  • 另一方面,原则能否被大家(尤其企业)共同遵守,值得期待。

以上是今天产业新闻的全部内容,我们要意识到人工智能会对人类带来重大影响,并且给予足够关注。

我是王煜全,您的全球科技前哨侦察兵。
今天是前沿侦察的第 254 天。

王煜全

今日思考:关于人工智能会对人类带来的重大影响以及应当共同遵守的原则,你还有哪些思考,欢迎到留言区写下你的看法。

用户留言写留言

  • 提交留言可与专栏作者互动
  • 我的留言

今天的AI准则让我想起了阿西莫夫笔下的"The Three Laws",又被称为"Asimov's Laws"。

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

翻译成中文即“三法则”

1. 机器人不得伤害人类,或袖手旁观,让一个人受到伤害。

2. 机器人必须遵守人类的命令,除非该命令与第一法则冲突。

3. 机器人必须保护自身的存在,只要这种保护不与第一或第二个法则冲突。

不得不佩服当年阿西莫夫只用短短的三条法则就概括了机器人的行为准则。今天的科学界们制定的人工智能准则也开启了一个人机共存时代的新纪元。

我向往有一天,身边能有像Intersteller里CASE那样的AI机器人,陪我探索未知的宇宙。

Leave a Reply

Your email address will not be published. Required fields are marked *