诺贝尔奖得主警告 人工智能可能导致人类灭亡


英国《卫报》12月27日报道,由于人工智能的发展速度比预期要快得多,欣顿提高了这项科技在未来30年灭绝人类的可能性。过往他对这个可能性的预测为10%。
当被问到为何会上调这个机率,欣顿指人类过往从未应对过比我们更聪明的事物。
欣顿补充道:“试想一下,你有见过较聪明物种让较愚钝物种控制的情况吗?例子非常少。我唯一能够想到的例子就是,婴儿“控制”他的母亲;人类成长的过程需要花费大量精力,因此婴儿才能够控制其母亲。
拥有多伦多大学荣誉教授头衔的欣顿表示,与强大的人工智能系统相比,人类就像婴儿一样。他指出:“我喜欢这样想,想像一下你和一个三岁的孩子。我们(在AI面前)就像那位三岁的孩子一样。”
人工智能可以广泛被定义为,能够执行一般需要人类智慧的工作的电脑系统。

据报道,欣顿去年辞去其在谷歌(Google)的职务,以便能够更公开地谈论开发人工智能所带来的潜在风险。
欣顿十分担心“坏人”会利用这项科技去伤害他人。人工智能安全专家普遍担心的一个主要问题是,当成功开发人工通用智能或比人类更聪明的系统,可能会导致该科技逃避人类的控制,对人类的生存产生威胁。
他补充道:“我们现在所处的情况是,该领域的大多数专家都认为,在未来的20年内,我们将会开发出比人类更聪明的人工智能。这是一个非常可怕的想法。”
欣顿警告,人工智能发展速度非常快,比他预想的要快得多,并呼吁政府对这项技术进行监管。
他指出:“我担心那只无形之手(invisible hand)无法保护我们的安全。因此,仅仅依靠不断追逐利润的大企业去开发这项科技并不安全,唯一能迫使这些大企业对安全进行更多研究的就是政府监管。”
报道指,欣顿是三位因其研发工作而获得图灵奖(ACM AM Turing award,相当于电脑科学领域的诺贝尔奖)的“人工智慧教父”之一。
【免责声明】
《风采》网站欢迎读者/网民留言,创造友好交流空间;唯网民留言皆不代表本网站立场。本网站有权删除任何人身攻击、鼓吹种族 宗教隔阂、诽谤造谣、网络霸凌等煽动性留言。
想要买《风采》,网购最方便!
·https://s.lazada.com.my/s.hijNk
·shopee.com.my/nanyangpressholdingsberhad
·订阅《风采》电子杂志: https://vip.sinchew.com.my/e-feminine/
·订阅《风采》纸本杂志: https://vip.sinchew.com.my/feminine/