硅酸铝厂家
免费服务热线

Free service

hotline

010-00000000
硅酸铝厂家
热门搜索:
技术资讯
当前位置:首页 > 技术资讯

FT社评杀手机器人将是人类噩梦

发布时间:2020-06-29 18:48:32 阅读: 来源:硅酸铝厂家

人类是一个嗜血的物种。根据学者史蒂文-平克(Steven Pinker)的说法,在历史的大部分时间里,被同类所杀是人类的头号死因。文明基本上是人的暴力本能被逐渐束缚住的故事。其中一个部分是有血有肉的人持续从战场撤出,前线逐渐被远程武器和空中军事力量拉远,公众对于伤亡的容忍程度也下降了。

可以说,美国的主要进攻武器是无人机,操纵者安坐于千里之外对目标进行打击。考虑到技术进步之快,无需脑洞大开,我们就能预见到机器将可完全代替人类进行杀戮。在迄今仍被视为人类专属的活动领域里,人工大脑已有良好表现。电脑将被交托驾驶汽车或者诊断疾病的任务。因此,在做出杀戮的决策上,算法智能或许也将超越人类智能。

这种可能性,促使1000多名人工智能专家在一封公开信中呼吁立即停止发展“致命自动武器系统”。他们敦促称,现在就行动,否则被他们不可避免地称为“杀手机器人”的武器将和卡拉什尼科夫步枪(Kalashnikov,即AK-47)一样广为流传并造成同样致命的危害。

军方对机器人战争的热衷很容易理解。士兵是宝贵的、成本高昂的,也是会犯错误的。本可避免的人为失误在每一场战斗中都造成了严重伤亡。相较之下,机器既不知疲倦,也不会失去耐心。它们可以被送往不安全甚至普通士兵无法到达的地方。计算能力的迅速提升正赋予机器“更柔软”的技能,比如识别一个有血有肉的单独目标。最终,事实可能将证明机器人会比最有经验的士兵更安全,比如能够从一群孩子中挑出枪手——然后射杀他。

反对机器人战争的理由与反对所有武器进步的理由相同——避免大量无辜受到伤害这种不可预知的后果。无论采取了什么预防措施,都没有万无一失的方法来阻止武器落入不法之徒的手中。要想一窥那种情况下会有什么后果,可以回忆一下美国汽车制造商克莱斯勒(Chrysler)在发现汽车可以被远程入侵后,需要检测和排除140万辆汽车隐患的事情。现在,想象一下这些车装备了枪支。

技术未来主义者也担忧人工智能异常快速的发展。科学家斯蒂芬-霍金(Stephen Hawking)最近提醒人们警惕人工智能远超人类智能后可能发生的“科技大灾难”。这到底是绝对无法避免的事情,还是只是幻想,科学本身无法确定:但考虑到其中的风险,给超级智能装备武器能有多明智呢?

道德方面的理由更为直接。在减少杀人方面,对杀戮的厌恶是个重要因素,其作用不亚于任何技术突破。将人工智能插入这条因果链,将弄混杀人决定背后的责任。没有明确的责任,不仅发动战争的手段得到加强,发动战争的意愿也可能上升。

让武器消失是不可能的:想一想杀伤性地雷——一种自动运行的武器——现在依然每年造成1.5万到2万人丧生。人工智能的性质使人们无法预见自动武器发展的终点在哪里。不管进行多少精密的编程,也无法限制其后果。最好不要踏上这样的旅程。

(责任编辑:HT002)

翻墙回国教程

华人如何看内地视频

华人海外看国内视频