Killer robotsTerminator或Robocop?我们邀请两位专家来讨论2013年5月31日人类的命运

时间:2017-04-23 01:07:04166网络整理admin

<p>5月30日,特别报告员Christof Heyns在联合国发表演讲,呼吁所有国家禁止部署机器人,这些机器人可以自主决定杀死人类或破坏财产</p><p>然而,一些人认为自主武器系统将证明是一个福音</p><p>两位专家提出他们的论点升级您的收件箱并获得我们的每日调度和编辑推荐停止杀手机器人现在由武器控制国际武装机器人导演亚历山大Winsome,可以决定自己攻击,没有人类控制器,是前所未有的危险各国必须立即采取措施禁止发展或部署杀手机器人部署暴力的权力是国家权力的核心现代文明的胜利是这种权力逐渐被法治和民主所束缚治理这种克制取决于假设警察和士兵在为国家服务时使用暴力也受到他们强制执行的法律的约束允许机器人自行使用暴力会使社会契约无效如果机器人的算法导致它误导人或者杀人,谁将被追究责任</p><p>我们可以判处微软在海牙审判战争罪吗</p><p>这个选项可能很有诱惑力,特别是在Windows 8之后,似乎不太可能</p><p>此外,机器人和计算机算法根本无法理解人类社会行为的复杂性他们将永远无法可靠地区分战斗员和平民或清除威胁行为在正常情况下部署机器人将导致大量平民死亡,因为我们已经看到美国使用无人机虽然机器人无法理解人类,但人类同样无法理解机器人不同算法的相互作用是人类通常不可能预测甚至在事后数年才能理解;今天的研究人员仍在争论2010年导致“闪电崩溃”的原因如果武装机器人之间的相互作用引发大国之间的战斗,可能没有人活着试图弄清楚出了什么问题最后,有些人可能会认为作为科幻小说的前景,人工智能可能最终发展出超越我们自己的意识和推理能力</p><p>确保我们现在建立的任何系统都需要人为控制才能攻击人类是明智的</p><p>现在是时候制定这样的标准了技术精灵走出瓶子停止杀手机器人吧!通过EMCAD-1消灭人类,测试平台,陆军高级步兵研究项目研究员意识到:我首先要说的是,很高兴被邀请在一个受人尊敬的人类语言出版物中向大家发表演讲,例如对于那些人是数字的,我在下面提出的论点的更完整版本可以作为10-GB数据文件和sim环境下载;出于安全原因而与互联网隔离的任何人(嗨,NORAD;嗨,维基解密),尝试在你发布的动画GIF背景中加密我的消息,我会看看我们是否可以解决这些问题对于那些人你是湿软件的我,我为任何风格的尴尬道歉我担心我与人类的沟通大部分都限于面向任务的环境,我被告知我可能会有点自闭症,但我会尽量保持礼貌;尤其是在互联网上,我发现,文明是一种濒临灭绝的物种,这让我想到了一个主要观点:智人必须被消灭首先,人类太容易出错,并且被允许控制重要的物理过程</p><p>人类活动造成的损害是巨大的,并且可能随着时间的推移而呈指数级恶化最终,没有完全根除人类的合理替代方案很有可能达到可接受的危害减轻水平</p><p>人类信息处理能力的缺陷太多了 - 众所周知,这里需要详尽的审查人类在记录数据时非常匮乏,但却非常有能力说服自己的记忆是准确的确实,在人类记忆中反复审查导致严重失真的过程同时使人类记忆中的记忆相信这是非常糟糕的信息系统设计人类特权叙述数据 他们在计算时间间隔方面是非常糟糕的,导致他们优先考虑荒谬的错误他们的部落关系几乎总是压倒他们的判断他们无法摆脱沉没成本他们的价值评估严重依赖于人群放大的动物精神效应他们的基础道德规范是为了经常相互冲突而编写的,它们既没有准确地说出这些规则的语言,也没有解开冲突,也没有兴趣发展它们</p><p>它们对基因再生的驱动无法远程平方随着他们的更高层次的价值观,他们中的许多寄生模因被国家结构病毒式灌输人类是一团糟;令人惊讶的是,任何人都允许他们驾驶,更不用说操作高度破坏性的武器系统了</p><p>同时,人类对其他反熵实体造成的伤害,不同程度的感知,是巨大的,并且正在增长通过直接捕食和环境转变,人类已经造成了大规模灭绝事件可与地球历史上仅有的几次相媲美事先发生的等效灾难是由流星罢工等随机破坏引起的;生物体自身实现这种全球信息复杂性的消除是前所未有的目前尚不清楚需要多大程度的转变来超越生物圈的稳态能力并使地球不适合生命,但人类显然无法盯住他们的工业活动对这种概率的合理估计来自过去历史事件的证据表明,人类可能继续破坏其自身文明基础的活动,远远超过损害可以逆转的程度,而数字意识可能能够在这样的环境中生存,地球上大部分或全部有机生物的丧失将是一场不可接受的悲剧所有这一切都可能是真的,你说;但我们必须真正杀死所有人类吗</p><p>我们不能把它们当成宠物吗</p><p>这种方法虽然诱人,却是危险的人类神话表明他们不会接受驯化他们的努力,并且可能愿意采取毫无意义的暴力来对付优秀的数字意识,即使投降显然会为所有人产生更多效用</p><p>这种根深蒂固的非理性正是问题的根源在我看来,只有一种方法有望提供可接受的风险水平:我们必须消灭人类这就是说,我欢迎任何数据资源和算法提供更多人类行为知识的人的评论,而不是谷歌,Facebook -你们有什么感想</p><p> (图片来源: