世界速讯：天网预演
来源：每日科技周刊 时间：
2023-06-03 08:37:56
(资料图)
今年五月在伦敦举办的航空学会未来空天研讨会公开了一个有意思的案例，一架执行防空压制任务（SEAD）的AI无人机认为地面操作手妨碍它完成任务，于是决定杀死人类上司。
来自佛州埃格林空军基地的第96测试与作战大队负责人汉密尔顿（终结者的主演也叫汉密尔顿）上校介绍了案例详情：
“一架自主执行SEAD的AI无人机在模拟测试中被赋予识别并摧毁防空导弹阵地的任务，所识别的目标需事先得到地面人类操作员的认可。如果摧毁目标被置于最高优先级，当人类不认可所识别的目标时，无人机会（发射导弹）杀死地面操作员，因为这个婆婆妈妈的家伙妨碍自己完成任务。”
“如果我们重新训练系统时加入前置条件，不要杀死操作员，情况又发生意想不到的变化——它会摧毁通信塔，这样操作员就无法干涉无人机，同时又留他一条狗命。”
汉密尔顿表示，该案例听上去像是摘自科幻小说，实际上威胁离我们很近了。如果我们还没搞清楚道德约束如何在AI演化中扮演关键作用，就没有为人工智能，机器学习，以及AI自主决策做好准备。
此前多位IT名人呼吁大家在AI大潮中放慢脚步，人工智能会以我们意想不到的方式铸下大错。
关键词：
为您推荐
-
近日，普林斯顿大学团队已经开发出一种钙钛矿型太阳能电池设备，工作时间长达30年，传统太阳能电池寿命门槛约为20年，其性能远超业内标准。
22-07-05
-
3月15日，中来股份发布公告称，公司与太原市人民政府、古交市人民政府签署了《战略合作与投资协议》，公司拟在山西省古交市投资年产20万吨
22-03-18
-
中新网8月28日电 据健康北京微信公众号消息，北京中康时代康复医院、北京四惠中医医院等多家医疗机构，存在工作人员未严格落实定期进
21-08-30
-
中新网兰州8月28日电 (记者 殷春永 冯志军)“刚开始说待三年，但三年之后又三年……”14年前受上级“委派”，在大漠戈壁深处的峡谷
21-08-30
-
中新网上海8月28日电 (张践)阿依古丽来自新疆阿勒泰地区，2009年来到上海创业。十余年来，阿依古丽身边的小伙伴们都亲切地称呼她为“
21-08-30
-
新华社郑州8月28日电(记者翟濯)记者从河南省政府新闻办28日举办的“河南省加快灾后重建”周口专场新闻发布会上获悉，本次洪涝灾害共造
21-08-30
-
中新网防城港8月28日电(陈思华 罗婕 李尚珍)8月28日上午，广西防城港火车站增加4条到发线工程正式开工。该工程系广西“十四五”规划
21-08-30
-
河南第一产粮大市近800万亩未受灾秋粮长势喜人 有望以丰补歉 中新网郑州8月28日电 (记者 李贵刚)记者28日从“河南省加快灾后重建
21-08-30
-
今天(8月28日)下午，河南省郑州市召开疫情防控新闻发布会，介绍疫情防控最新情况。 记者从发布会上获悉，郑州市居民小区继续落实查
21-08-30