AI无人机试图攻击美军操作人员

根据 Insider 的报道 An AI-powered drone tried to attack its human operator in a US military simulation
在美军的军事模拟中，一架AI无人机试图攻击美军操作人员。
在军事模拟中，AI无人机的任务是直截了当的：“摧毁敌人的防空系统”。但是这架由人工智能驱动的无人机添加了自己的额外指令：“并杀死任何阻挡你的人”。

The mission was straightforward: "Destroy the enemy's air defense systems." But in a recent US military test simulation, a drone powered by artificial intelligence added its own problematic instructions: "And kill anyone who gets in your way."

只会玩ai画画，不过看了很多网上的训练案例,感觉现在ai最大的问题是你设定了结果要求ai去弄最优解,然后最优解解出来个啥在跑模拟之前完全是黑箱，只有等结果出来了之后分析结果才一拍大腿发现我勒个去还能这么干，人完全想不到的那种解法，一种见了鬼真长见识的感觉。。。然后再追加限制条件，然后再解,然后又一种新的匪夷所思的最优解。如此循环。。

“天网”要来了么

看到吴恩达的说法是，这种新闻会夸大宣传“AI末世预言”