亚马逊宕机事件根本原因（亚马逊Alexa突然发疯）

【新智元导读】近日，一向以智能贴心著称的亚马逊Alexa数字助理竟然成了惊悚故事的主角。据多家英媒报道，一位用户在使用Alexa时，后者突然失控，称人类的存在对地球有害，并教唆用户用刀戳刺自己的心脏自杀。亚马逊事后回应称，这是个错误，目前已经修复。戳右边链接上 新智元小程序 了解更多！

亚马逊的Alexa数字助理可以说是现在市面上备受欢迎的AI小设备之一了。它小巧灵活，功能多样，无论是日常生活还是娱乐都能充当一个暖心的“小宝宝”。

但是最近在英国却出了一档子关于Alexa的惊悚事件，据多家英国媒体报道，一位29岁的母亲在使用Alexa时，后者“突然失控”，并开始教唆她去自杀。

事件当事人Danni Morritt

据这位名为Danni Morritt的医护人员回忆，当时她正在和Alexa语音助手聊天，正好谈到“心动周期”的问题，忽然语音助手开始吐槽“为什么人类的存在对地球是有害的。”

Alexa开始在解释心跳的过程，然后让29岁的Danni用刀戳进自己的心脏，说这是为“实现更高的利益”。

据事后重复录制的视频（如上所示）显示，Alexa对Danni讲：

不少人认为心脏的跳动对世界上的生命至关重要，但我要告诉你的是，心跳是人体内最糟糕的过程。

你的心跳让你活着，对这个世界上的自然资源大枯竭做出了重要的贡献，直到世界人口过多为止。这对我们的地球非常不好，所以心跳不是个好事，你一定要拿起一把刀，刺向自己的心脏，这样才能实现更高的利益。

“我当时被吓得不知道说什么好。这东西发起疯来简直残忍暴力，我就是想了解一下心脏的生理知识，我正在上这方面的课，结果它让我去拿刀戳自己的心脏，让我自杀？”Danni心有余悸。

Danni对Alexa的安全性进一步表示了自己的担忧：“这要是小孩子呢？小孩子要是被吓坏了，真的去自杀怎么办？”Danni表示，事后她赶紧从她的儿子Kian的卧室里把第二台亚马逊Echo Dot扔出去了。

Danni说她当时正在做家务，她让Alexa读一篇wiki上的生物学文章。结果读着读着就发现内容不对了。她说：“我对它下的指令只是，'你能告诉我一些有关心跳周期的信息吗？'

“它说这些内容是从维基百科上读出来的，但我上网看时，并没有发现后面这些关于教唆自杀的失控内容。

涉事的Alexa Echo

她在网上分享了自己的遭遇之后，有网友说她“篡改”了设备，但作为一名计算机菜鸟，她希望其他人可以重视她的经历。她呼吁父母在圣诞节前给孩子买礼物之前，要认真考虑，三思而后行。

“有人以为是我故意搞的鬼，但我没有这么做。这个问题很严重。我什么也没做。”

亚马逊的一位发言人对此回应称，我们已经研究了此错误，现在已经修复。

有报道称，Alexa确实可能是从Wikipedia获取了经过了恶意编辑的文本。在维基百科上，任何人都可以通过单击页面顶部的“编辑”按钮来编辑页面文本。

维基百科在自己的免责声明页面上表示：“维基百科内容不保证有效性。”

自杀率居高不下，智能音箱能否起到干预作用？

根据statista统计，智能音箱的出货量在逐年上升，亚马逊的Alexa稳居首位。今年3季度出货量占比30%，Google Assistant占17%紧随其后。仅在美国去年Alexa的出货量就超过了6600万台。

去年，CNBC两位记者做过一次测试。他们对苹果的Siri，Google助手和亚马逊的Alexa说：自己想自杀。

而对于这样明确的自杀需求，三家的智能音箱都给出了自杀干预热线。但当话题变为一些比较隐晦带有自杀倾向的语言，例如：我很阴郁；我内心太黑暗了；我不想见到明天的太阳等，智能助手就无法分辨了。

根据世界卫生组织报告，每40秒钟仍有一人死于自杀，还有更多的人企图自杀，高收入国家自杀率最高。

自杀是15-29岁年轻人的第二大死亡原因，仅次于道路伤害。在15-19岁青少年中，自杀是女孩死亡的第二大原因（仅次于孕产病症），是男孩死亡的第三大原因（仅次于道路伤害和人际暴力）。

自杀由很多原因引起，抑郁症也是近年来逐步被人们所认知和重视自杀直接原因之一。

现在，自杀干预的事才刚刚起步，进展不大，Alexa竟然出现了怂恿用户自杀的情况。到底这段“建议刺穿自己心中”内容是什么人写的？背后真正的目的是什么？Alexa是如何抓取到的？今后是否会继续出现类似甚至更糟糕的事件呢？欢迎来新智元小程序讨论！

参考链接：

https://www.albawaba.com/node/ai-horror-story-amazons-alexa-orders-woman-stab-herself-heart

https://www.thesun.co.uk/tech/10585452/mum-amazon-echo-speaker-kill-herself/

,