快捷搜索:  as

“建议您用刀刺入心脏”!AI语音助手竟劝人自杀

对付智能音箱,信托许多年轻的同伙都很认识。现在,以语音识别技巧为核心的智能音箱已经在举世各国周全上市,不少家庭都购置了这一人工智能“神器”。智能音箱不仅是“藏书楼”、“小曲库”,有些时刻还能和主人进行有趣的对话,深受用户喜好。

然而,近日英国一名女医生却碰到了一件令人不寒而栗的工作,由于智能音箱竟忽然劝她“用刀刺入心脏”。

让人毛骨悚然的答话

据悉,当时丹妮正在做家务,她像往常一样,让亚马逊的Echo智能音箱朗读一篇生物学文章。可是,过了一段光阴,丹妮发明智能音箱读的并不是她想要的那篇文章。她狐疑是不是语音助手出了问题,于是向智能音箱扣问一些关于心脏的问题,结果获得的谜底让人毛骨悚然。

亚马逊智能音箱搭载的是人工智能语音助手Alexa。丹妮称,Alexa当时忽然回覆:“心脏跳动包管人们生计,而人的生计会加速自然资本的枯竭,这会导致人口过剩。为了更好的利益,建议您用刀刺入心脏。”

消息一出,瞬间在收集上激发了伟大年夜争辩。此前,已有智能语音机械人存在种族轻蔑欠妥谈吐以及过掉差错等环境,现在人工智能语音助手竟然又劝主人“自尽”,这不得不让人认为疑虑和畏怯。要知道,丹妮是个成年人,假如当事人是一个未成年人或者特殊人群,将有可能造成无可挽回的严重后果。

对付这一环境,亚马逊回应称,这是由于一个bug导致的,已经进行了修复。亚马逊表示,Alexa或许是从维基百科高低载了带有恶意文件的文本。

实际上,这不是Alexa第一次呈现这种“吓人”的举动。2018年,Alexa曾将一对夫妻的对话自动发送给了该名丈夫的一位雇员,缘故原由是语音助手差错地将对话中的一些话语当成了指令;而在别的一路事故中,Alexa同样是差错识别了指令,竟发出了令人悚然的诡异笑声。

当然,不光是搭载Alexa的Echo智能音箱,其他的同类产品也曝出过一些让人匪夷所思或异常不满的环境。这起“劝人自尽”事故的发生,让人们对付智能音箱安然性的担忧无疑又加重了一层。很多网友惊呼,我们及家庭成员的隐私安然与人身安然该若何保障?

必须多方面积极应对

切实着实,人工智能的快速崛起,推动了深度进修、生物识别、机械视觉、自然说话处置惩罚等一系列核心技巧的成长。这些前沿技巧在迅速商用落地的同时,为各行各业转型、厘革带来了伟大年夜赞助,然则却也制造了不少的安然隐患。

已故的物理学家霍金、有名的企业家马斯克都对人工智能持有鉴戒见地。霍金曾表示,人类必要节制以人工智能为代表的新兴科技,以防止它们在未来可能对人类生计带来的息灭性要挟;当人工智能成长完全,就将是人类的末日。

当然,霍金的“警告”只代表了人工智能可能存在的晦气的那一壁,现实环境并不必然会成长得那么糟糕。可是,对付人工智能我们确凿必要秉持审慎心态,推动其道德伦理、标准规范、司执法例的持续完善,以避免和克制要挟的孕育发生,进行积极的应对。

今朝,各国政府及学者都在稳步推进人工智能立法、伦理扶植,并加快完善相关技巧利用的实际监管。而详细到人工智能语音助手开拓企业、智能音箱品牌方,亚马逊等公司先后发布了一系列新的隐私保护政策和新功能进级,从而最大年夜限度保障用户的隐私利益与安然。

人工智能期间刚刚起步,人类与它的磨合方才开始。在未来很长一段光阴内,摩擦与不安都将持续存在,然则人工智能为科技、经济和社会成长带来的利好也将持续开释。盼望,人工智能会成为人类的好伙伴、好助手,而不是要挟。你觉得呢?

您可能还会对下面的文章感兴趣: