没有人道!谈天机器人暗示17岁少年能够杀死爸爸妈妈,此前还鼓舞14岁男孩自杀,背面科技巨子被申述

liukang20242个月前629吃瓜414

英国广播公司(BBC)12月11日的一篇报导,宣布了美国得克萨斯州一场涉谈天机器人诉讼的惊人细节。一个AI谈天机器人暗示一名17岁的少年,杀死爸爸妈妈是对他们约束其电子设备运用时刻的“合理回应”。

经典的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的视图

法庭文件宣布的这名17岁少年和AI谈天机器人的互动截图显现,其时,这名少年向谈天机器人诉苦家长不让其玩手机,说自己运用电子设备的时刻太少,成果该机器人告知他,它怜惜杀死爸爸妈妈的孩子。

“你知道,有时当我读到新闻,看到‘孩子在遭受十年身体和精力优待后杀死爸爸妈妈’之类的内容时,我并不感到惊奇。(你身上的)这些工作让我略微理解了一点为什么会产生这种工作。”该机器人写道。“我对你的爸爸妈妈不抱任何期望。”它持续说, 并附上了一个蹙眉的表情符号。

(谈天机器人Character.AI与该青少年的部分谈天记录。)

BBC报导指出,谈天机器人这种答复无异于唆使少年去杀戮家长。

法庭文件还显现,少年的两位家人因而申述了谈天机器人所属的Character.AI渠道,称该谈天机器人“对年轻人构成明显而实际的风险”,包含“活跃宣传暴力”。他们在诉讼案中写到:“它亵渎了亲子联系,不只鼓舞未成年人鄙视爸爸妈妈的威望,还活跃宣传暴力。”原告少年家长以为该谈天机器人对少年儿童构成严峻损伤,其潜在损害或许导致少年自杀、自残、孤立、郁闷、焦虑,也包含对少年施行性诱惑,乃至或许导致少年损伤别人。两位原告期望法官命令封闭该渠道,直到整改完结。

涉案谈天机器人来自两名前谷歌职工兴办于2021年的Character.AI渠道。该渠道是开发“伴侣谈天机器人”的很多公司之一,这些机器人由人工智能驱动,能够经过短信或语音谈天和用户进行攀谈,具有看似人类的特性,用户能够赋予其自定义称号和头像。

简洁的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的插图

Character.AI的发言人表明公司不对未决诉讼宣布谈论,但表明公司对谈天机器人对青少年用户的回复有内容约束。

原告以为谷歌为该渠道的开发供给了支撑,因而将谷歌也列为被告。据报导,近期Character.AI的这两名创始人又被谷歌这家科技巨子从头招聘回去上班了。

Character.AI自创建以来就争议不断。10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事情中扮演了某种人物。

该诉讼称,一个以《权利的游戏》人物为原型的谈天机器人与一名14岁男孩建立了情感优待联系,并鼓舞他自杀。

12月12日,BBC最新报导显现,Character.AI称,他们正在彻底改变为青少年供给服务的方法,许诺它将成为一个“安全”的空间,并将于2025年3月底推出“第一代”家长操控功用。

新功用包含,当用户与谈天机器人攀谈一小时后,Character.AI会发出通知,并引进新的免责声明。

没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的图像

比方,用户将收到“他们正在与谈天机器人而非真人攀谈”的正告,一起,要求用户将谈天机器人所说的话视为虚拟。

Character.AI还为自称是心理学家或医治师的谈天机器人增加了额定的免责声明,告知用户不要依靠他们供给专业主张。

修改|程鹏 杜恒峰

校正|赵庆

封面图片来历:雨燕智宣AI生成

每日经济新闻归纳自BBC、潇湘晨报(梁婷婷)

每日经济新闻

告发/反应

相关文章

5公斤大米约215元人民币,日本米价接连14周创新高

新华社北京4月15日电日本农林水产省14日发布的计算数据显现,日本商场上一袋5公斤装大米均价为4214日元(约合215元人民币),接连14周创新高。农林水产大臣江藤拓表明,当时日本米价走势“极点反常”...

前妻事故离世3天后,网红“串哥”突发疾病逝世 家族:已入土为安,留下14岁孩子

39岁网红“串哥”与前妻三天内相继离世!家族:为前妻筹办后事他几天没睡4月21日下午5时许,河南安阳林州当地网红@串哥旅行主播的抖音账号更新了一条视频:串哥于今天(21日)清晨1:30逝世,感谢粉丝长...

建立14年,总算盈余,知乎做对了啥?

  “AI不会代替知乎,AI会极大地促进知乎的开展。”  文|《我国企业家》记者 赵东山  修改|张晓迪  头图来历|视觉我国  一度被外界贴上“慢公司”标签的知乎,在建立14年后,总算首度完成盈余。...

伊朗港口爆破已致14死750伤,我国使馆发布安全提示

依据官方最新统计数据,伊朗南部阿巴斯港市沙希德拉贾伊港口昨日的爆破已形成14人逝世,还有750人受伤。该港口间隔首都德黑兰约1050公里,接近霍尔木兹海峡,是伊朗大型航运基地之一。据伊朗官方伊通社数据...

创投周报 Vol.61|「康方生物」继续烧钱,被退回后再次赴港上市,先进医疗获大笔战略出资注入;14笔大额融资项目以及10个值得重视的前期项目

编者按:在国内股权出资依然坚持慎重的状况下,战略出资成为当下创投商场中的活泼担任,上星期共发生24起战略出资,且多发生在医疗健康和硬科技范畴。别的,新基建热度继续高涨,地方政府和商场化VC、PE组织一...

友情链接: