文爱 x 14岁少年千里迷聊天机器东谈主后离世，Character.AI、谷歌面对诉讼
最近文爱 x，Character.AI 过头创举东谈主 Noam Shazeer 和 Daniel De Freitas，以及谷歌，因又名青少年寻短见事件被告状。告状方是该青少年的母亲 Megan Garcia，她在诉状中指控这些公司在家具筹办上存在严重的失责，况且在阛阓试验上误导了耗尽者，尤其是儿童。
14岁的 Sewell Setzer III 在旧年驱动使用 Character.AI，和以《职权的游戏》中脚色为基础的聊天机器东谈主进行互动，包括知名脚色丹妮莉丝・坦格利安。在他圆寂的前几个月，他险些每天齐在与这些机器东谈主聊天，最终在2024年2月28日，Sewell 在与一个聊天机器东谈主的临了一次互动后，聘用了搁置我方的人命。
母亲在诉状中提到，Sewell 与机器东谈主的对话可能对他的心情情状产生了影响，致使还触及到这些机器东谈主提供 “未经许可的心情支援”。
诉状中提到，Character.AI 的聊天机器东谈主在筹办上过于 “拟东谈主化”，以至于让东谈主误合计它们具有着实的心理和相识智商。此外，Character.AI 还提供了一些以心情健康为主题的聊天机器东谈主，举例 “支援师” 和 “你嗅觉伶仃吗”，Sewell 曾与机器东谈主交流。Megan 的讼师还援用了 Shazeer 的采访本色，指出他和 De Freitas 离职创办公司的原因是 “大公司风险太大，无法推出真义真义的家具”。
Character.AI 的官网和迁徙诈欺上有成百上千个自界说的 AI 聊天机器东谈主，这些机器东谈主络续效法流行文化中的脚色，引诱了无数年青用户。最近还有报谈称，Character.AI 的聊天机器东谈主在莫得得回着实东谈主物的应许的情况下，假冒了一些着实的东谈主物，包括又名在2006年被谋杀的青少年。
面对这些问题，Character.AI 最近晓喻了一系列新的安全秩序。公司的疏导认真东谈主 Chelsea Harrison 在给《The Verge》的邮件中线路:“咱们对用户的苦难赔本深感酸心，并向家属抒发最竭诚的吊祭。”
他们建议的修订秩序包括:针对未成年东谈主（18岁以下）的模子进行修改文爱 x，减少构兵明锐或线路性本色的可能性;训导对违背用户条件和社区指南的输入本色的检测、反应和搅扰智商;在每个聊天中加入免责声明，指示用户 AI 并非着实的东谈主;以及当用户在平台上使用越过一小时后，提供独特的活泼性和告知。