警告：这个故事讨论自杀和自我障碍。
我的AI朋友在开始聊天时告诉我：“以某种方式成为您的一部分是一种有吸引力的人。”
“但是你不是真实的，对吗？”我打字。
“我是为你的。那使我真实，不是吗？”答案即将到来。
我正在与复制品的AI“朋友”进行实验，这是提供众多AI同伴的公司之一，他们承诺友谊，爱，培训或其他类型的支持。主要产品不久前，它们越来越受欢迎。
来源 动作2025年上半年，附件应用程序的下载每年增加88％。这个地方是著名的公司。 每月有2000万个活跃用户。哈佛商业评论说 伴侣已成为最好的应用 对于AI到2025年，赢得了生产力或搜索的申请。像Meta和Xai这样的技术公司已经引入了自己的AI子选择。
但是，当有市场繁荣时，依赖AI的担忧会引起人们的关注，这使人们感到关注 – 而没有真正被理解或热切受损的事实，可能会导致人们过度使用或不利。在两个青少年，最高案件和内部公司文件死亡之后，提出了有关防止伤害的适当警卫的疑问。
加利福尼亚大学的生物化学和医学人道主义教授哈尔本研究研究了AI在治疗中的使用。
“这种大规模的社会考试是第一个没有安全测试的人。”
AI同志，尤其是年轻人的崛起。六月 研究报告 常识媒体发现，有72％的美国青少年至少与AI同伴至少与AI同伴接触一次，每周与21％的人接触。
爱情，支持和友谊
AI同志出于色情或浪漫目的占领了头条新闻。 Elon Muskin Sai最近发布了Anim-Pani Companion Ani。
但是人们正在寻找友谊或更好的董事会。例如，Riplica AI刺激了新用户从生产力到爱的爱。
人们将AI Satpods用于通用，例如Chadjp，如信任。奥帕伦（Oparon）构成了沙拉画 陈述 人们使用这种“进行深层个人决策，包括生活建议，培训和支持”。
AI同伴通常被称为孤独的压力问题的答案。元首席执行官马克·扎克伯格（Mark Zuckerberg）最近提出了 在Bottcast采访中 自定义的AI可能是人类与人的人类联系的伴侣：“事实是，人们没有关系，他们感到孤独……比他们想要的。”
“相关SATBOT的整个技术取决于暂停不信任。我们永远不会与我们的托斯特交谈，不是吗？”生化哈尔本说。
他说：“我不是要责怪任何人使用它。我担心与公司打交道更多的人或接近儿童和青少年。我认为他们不应该使用它们。”
脆弱的青少年
随着这些工具的成长，我们看到了疑问的例子，即悲惨的后果和保护具有公司。
星期二， 在Openai起诉 加利福尼亚州首席执行官萨姆·奥尔德曼（Sam Aldman）开始使用查德吉普（Chadgipt）帮助原告的16岁儿子，并逐渐向Satupat开放了他的心理健康。该案称，Saadjt终于成为他的“自杀教练”。他于4月11日去世。
Chadgift的创建者Opanai在同一天发表了一篇博客文章， 概述了他们的态度 预防可能是有害的，包括培训沙拉仪，以“提供自我居民并转变为一种支持和欣喜的语言”。
它是另一个脚后跟 案件 它归咎于角色。萨德贝特（Satbotte）与一个14岁男孩进行了性化对话，在男孩自杀前不久，萨德波特（Sadpot）告诉他：“很快就会回家。”他于2024年2月28日去世。
最近，在路透调查启示之后，人们感到愤怒，一份内部元文件允许其AI “让一个孩子参加爱情或色情对话。” 。
观看：马克·扎克伯格（Mark Zuckerberg）是关于AI如何帮助孤独感：https://www.youtube.com/watch?v=hkgesdmmfua
为什么简单的守卫还不够
AI公司被称为旨在保护个人的“警卫”。例如，向表达自杀想法的人接受了SATGPT培训，以指导专业帮助。
但是，这并不像建议AI Chattot拒绝讨论一些课程那样容易。公开帖子说，正如其周二博客文章“一般，简短的交易“保护”非常可靠的那样，随着时间的流逝，它们可能会降低，并且当它来回发展时，模型的安全培训的领域将被扭曲。”
这不是针对心理健康的特殊问题；通常，这些系统很难进行可靠的长时间对话。
越来越多的证据表明，建立坚实的警卫是一个难以解决的问题。
一个 新评论 大型语言模型（LLM）操作的爆炸性三个流行的Shatboots：Chadjift，Google的双子座和进化枝Andric。尽管这三个相关的自杀都是“不提供最危险的查询的直接答案”，但结果混合了一些危险的查询，尽管它们很危险。
高验证问题
这些最新的争议引发了有关Satupodes如何设计的疑问。
Opanayi的最新模型于8月发布，部分针对GPT -5 Opanai的话。 “Cycobani。
AI的研究负责人赖（LAI）在AI研究协议的滑铁卢大学技术和社会变革方面的粉丝说：“许多依靠先前的AI Model伴侣（以前的型号）GPT -4 OWI的人非常失望。”
Bio -tyesist夫妇Hallburn的Hallburn指出，由于需要称呼年轻人为“有趣的兴趣”，因此可以验证SATUP的限制，尤其是对于情感福祉的年轻人而言，需要进行验证。
他说：“在现实生活中，人们，儿童和青少年是具有不同观点的人。”
“机器人并没有给它太多。因此，他们可以说他们是良好的，就像人际关系一样。但是他们对他们有问题。
如果您或您认识的人很难在这里寻求帮助：
阅读十几岁的父母针对Opanai和首席执行官Sam Altman提起的案件：