与AI谈恋爱有风险!OpenAI警告用户高级语音模式会影响人际关系
原创
2024-08-09 18:04 星期五
财联社 牛占林
①这种拟人化的声音可能使一些用户产生情感上的依恋,从而影响到正常的人际关系;
②从一个听起来像人类的聊天机器人那里听到的信息,可能会导致用户过于信任这个工具,但AI有犯错的倾向,这也会造成问题。

财联社8月9日讯(编辑 牛占林)在7月底,OpenAI推出了ChatGPT高级语音模式,其功能让用户感到震惊。而在周四发布的一份安全审查报告中,该公司承认,这种拟人化的声音可能使一些用户产生情感上的依恋,从而影响到正常的人际关系。

据OpenAI此前介绍,高级语音模式能提供更自然的实时对话,听起来极其逼真,它允许用户随时打断,并能感知和响应用户的情绪。实时响应和可打断对话是目前语音助手公认的技术难点。

image

OpenAI在今年5月推出了新版本大模型GPT-4o,同时还展示出了语音模式。该公司原定于6月底开始逐步向用户开放语音模式,但最终决定推迟至7月发布。目前,仅向部分ChatGPT Plus用户开放。

在OpenAI发布高级语音模式时,它就被视为2013年电影《她》中与主人公谈恋爱的AI助理,但当AI承认“她”还与数百名其他用户有恋爱关系时,主人公陷入了崩溃。

在经典科幻片《银翼杀手2049》中,上演了几乎同样的场景,AI虚拟人成为了主角的女友,当主角看到虚拟女友以同样的形态被售卖时,令人羡慕的真挚爱情瞬间化为乌有。

现在,OpenAI显然担心上述虚构的故事成为现实,它观察到高级语音模式成为了用户表达情感的工具。“用户可能会与AI建立社交关系,减少他们对人类互动的需求,这可能有利于孤独的人,但可能会影响健康的人际关系。”

OpenAI指出,从一个听起来像人类的聊天机器人那里听到的信息,可能会导致用户过于信任这个工具,但AI有犯错的倾向,这也会造成问题。

安全审查报告还提到,科技公司正在竞相迅速向公众推出AI工具,他们说这些工具可能会颠覆人类生活、工作、社交和查找信息的方式。但在人们真正理解这些含义之前,他们就已经这么做了,但这往往会带来意想不到的后果。

伦理挑战

一些人已经开始与AI聊天机器人建立所谓的恋爱关系,这引起了情感专家的担忧。

亚利桑那州立大学研究技术和人类交流的教授Liesel Sharabi表示,科技公司在处理与技术相关的道德和责任问题上承担了巨大的责任,而且目前这一切都还处于试验阶段。她担心的是,人们可能会与那些可能长期存在不了、且不断演变的技术形成非常深厚的联系。

OpenAI认为,随着时间的推移,用户与ChatGPT语音模式的互动也可能影响社交中的正常行为。“我们的模型是尊重用户的,允许用户随时打断并‘接管麦克风’,这虽然对于AI来说是预期中的行为,但在人类互动中却是违反社交规范的,至少有些失礼。”

目前,OpenAI称致力于“安全地”构建AI助手,并计划继续研究和解决用户对其工具“情感依赖”的可能性。

OpenAI并不是唯一一家认识到AI助手模仿人类互动的风险的公司。今年4月,谷歌DeepMind发表了一篇长篇论文,讨论了更有能力的AI助手可能带来的伦理挑战。

收藏
109.7W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
0 人关注