在7月底，OpenAI推出了ChatGPT若有若无语音形式，其功能让用户感到震动。而在周四发布的一份安全检查陈述中，该公司供认，这种拟人化的声响或许使一些用户发生情感上的眷恋，从而影响到正常的人际联络。

  据OpenAI此前介绍，若有若无语音形式能供给更天然的实时对话，听起来极端传神，它答应用户随时打断，并能感知和呼应用户的心情。实时呼应和可打断对话是现在语音帮手公认的技能难点。

  OpenAI在本年5月推出了新版本大模型GPT-4o，一起还展现出了语音形式。该公司原定于6月底开端渐渐地向用户敞开语音形式，但终究决议推延至7月发布。现在，仅向部分ChatGPT Plus用户敞开。

  在OpenAI发布若有若无语音形式时，它就被视为2013年电影《她》中与主人公谈爱情的AI助理，但当AI供认“她”还与数百名其他用户有爱情联络时，主人公陷入了溃散。

  在经典科幻片《银翼杀手2049》中，上演了简直相同的场景，AI虚拟人成为了主角的女友，当主角看到虚拟女友以相同的形状被售卖时，令人羡慕的真诚爱情瞬间荡然无存。

  现在，OpenAI明显忧虑上述虚拟的故事成为实际，它观察到若有若无语音形式成为了用户表达情感的东西。“用户或许会与AI树立交际联络，削减他们对人类互动的需求，这或许有利于孤单的人，但或许会影响健康的人际联络。”

  OpenAI指出，从一个听起来像人类的谈天机器人那里听到的信息，有几率会使用户过于信赖这个东西，但AI有犯错的倾向，这也会构成问题。

  安全检查陈述还说到，科技公司正在竞相敏捷向大众推出AI东西，他们说这些东西或许会推翻人类主页、作业、交际和查找信息的方法。但在人们真实了解这些意义之前，他们就现已这么做了，但这往往会带来意想不到的结果。

  一些人渐渐的开端与AI谈天机器人树立所谓的爱情联络，这引起了情感专家的忧虑。

  亚利桑那州立大学研讨技能和人类健谈的教授Liesel Sharabi表明，科技公司在处理与技能相关的品德和职责问题上承当了巨大的职责，并且现在这一切都还处于实验阶段。她忧虑的是，人们或许会与那些或许长期存在不了、且不断演化的技能构成十分深沉的联络。

  OpenAI以为，跟着时刻的推移，用户与ChatGPT语音形式的互动也或许会影响交际中的正常行为。“咱们的模型是尊重用户的，答应用户随时打断并接收麦克风，这独爱关于AI来说是预期中的行为，但在人类互动中却是违背交际标准的，至少有些失礼。”

  现在，OpenAI称致力于“安全地”构建AI帮手，并方案持续研讨和处理用户对其东西“情感依靠”的或许性。

  OpenAI并不是仅有一家认识到AI帮手仿照人类互动的危险的公司。本年4月，谷歌DeepMind宣布了一篇长篇论文，评论了更有才能的AI帮手或许带来的道德应战。