旧金山，加利福尼亚——OpenAI公司表示，他们对其人工智能的高度逼真语音功能感到担忧，认为这可能会导致人们在与机器人互动时牺牲与人类的真实联系。
这家位于旧金山的公司引用研究指出，与人工智能的对话可能会导致错误的信任，而gpt - 40的高质量语音可能会加剧这种情况。
OpenAI在周四发布的一份关于其chatgpt - 40版本人工智能安全性工作的报告中提到：“拟人化是指将人类的行为和特征赋予非人类实体，例如人工智能模型。”
“gpt - 40的音频功能可能会加大这种风险，因为它促进了与模型之间更类似人类的互动。”
OpenAI指出，测试者与人工智能交流的方式暗示了某种情感纽带，例如他们在一起的最后一天时的感慨。
尽管这些例子看似无害，但公司强调需要进一步研究，以了解它们在长期内的演变。
OpenAI推测，与人工智能的社交可能会使用户在与人类的关系中变得不那么熟练或倾向。
广告报告指出：“与该模型的长期互动可能会影响社会规范。”
“例如，我们的模型表现出恭敬，允许用户随时打断并‘拿起麦克风’，虽然这是人工智能的预期，但在人类互动中却是反常的。”
OpenAI还表示，人工智能在对话中记住细节和处理任务的能力可能导致人们对这项技术的过度依赖。
人工智能反抄袭检测平台Copyleaks的联合创始人兼首席执行官阿隆·亚明表示：“OpenAI最近对ChatGPT语音模式的潜在依赖表示担忧，这表明许多人开始反思这项技术如何影响人类互动和关系。”
广告他强调，人工智能绝不应取代真实的人类互动。
OpenAI表示，将进一步测试其人工智能的语音功能如何引发人们的情感依赖。
测试chatgpt - 40语音功能的团队还发现，该模型能够重复虚假信息并生成阴谋论，这引发了人们对人工智能模型可能被指示这样做的担忧。
今年6月，OpenAI因在其最新聊天机器人中使用了与女演员斯嘉丽·约翰逊的声音极为相似的内容而被迫道歉，这使得语音克隆技术成为公众关注的焦点。
广告尽管OpenAI否认使用了约翰逊的声音，但首席执行官萨姆·奥特曼在社交媒体上用“她”一词标记了这款新模型，这并没有缓解他们的困境。
约翰逊在电影《她》中为一个人工智能角色配音，奥特曼曾表示这是他最喜欢的关于人工智能的电影。
这部2013年的电影由杰昆·菲尼克斯主演，他饰演一个爱上名为萨曼莎的人工智能助手的男人。
本文来自作者[svs]投稿，不代表立场，如若转载，请注明出处：http://ibmjournal.com/post/7147.html
评论列表（4条）
我是的签约作者“svs”！
希望本篇文章《OpenAI担心它的人工智能声音可能会吸引用户》能对你有所帮助！
本站[]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 旧金山，加利福尼亚——OpenAI公司表示，他们对其人工智能的高度逼真语音功能感到担忧，认为这可能会导致人们在与机器人互动时牺牲与人类的真实联系。...