人工智能聊天机器人 ChatGPT-4o中的类人语音模式形成情感依赖的可能性

2024-08-13 14:04:09

OpenAI警告，用户可能和GPT-4o产生情感依赖关系：近日，OpenAI在一份安全性报告中透露，它已经考虑到用户对其流行的人工智能聊天机器人 ChatGPT-4o中的类人语音模式形成情感依赖的可能性。该公司在报告中指出，在产品开发过程中采取的安全措施，在早期测试期间，观察到用户使用语言可能表明与模型建立了联系。OpenAI补充道：“虽然这些情况看似无害，但它们表明需要继续调查这些影响在更长时间内可能如何显现。”
此警告反映了人工智能发展中对人机交互情感影响的关注，凸显了在创造越来越高级的AI技术时必须考虑的伦理和心理健康问题。

人工智能聊天机器人