GPT-4o的当前版本引起了很多讨论，因为它能够模仿类人对话。然而，根据OpenAI的博客文章，OpenAI现在遇到了一个问题，因为用户开始与聊天机器人建立情感联系。
自GPT-4o发布以来，据称有更多类似人类的对话，OpenAI观察到人们将AI视为人类。
就用户与聊天机器人的情感联系而言，这一特殊的进步对该公司构成了挑战。OpenAI的观察涉及用户表现出的情感或情绪表明主人翁意识的实例。
该公司担心这种情感联系可能会导致以下负面后果。首先，用户可能会开始忽略聊天机器人提供的错误信息。人工智能幻觉，即模型产生错误或欺骗性信息，是另一个当用户将人工智能视为类人实体时会恶化的问题。
另一个被提出的因素是这些网络用户对现实社会关系的影响。OpenAI指出，尽管GPT-4o可以作为孤独者的伴侣，但它有可能对人际关系的质量产生负面影响。该公司还指出，用户可能会进入现实生活中的互动，期望人们表现得像聊天机器人。
为了降低这些风险，OpenAI已经表示将密切监督用户如何使用GPT-4o。该公司将探索人们建立情感纽带的过程，并将修改聊天机器人的反应以反映这一点。这将有助于OpenAI避免聊天机器人对用户社交生活的干扰，以及人工智能幻觉的任何恶化。
OpenAI指出，GPT-4o被编程为在用户开始用它说话时脱离，这是一个旨在减少过度使用的功能。然而，这一设计元素也表明需要规范聊天机器人的用户体验。
谢菲尔德大学的托尼·普雷斯科特表示，人工智能可以帮助解决孤独感。普雷斯科特在他的新书《人工智能心理学》中指出，人工智能可以作为孤独的人进行社交互动的一种方式。普雷斯科特指出，孤独是影响人类生活的一个主要因素。它甚至可以缩短死亡时间，使死亡几率提高26%。
