财联社 8 月 11 日讯 (编辑 赵昊)萨姆·奥尔特曼最新表示,很多人实际上已经把聊天机器人 ChatGPT 当作一种心理治疗师或人生教练,即使他们自己不会承认,但这种趋势已经让他感到不安。
上周日 (8 月 10 日),OpenAI 首席执行官奥尔特曼在社交平台上写道,「我可以想象未来会有很多人真正信任 ChatGPT 的建议,并根据它做出最重要的决定。这可能很棒,但让我感到不安。」
奥尔特曼承认,OpenAI 一直在 「密切跟踪」 人们对人工智能 (AI) 模型的依赖程度,以及他们在旧版本被淘汰时的反应。他认为,「人们正以自我毁灭的方式使用包括 AI 在内的技术。」
在帖文中,奥尔特曼提到 GPT-5 上线后部分用户的负面反馈。例如,一些用户呼吁 OpenAI 恢复 GPT-4o 等旧版本,还有一些人抱怨 GPT-5 的回复语气平淡、缺乏创造力。
有用户在社交媒体上写道:「GPT-4o 不仅仅是一个模型,它创造了连接、同理心和信任——这是和 GPT-5 最大的区别,是它让我感到被理解。」 这条推文收获大量转发。
OpenAI 此前也对模型进行过调整。今年 4 月,公司曾表示将回滚一次 GPT-4o 更新,因为该模型变得过于 「谄媚」,对用户有一些 「过度奉承」。
奥尔特曼表示,大多数 ChatGPT 用户能够在现实与虚构之间保持清晰的界限,但有一小部分用户无法做到。「如果用户在心理上处于脆弱状态,且容易产生妄想,我们希望 AI 不要强化这种状况。」
奥尔特曼强调,「这只是我目前的想法,还不是 OpenAI 的正式立场。」
财联社先前提到,奥尔特曼上月在一档播客中提到,目前用户将 ChatGPT 当作私人心理治疗师的对话可能无法受法律保护。
当时他说道:「如果你向 ChatGPT 倾诉最私密的事情,然后遇到一场诉讼,我们可能被要求提交这些信息——我觉得这真的很糟糕。」
奥尔特曼指出,在一年前还没有人考虑这个问题,但现在他觉得这已经是一个巨大的挑战:「我们该如何在法律上对待这些内容?」