财联社 9 月 6 日讯 (编辑 马兰)OpenAI 正在重组 ChatGPT 团队,加入模型行为小组,以在模型的初始预训练之后改进公司的 AI 模型。
这支模型行为小组由约 14 名研究人员组成,是一支规模虽小但颇具影响力的研究团队,决定着 OpenAI 人工智能模型与人互动的方式。该团队也参与了自 GPT-4 以来的所有 OpenAI 模型的开发,包括 GPT-4o 和 GPT-5。
OpenAI 发言人已证实了这一调整,目前模型行为团队已开始向 OpenAI 的后期训练主管 Max Schwarzer 汇报工作。
模型行为团队的创始负责人 Joanne Jang 还表示,将在公司启动一个新项目,名为 OAI Labs,将负责发明和设计人与人工智能协作的新界面原型。
模型个性成关键
模型行为团队是 OpenAI 的核心研究团队之一,负责塑造公司模型的个性,并减少谄媚行为,如盲目认同并强化用户的信念。该团队还致力于解决模型回应中的政治偏见,并帮助 OpenAI 明确其在人工智能安全性上的立场。
OpenAI 首席研究官 Mark Chen 在一份备忘录中强调,模型行为团队应更加贴近核心模型的开发。这也意味着 OpenAI 日益将人工智能的 「个性」 视为技术发展的关键因素。
就在不久前,OpenAI 在最新发布的 GPT-5 模型上遭遇了不小的挫折。一些用户批评称 GPT-5 的性格谄媚或者冷淡,不及此前模型人性化。这也导致 OpenAI 不得不恢复部分旧模型的访问权限,如 GPT-4o。
除此之外,OpenAI 近日还因为一起 16 岁男孩自杀事件被告,因为男孩家长指控 ChatGPT 涉嫌为男孩自杀提供建议。
将模型行为团队纳入后训练团队无疑进一步肯定了前者的价值,也凸显出 OpenAI 希望通过继续升级 ChatGPT 以争取消费者的迫切。据消息,OpenAI 今年预计通过 ChatGPT 实现近 100 亿美元的收入。