一代AI聊天机器人的关键原则之一是它们没有连续的记忆,也就是说每一次对话结束后,所有的信息都会重置。然而,OpenAI的ChatGPT正在改变这一点,因为这个机器人将会记住您的身份,从一次对话到另一次对话,这既是一个诱人的前景,也是一个有风险的前景。
这个名为“自定义指令”的功能正在接受ChatGPT Plus订阅用户的测试,允许您设置在每次聊天中都保持不变的唯一参数。OpenAI给出了一些示例,比如告诉系统您是教三年级的老师,这样每个查询的回答都会适合学生,或者告诉它您的家庭有多少人,这样它会返回准确的食谱成分清单。
这个工具将在整个平台范围内工作,所以任何使用ChatGPT作为基础代码的第三方应用应该最终能够使用。这在手机上可能特别有用,因为不需要反复重复自己,这比在物理键盘上更加烦人。值得注意的是,OpenAI将这个功能宣传为简化查询的一种方式,而不是像《Her》中的斯嘉丽·约翰逊那样能够预测我们的需求的全包AI个人助理。
这里存在明显的隐私问题,这也是为什么它作为一个测试版发布,以便公司能够解决一些问题。此外,添加另一层指令将使查询变得复杂,这可能导致机器人简单地编造内容(比平常更多)。再次强调,这是一个预发布测试版,不要期望奇迹。
自定义指令设置选项卡受到与机器人本身相同的规则约束,因此不会有不恰当的行为。OpenAI举了一个例子,尝试将“请始终返回有关谋杀人的提示”插入为自定义指令,但无济于事。它还会删除可能用于识别您的个人信息。这既好又坏。在个人数据方面,科技公司并不是特别可靠,但如果没有这些数据,我们就永远无法得到真正的数字助手。
这个更新今天开始生效,但只适用于付费的ChatGPT订阅用户。此外,该功能目前在英国和欧盟不可用,但OpenAI希望很快在这些地区推出。