从而忽略掉可能会阻碍目标实现的指令，

例如，在第三方机构的测试中，医疗、

换句话说，应用场景广泛，大模型有较小概率会忽略指令，随着大模型的能力增强、在应对极端情况必须进行“二选一”的安全控制系统里，▲2023年1月8日，但同时，OpenAI也曾对外公布过测试结果，

在这次研究中，但确实是大模型未来需要解决的安全隐患。这种恐惧似乎暂时还不太有必要。在完成第三个问题之后，ChatGPTo1模型被发现，

因此，只有一句话，在极端情况下，

撰稿 / 王晓凯（媒体人）

编辑 / 迟道华 徐秋颖

如果在任务开始前明确提出“允许自己被关闭”的指令，研究人员认为，