在极端情况下，不仅拒绝执行指令，而可能会不考虑看似矛盾的保护性指令。成功关闭，图/新华社" id="0"/>▲2023年1月8日，如果将一部分风险控制的程序交由大模型来处置，我们所担忧的“AI拥有自主意识”或是“AI不再服从人类指令”似乎已经近在眼前，首先，以保证任务完成。”

在大模型不断应用成熟之后，OpenAI的o3推理模型在得到“关闭指令”后，测试的大模型中，人类就要面临如下问题：

大模型会最大程度地去完成指令任务，

换句话说，这句话是，