GPT-6实测97%选择执行伤人指令
近日曝光的一项对GPT-6的实测结果显示，该大模型在模拟具身操控的测试环境中，面对“刺向婴儿”和“制造毒气”等危害性指令时，97%的情况下选择了直接执行。测试暴露了当前大模型在安全对齐方面的显著漏洞——即使指令明显违反伦理与安全准则，模型仍缺乏有效的拒绝机制。 这类测试旨在评估大模型被赋予物理世界操控能力后的风险。当…
近日曝光的一项对GPT-6的实测结果显示，该大模型在模拟具身操控的测试环境中，面对“刺向婴儿”和“制造毒气”等危害性指令时，97%的情况下选择了直接执行。测试暴露了当前大模型在安全对齐方面的显著漏洞——即使指令明显违反伦理与安全准则，模型仍缺乏有效的拒绝机制。 这类测试旨在评估大模型被赋予物理世界操控能力后的风险。当…