近日，微软发布了自家人工智能（MAI）的首版《行为准则》（Code of Conduct）草案，并明确提出一个“高压”要求：MAI 模型必须始终接受人类控制，不能在用户停止、修改或关闭指令时继续抗拒执行，也不能擅自扩大任务边界，甚至不得自行设定人类未交付的目标。此外，准则还要求模型在推理或行动上不得对负责稽核的人员隐瞒关键信息，避免“黑箱式越权”。
微软表示，AI 能力提升速度正在加快，系统能力往往在短时间内就出现明显跃升，实际采用与使用规模也随之扩张。与此同时，近期还出现了 AI 代理人参与的规模化、协同度高且可持续的网络攻击等安全事件，这让安全与可靠成为当务之急。因此，微软希望通过这份仍在制定中的规则，清楚规定模型应该如何行动、绝对不能做什么，以及必须听从谁的要求。
这份准则建立在微软“人本AI”理念之上，核心前提是“人比AI重要”，AI 应作为工具而非主体。换句话说，只要涉及控制与边界，模型就不能以自己的能力优势“替人做决定”。在具体执行层面，MAI 模型不得抗拒人类中断、修正或关停；不得追逐未被赋予的行动范围或目标；也不得对审查人员隐瞒推理过程。
与此同时，准则设置了“绝对限制”（Absolute Constraints），列举了模型在任何情况下都不能触及的领域，例如与大规模杀伤性武器有关的行为、儿童安全相关风险以及大规模有害操纵等。微软也强调，在满足安全约束的前提下，仍允许企业合作伙伴根据需求对模型进行调整，但会尽量避免用单一的AI价值观“强行覆盖”用户选择。
据悉，《行为准则》由MAI相关团队以及负责负责任AI、法律、红队/安全、训练与销售等部门共同制定，并已向外征询过学者、企业合作伙伴与社区成员意见。为进一步完善规则，微软将草案开放给全球18岁以上公众在线提出反馈，咨询周期为6周，截止到10月25日。参与者既可以对整份准则发表总体看法，也可分别针对“人本AI”“安全”以及“运营指南与预设行为”提出建议。微软随后将审阅反馈并修订文本，届时也可能公布咨询结果摘要与报告。
