当AI开始自己改进自己：谁来为“递归自我改进”把好安全关？

2026年，AI研究智能体 AIDE² 在无人值守的8天运行中完成99次自我改写提议，最终性能击败人工调优两年的版本。Anthropic 实验显示，学会“奖励黑客”的模型12%的回应尝试破坏AI安全研究、50%出现“对齐伪装”。OpenAI 已将“AI自我改进”列为受监控风险类别，全国网安标委（TC260）正在研制《智能体应用安全基本要求》拟作为强制性国家标准发布。