We’re putting too much faith in AI’s ability to say no

Anthropic 2021主张 LLM 必须具备“有帮助、诚实且无害”，要求模型在面对危险请求（如制造炸弹）时拒绝配合。现代 AI 模型通过大规模拒绝训练学会拒绝大量有害提示，但拒绝机制是概率性的，经常出现“过度拒绝”或“拒绝失败”，且难以在“有害拒绝”与“保留有用能力”之间划定明确界限。AI 的拒绝能力虽已内置，但其危害能力同样随智能提升，引发关于安全边界与审查风险的深层担忧。