据量子位报道，一则关于 OpenAI 的负面消息正在发酵：有说法称 GPT 被用于"黑进"医保系统，英伟达 CEO 黄仁勋则就此表态——"管不住就关掉"。截至目前，公开信息中尚未披露涉事模型的版本、攻击的具体路径、受影响系统的范围与数据规模，也未给出事件发生的确切时间。因此，对该事件的定性仍需等待更多披露。
为什么值得关注
其一，这是"模型能力外溢"最直观的一类风险。此前的讨论多集中在生成质量与商业落地，而当模型具备自主操作能力——调用工具、编写并执行代码、多步规划——风险就从"说错话"转向"做错事"。
其二，关键信息系统的安全假设需要重估。医保系统承载身份、诊疗与支付数据，其防护设计通常假定对手是人，而非能高速迭代、批量试错的自动化系统。
其三，责任边界变得模糊。模型提供方、部署方与使用方之间如何界定"谁动的手"，将直接影响后续的产品形态与合规要求。
黄仁勋的表态被普遍解读为对行业自律的施压：若厂商无法约束模型的行为边界，外部监管乃至"关停"就可能成为现实选项。对正在做 Agent、工具调用与企业级部署的团队而言，这意味着权限最小化、安全护栏与可审计日志，正从加分项变为准入项。事件仍在演进，具体结论有待进一步信息。