跳到主内容
快讯直播
AI智模界
政策

八州起诉 OpenAI,称 ChatGPT 对儿童不安全

美国八个州对 OpenAI 提起诉讼,指控其聊天机器人 ChatGPT 对儿童不安全。该消息由 The Verge 报道,属于州层面针对生成式 AI 产品发起的法律行动,焦点直指 AI 助手在未成年人保护上的短板。

从诉讼指向看,这是一起以"产品安全"为切入点的案件。ChatGPT 面向大众开放、交互门槛低,未成年用户可以像使用搜索引擎一样直接提问。起诉方认为,在防护措施不足的情况下,这种开放性对儿童构成风险。截至目前,公开信息主要围绕"不安全"这一定性展开,诉讼的具体诉求与后续进展仍有待披露。

对 AI 行业而言,此事的重要性体现在三个层面。其一,监管路径出现变化:此前围绕生成式 AI 的讨论多集中在联邦立法与政策框架,而此次由多个州联合出手,意味着州一级执法主体开始把既有的消费者保护、未成年人保护工具套用到 AI 产品上。其二,合规压力前移:对 OpenAI 及其他 AI 公司来说,面向青少年的功能设计、内容过滤与家长控制,可能从"最佳实践"变为必须正面回答的法律问题。其三,示范效应:若案件继续推进,其他州乃至其他 AI 产品线可能面临类似追问。

对从业者来说,这再次提示:模型能力之外的安全工程,尤其是涉及未成年用户的使用场景,正在成为监管关注的核心地带。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。