跳到主内容
快讯直播
AI智模界
政策

聚焦AI灾难性风险,日常损害或被忽视

据 MIT Technology Review 于 2026 年 10 月 26 日刊发的文章《The focus on AI safety disasters ignores everyday harms》,围绕人工智能安全的公共讨论存在一种视角偏差:业界与政策圈高度聚焦可能出现的“灾难性”场景,而对已在日常生活中发生、更为分散的损害关注不足。文章把这种注意力取舍本身作为讨论对象,认为它直接影响 AI 治理议程的优先级排序。

在 AI 安全讨论中,灾难性风险通常指发生概率低但后果极端的情形,这类叙事性强,容易获得关注与资源。相比之下,日常性损害往往是渐进的、分散的、难以单一归因的,缺少戏剧性,也更难量化,因而容易在议程中被边缘化。文章的核心提醒是:若研究方向与政策设计过度围绕极端场景展开,就可能与多数用户实际承受的影响脱节。

这一观点对治理有现实意义。监管资源与合规成本有限,框架若只为极端情形设计,可能既不适用于日常使用中的具体问题,也难以给受影响的个人提供有效救济;而评估基准、责任划分与信息披露,则是把日常损害纳入可治理范围的基础设施。

对从业者而言,文章的提示是:安全工作的边界不只是一道防止极端事故的防线,也包括对产品在常规使用中可预期影响的持续测量与改进。相关讨论表明,“该优先关注哪一类风险”正成为 AI 政策辩论中的一条主线。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。