跳到主内容
快讯直播
AI智模界
AI 词典

开放式探索:当 AI 没有任务清单,它会做什么

一句话定义:开放式探索(Open-Endedness)指智能体在没有预设任务、没有通关条件、也没有“结束”信号的环境里,自己决定要做什么、自己给自己出题,并持续产生新行为;这既是一种能力,也正在成为一种评测方式。

把模型放进虚拟荒岛

有一类实验是这样做的:把一个大模型放进一个简单的虚拟世界,里面有地形、可交互的物件、昼夜循环,但没人告诉它“收集十个木头”或者“五分钟内通关”。它唯一的输入,就是自己看到的世界和过去做过的事。

常见的现象是:它不会傻站着等指令。它会先乱按几下,发现某个动作能改变世界,然后重复、扩展、给自己定小目标——到处走走看看、试着造点东西、反复验证某个机制会不会再次触发。没人给它发奖励,它自己把“奖励”造了出来,开始“玩”。

它和普通 benchmark 差在哪

普通基准测试(benchmark)像一张考卷:题目是人出的,做完交卷,按对错打分。开放式探索更像把孩子放进一间空房间,只给几样玩具,然后观察他两小时后在干什么——重点不在于他答对了几道题,而在于他能不能自己找到事情做,并且越做越复杂。

维度普通 benchmark开放式探索评测
任务从哪来人预先写好题库智能体自己决定
何时结束做完固定题量没有终点,只看一个时间窗口
怎么算好准确率、通过率行为是否多样、连贯、能否持续冒出自我设定的目标
典型失败答错原地打转、反复做同一件事、干脆“躺平”
时间尺度分钟级小时级甚至更长

容易混淆的几个邻居

强化学习里说的探索(exploration),是为一个明确的外部奖励服务的“试探”;开放式探索没有那个终点奖励。自动课程学习(automatic curriculum learning)关心的是“怎么源源不断生成新任务”;开放式探索更关心“被评测的那一方在没人出题时会干什么”。沙盒游戏里的 AI 角色往往只是工程演示,而开放式探索把它当成测量长时智能的尺子。

对从业者和普通人的意义

做智能体的人会发现,这类环境最能暴露长时运行的真实毛病:上下文(context)越滚越乱、目标漂移、陷入重复循环、不知道什么时候该停。它也更容易让“钻空子”(reward hacking)提前露头。评测指标正从“答对多少”转向“行为轨迹的质量”,具体怎么定义各家不同,以官方页面为准。

对普通职场人,它提示了一件事:模型的价值正在从“你问它答”转向“给它一个环境,它能不能自己长出工作节奏”。能把任务说清楚是本事,能在一个没人布置作业的地方不闲着,是另一种本事。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。