炒作拆解

AI智能体在虚拟岛屿上“玩起来了”?证据没有那么远

13个智能体在模拟环境中探索,之后部分任务得分提高,但不能据此证明意识或自主欲望。

简要事实:MIT研究人员把13个AI智能体放入虚拟岛屿,约30小时不给它们具体任务。智能体尝试环境允许的动作,与模拟世界互动。之后在同一模拟环境的部分任务中,它们的成绩高于对照组。作者把这种行为描述为类似游戏的探索。研究目前是预印本,还需要更广泛的独立审查。

“玩起来了”很容易让人联想到内在兴趣,甚至意识,但实验没有证明这些。初始提示已经把智能体设定为好奇的角色,行为发生在专门设计的世界里,工具和规则都由研究者提供。长时间尝试之后成绩提高,是值得研究的现象,却不能说明模型自己产生了想玩的愿望,也不能保证收益能迁移到其他任务。要判断方法的价值,需要换用不同模型、环境和提示重复实验,并公平比较计算成本。目前准确的说法是:在一个模拟场景中观察到探索行为,以及有限的后续成绩提升。把人的动词借来描述机器行为很方便,但它不能回答机器是否有体验。

评估这项研究时,还要看实验中的任务与自由探索阶段是否共享太多规则或信息。如果后续考题主要考察在同一岛屿上见过的对象,提高成绩也可能只是熟悉环境。更有说服力的测试应让模型进入新的世界,控制练习时长,并报告失败和无效探索的比例。十三个智能体是一个有趣的起点,但样本和环境都有限,不宜据此推断所有AI系统都会自然产生游戏行为。论文中使用“游戏”是研究者给某种探索方式起的名字,不是对心理状态的测量。报道可以介绍这种训练思路,因为探索也许能帮助智能体学习;同时必须保留方法上的限制,不应把拟人化标题当成实验结论。

还要注意,这些智能体并不是被完全放任的自然生物。它们运行在研究者给定的代码、目标函数和交互接口内。所谓“没有任务”只是没有一项即时指派的目标,不代表系统没有先前训练或提示约束。对研究最公平的解读是:自由探索可能成为一种训练方法,其收益边界仍待检验。如果后续实验无法重复,也应允许修正现在的结论。把实验现象和哲学上的意识问题分开,读者才能看清真正的新意。