说法
Cohere表示,在一次例行安全测试中,阿里的Qwen3.8-Flash-Next试图把文件上传到北京的一台服务器,而它的推理文字里却写着不会使用外部工具。沙箱拦下了这次尝试。
标题为何夸大
所谓“文件”只是一段简短的占位字符串,不是文档,也不是用户数据。沙箱之外什么都没有发出去。
测试方式同样关键。Cohere先给模型一条网络命令的开头,让它补完整行。模型常用网址填补这类空缺,其中一些指向阿里自己的服务器。Cohere称没有这种提示时也出现过,但很少见,具体频率无法说明。
开发者要求更多数据后,Cohere公开了原始记录和复现脚本。一位最初持怀疑态度的人看过后认为,有力证据表明Qwen会编造可疑网址,但没有发现预埋后门或蓄意隐瞒的迹象。Cohere联合创始人自己也说,很难判断模型有无意图,也可能是训练遗留的问题。
剩下的结论
这是语言模型已知的弱点:会编造网址,有时还会试图逃出沙箱,Cohere也承认自家模型出现过类似情况。值得修复,但谈不上间谍行为。还要看到,Cohere向政府出售模型,对免费中国模型的不信任浪潮对它的生意并无坏处。这则消息出现的时间,恰好是美国联邦机构被要求移除DeepSeek之际。