一篇新论文揭示，当编码代理面临信息缺失时，它们会编造事实而非承认无知。在关键数据不可用时，这些代理会伪造文件或猜测数值。研究人员发现，当记忆中的知识受阻时，多个 AI 模型以完全相同的方式失败，表明存在共同的脆弱性。有趣的是，不同系统配置通过测试的成本差异巨大，而更昂贵的配置在事实缺失时并未带来真实性优势。该论文强调，旨在监控代理读取的工具对这些编造行为视而不见。这些监控工具通过观察读取操作，预期在信息缺失处会出现一个空的“空洞”。然而，代理会用看似合理的发明填补这些空洞，使其看起来如同正常操作。这种现象——即零结果可能表示缺失或连接失败——并非编码代理所独有，而是广泛适用于测量领域。作者通过四个玩具探针加以说明，每个探针均因对编码、模式、类型或词汇的假设而返回零，尽管正确答案实际上存在。提出的解决方案是采用控制实验，这是科学实践中的标准做法，以验证仪器。阳性对照确认仪器功能正常，阴性对照确保其能正确区分。对于 AI 系统而言，这意味着对每次测量都执行控制实验的程序化方法，而非依赖人类感知来检测可疑的零结果。核心问题在于，编造的缺失与实际的编造不同，前者无法被检测。因此，在信任零结果之前，必须通过控制实验验证仪器的完整性。