Ray Content Technologies · 镭内容科技← 资源中心
首页/资源/知识库/当人工智能阅读文档时
文档可读性

当人工智能阅读文档时

SimpliSafe 的更新说明揭示了人工智能的准备程度。这些说明对人类来说讲得通——我们会自动补全缺失的上下文;人工智能系统做不到,只能靠猜。

我最近查看了 SimpliSafe 发布的一个支持主题,说明客户如何更新家庭安全系统的固件。乍一看,这个主题非常合理。文章写得清晰简洁,一位普通读者可能轻松完成更新过程。

正是这一点,使它成为一个有用的教学工具——帮助技术文档撰写者写出人工智能问答引擎更容易处理的内容。

对人类来说易于理解的内容,对人工智能来说可能仍然存在很大的歧义。

人类非常擅长补全缺失的语境。我们会自动推断各种关系,假定因果关系,理解隐含的主语和未明确说明的条件——因为我们一生都在处理不完整的交流。

人工智能系统并不“理解”这些关系。它们不是通过理解,而是以概率的方式推断。这个区别很重要。

SimpliSafe 的主题包含几个例子:操作环境不是被明确建模,而是通过暗示呈现。这些不足会造成检索错误、程序流程混乱,以及人工智能产生幻觉的可能性。

原始主题如下:SimpliSafe:更新您的 SimpliSafe 系统

我使用 TRACE 框架来评估该主题——这是我一直在开发的框架,旨在确定人工智能系统生成可靠答案需要哪些上下文信号。

T Task 任务
R Role 角色
A Actor 执行者
C Condition 条件
E Event 活动

目标不是让文档听起来像机器人。而是通过明确操作环境,减少歧义,从而避免人工智能系统需要进行猜测。

从这里开始,这个话题就变得难以理解了。

01

执行者的身份是暗示的,而不是明确说明的

文档中说明:

原文

“在您解除系统武装后,系统会自动更新。”

修订

“SimpliSafe 基站会在房主解除安全系统后自动安装固件更新。”

对人类来说没问题。但是谁来执行更新?

说明中缺少关于执行者的信息。人们通常会尝试推断答案。人工智能系统通常会自行生成一个答案。

修改后的版本明确了执行更新操作的参与者、涉及的人员角色、触发条件。这大大减少了推理量。

02

提到了条件,但没有进行建模

该主题在正文中提到了蓝牙的要求:

原文

“您需要确保已启用蓝牙……”

修订 · 所需条件
  • 移动设备已启用蓝牙
  • 用户位于智能锁的蓝牙范围内
  • 智能锁电池电量高于最低工作阈值
  • 提供互联网连接

这句话包含一个重要的操作依赖关系,但它被含蓄地表达,而不是作为正式条件处理。在检索和摘要过程中,人工智能系统经常会忽略这种隐含的前提条件。

这种结构使操作依赖关系清晰明了,便于机器读取。

03

触发事件以散文形式呈现,而不是作为状态变化

该主题解释说,系统解除武装后才会发生更新,但它从未明确描述状态转换本身。

这一点很重要,因为人工智能系统通常会将事件序列简化为模糊的摘要。

原文

“在您解除系统武装后,系统会自动更新。”

修订 · 结构化描述
触发事件
房主解除安全系统武装
系统行为
基站自动开始固件安装
操作流程
安装完成后系统恢复待命

此版本用于识别触发事件、由此产生的系统行为、操作流程。这样一来,检索系统和大型语言模型就能更轻松地正确理解信息。

04

流程界限变得模糊

该主题将基站更新、智能锁更新、相机更新、故障排除、固件行为整合为一个统一的工作流程。

人类通常能够解决这个问题。人工智能分块系统通常无法做到。

这会增加检索污染的可能性:原本适用于一种设备或流程的指令,被错误地应用于另一种设备或流程。

原文

一个大型主题,涵盖多个更新流程。

修订 · 拆分主题
  • 更新基站固件
  • 更新智能锁固件
  • 更新相机固件
  • 解决固件更新失败问题

每个主题都应明确定义:执行者、触发事件、所需条件、预期结果、失败状态。

这样做可以为人类和人工智能系统创建更清晰的语义边界。

05

故障状态的描述会简化为通用的故障排除语言

主题显示:

原文

“如果您的系统未能更新……”

修订 · 区分故障状态
固件下载失败
基站无法从 SimpliSafe 更新服务获取更新包
安装超时
固件安装时间超过允许的完成时间
蓝牙配对失败
移动设备无法与智能锁建立蓝牙连接
连接中断
下载或安装过程中 Wi-Fi 连接中断

这个说法掩盖了多种不同的失败情况:固件下载失败、中断安装、不支持的固件版本、连接超时、蓝牙配对失败、设备同步问题。

人类最终可能会弄清楚其中的区别。人工智能系统通常会将所有这些问题归结为通用的故障排除建议,因为文档中没有明确区分这些问题。

现在,系统可以区分不同的故障状态,而不再将“更新失败”视为一种模糊的单一状态。

文档本身并不“差”

需要强调的是,文档本身并非“质量差”。事实并非如此。这个主题属于比较典型的技术文档。大多数技术文档撰写者都能立即识别出这种风格。许多客户可能都能成功完成整个流程。

这就是为什么这个例子如此重要的原因。这些文档是为人类理解而写,不是为人工智能检索和生成而写。

人类对隐含语境具有极强的适应能力。人工智能系统则不然。当实际关系未明确说明时,大型语言模型会通过概率方式进行补偿。

幻觉通常就是从那里开始的:

  • 将操作分配给错误的执行者
  • 合并不相关的流程
  • 跳过条件
  • 将事件序列扁平化
  • 虚构因果关系

业界一直在谈论“适合人工智能的内容”,好像仅仅通过调整结构就能解决问题。但事实并非如此。

一个 DITA 主题可以是一个完全有效的 XML 文件——但仍然缺少人工智能系统生成可靠答案所需的运行环境。