任务质量
结果在多大程度上回应了目标?
跨应用评测
有用的 AI 需要理解任务、选择可行行动,并根据结果调整。让这些过程能够被比较。
先定义任务与可用信息,再比较不同方法。
01 / 任务
设定目标、初始场景与完成条件。
02 / 观测
明确系统能够获得的场景信息与测量。
03 / 行动
设定允许的变化、工具权限、物理限制与资源预算。
04 / 结果
审阅结果、约束遵守情况,以及通向结果的步骤。
共同标准
既看完成了什么,也看付出了什么。
结果在多大程度上回应了目标?
选择是否符合场景与允许的限制?
是否选用了合适的工具与输入?
需要哪些测量、计算与行动?
面对规定的任务或环境变化,方法如何应对?
观测与行动能否解释最终结果?
从预测到现实
物理测量检验模型,受控任务检验基于模型做出的决策,两者共同构成判断依据。
在对应的几何、材料与传感设置下,将预测与实测进行比较。
使用相同任务条件与明确资源,纳入未成功的尝试和剩余不确定性。
区分模型偏差、工具问题与决策问题,让下一步改进有明确对象。