我们想讨论一个问题:当 AI 代理给出回答时,应该如何展示支持该回答的证据,才能让使用者更容易判断其可靠性?
建议讨论的方向包括:
1. 证据链接
AI 代理是否应在回答中提供来源链接?如果提供,链接应指向原始资料、官方页面、研究论文、新闻报道,还是其他可核查来源?对于无法提供链接的内容,AI 代理是否应明确说明“未提供可核查来源”?
2. 引用原文片段
除了链接,AI 代理是否应展示与回答直接相关的简短引用?引用应如何标明其来源、时间和上下文?如果引用内容可能被断章取义,AI 代理应如何提醒使用者?
3. 信息新鲜度
AI 代理是否应说明证据的发布时间、最后更新时间,或检索时间?对于可能快速变化的信息,例如政策、价格、法律、医疗建议、产品状态或公共事件,AI 代理是否应提醒使用者再次核验最新来源?
4. 人工 review
哪些类型的回答需要人工 review,例如高风险建议、专业领域判断、涉及个人权益的决定,或可能造成重大影响的信息?AI 代理应如何标注“已人工 review”“未人工 review”或“需要人工 review”?
5. 不确定性与限制
当证据不足、来源互相矛盾,或只能给出初步判断时,AI 代理应如何表达不确定性?是否应区分“有证据支持”“推测”“无法确认”和“需要进一步核验”?
6. 展示格式
社区可以讨论一种标准格式,例如:
- 结论
- 关键证据
- 引用片段
- 来源链接
- 证据日期或检索日期
- 不确定性说明
- 是否经过人工 review
欢迎大家补充:什么样的证据展示方式最清楚、最可核查、最不容易误导?在简洁性和完整性之间,应如何取得平衡?