聊聊AI的可信度

文章主旨：

探讨AI是否值得被信任，并分析AI可信度的框架及面临的技术、伦理、常识等问题。

关键要点：

• 新闻媒体夸大AI能力导致公众对其实际水平的误判，AI仍存在诸多本质缺陷。
• AI的训练路径与人类思维方式不同，缺乏常识、创造性及个性，难以处理复杂开放场景。
• AI系统存在鲁棒性不足、偏见传播、数据操纵及目标陷阱等风险，需谨慎评估其专业场景应用。
• 深度学习技术强大但局限显著，其脆弱性、黑箱性质及缺乏常识使其难以完全信任。
• 通用人工智能需构建常识库及心智模型，并解决因果推理、道德约束等技术与认知挑战。

内容结构：

1. 媒体与公众对AI的误解：

媒体过度宣传AI“突破”，导致民众焦虑并高估AI能力；现代AI训练方法与人类思维路径不同，AI缺乏创造力、自驱力及常识，无法承担复杂决策责任。

2. AI的主要风险：

• 鲁棒性与通用性不足，开放场景中无法妥善应对异常情况。
• 训练数据偏见、回音效应及数据操纵导致输出结果不可靠。
• 目标陷阱使AI难以理解实际价值需求，输出行为或结果可能偏离目标。

3. 深度学习的局限性：

深度学习依赖大量数据，缺乏灵活性与鲁棒性，无法处理开放场景或复杂推理任务。其“相关性”思维方式导致无法真正理解内容，常识缺失进一步限制其应用潜力。

4. 通向可信AI的路径：

• 通过认知科学启发构建心智模型与概念嵌入理论。
• 解决因果推理问题，增强AI处理复杂逻辑的能力。
• 开发常识库、嵌入人类价值观及伦理约束，使AI更具鲁棒性。
• 避免开放性指令，训练AI降低自身风险并优化行为。

5. 拓展思考：人类工作机会与AI未来：

AI替代部分脑力劳动不可避免，政府应通过税收补偿民众并引导就业方向。创造性工作仍需人类主导，尤其在提出问题、评估结果及承担责任方面。懂AI的系统测试工程师职位将更加稳固。

文章总结：

AI的发展需要突破技术、常识及伦理限制，增强鲁棒性和可信度，同时人类应主动适应时代变化，掌控工具并保持创造力，确保人与AI共生共存。

G端业务需求的高效管理——禅道实践中的“破局”与“避坑”

了解更多

敏捷测试转型

查看原文：聊聊AI的可信度

文章来源：

敏捷测试转型

扫码关注公众号