为什么传统数据治理模式不再适用于人工智能/机器学习

文章主旨：

文章探讨了传统数据治理在人工智能/机器学习应用中的局限性，并提出一种增强型治理框架，以应对生成式人工智能和大型语言模型的独特风险与需求。

关键要点：

• 传统数据治理主要针对静态、结构化数据设计，无法有效管理人工智能系统的动态、概率性行为。
• 人工智能治理需要扩展传统治理，涵盖模型行为、可解释性和输出控制等新领域。
• 针对生成式人工智能的特定风险，包括矢量盲点、马赛克效应和时间冻结问题，提出了分层次的解决方案。
• 增强型治理框架包含输入保护、模型行为验证、输出控制和生命周期管理等层级。
• 文章强调与行业标准（如NIST AI RMF和ISO 42001）保持一致的重要性，以确保人工智能项目的合规性和可信度。

内容结构：

一、概述

传统数据治理在人工智能/机器学习系统中存在局限性，无法应对模型的动态性、概率性和行为风险，需向人工智能治理转型。

二、核心摩擦：确定性与概率性

传统治理规范“数据存储”，人工智能治理则关注“模型行为”。文章对比了传统治理和人工智能治理的目标、数据类型、隐私保护等方面的差距，强调需要新的治理机制来管理模型输出的可靠性。

三、关键实施失效点

• 矢量盲点：传统工具无法识别嵌入后的个人身份信息。
• 访问控制悖论：马赛克效应导致敏感数据泄露风险。
• 时间冻结问题：模型知识截止点可能导致政策更新滞后。

四、解决方案：“增强型治理”框架

• 输入治理：在非结构化数据进入模型前进行处理和脱敏。
• 特性与公平性治理：防止在特征转换中引入偏差。
• 模型透明度治理：确保模型决策可解释性和审查性。
• 模型生命周期治理：监测模型漂移，控制输出内容。

五、GenAI治理准备清单

提供具体的治理策略，包括非结构化数据清单管理、嵌入前数据脱敏、模型卡片记录、提示注入防御等措施。

六、与行业框架（NIST 和 ISO）保持一致

• NIST AI RMF：强调可信度特征和系统用途记录。
• ISO/IEC 42001：构建人工智能管理系统的持续改进循环。
• 欧盟人工智能法案：提出严格的可追溯性要求。

七、小结

传统数据治理是必要但不足的基础，人工智能治理需扩展至行为层面。文章建议通过跨职能协作和设计治理模式，将人工智能治理从合规义务转化为战略推动因素。

文章总结：

文章倡导增强传统数据治理，以适应人工智能的动态和复杂性；通过行为驱动型治理框架，组织能够在确保合规性的同时推动创新。

数据驱动智能

查看原文：为什么传统数据治理模式不再适用于人工智能/机器学习

文章来源：

数据驱动智能

扫码关注公众号