数据管理对生成式人工智能的影响

       2023年将是我们记住的人工智能时代的主流开端，由每个人都在谈论的技术:ChatGPT推动。

　　像ChatGPT这样的生成式人工智能语言模型已经抓住了我们的想象力，因为我们第一次能够看到人工智能像真人一样与我们对话，并生成散文、诗歌和其他我们认为有创意的新内容。生成式人工智能解决方案似乎充满了突破性的潜力，可以实现更快、更好的创新、生产力和实现价值的时间。然而，它们的局限性尚未得到广泛理解，它们的数据隐私和数据管理最佳实践也尚未得到广泛理解。

　　最近，由于缺乏对人工智能技术使用的理解和足够的监管护栏，技术和安全界的许多人都敲响了警钟。我们已经看到人们对人工智能工具输出的可靠性、知识产权和敏感数据泄露以及侵犯隐私和安全的担忧。

　　在这家科技巨头无意中将自己的秘密泄露给ChatGPT后，三星与ChatGPT的事件成为头条新闻。三星并不是唯一这样做的公司:Cyberhaven的一项研究发现，4%的员工曾将敏感的公司数据输入大型语言模型。许多人没有意识到，当他们用企业数据训练模型时，人工智能公司可能能够在其他地方重用这些数据。

　　似乎我们不需要更多的网络犯罪素材，网络安全情报公司RecordedFuture透露:“在ChatGPT发布的几天内，我们在暗网和特殊访问论坛上发现了许多威胁行为者，他们分享有缺陷但功能齐全的恶意软件、社会工程教程、赚钱计划等等——所有这些都是通过使用ChatGPT实现的。”

　　私人互联网接入工程总监JoseBlaya说，在隐私方面，当一个人使用ChatGPT这样的工具注册时，它可以访问IP地址、浏览器设置和浏览活动——就像今天的搜索引擎一样。但风险更高，因为未经个人同意，它可能会泄露政治信仰或性取向，并可能意味着尴尬甚至毁掉职业生涯的信息被发布。

　　显然，我们需要更好的法规和标准来实施这些新的人工智能技术。但是对于数据治理和数据管理的重要作用却缺少讨论，因为这在企业采用和安全使用人工智能方面可以发挥关键作用。

　　一切都与数据有关　　

　　以下是应该关注的三个方面:

　　1.训练数据的数据治理和透明度:核心问题围绕专有的预训练AI模型或大型语言模型(LLM)展开。使用llm的机器学习程序包含来自许多来源的大量数据集。问题是，LLM是一个黑盒子，几乎不提供源数据的透明度。我们不知道来源是否可信，无偏见，准确或非法包含个人身份信息或欺诈性数据。例如，开放人工智能就不会共享其源数据。《华盛顿邮报》分析了谷歌的C4数据集，涵盖了1500万个网站，发现了数十个令人讨厌的网站，其中包括煽动性和个人身份信息数据以及其他可疑内容。我们需要数据治理，它要求所使用的数据源透明，并要求来自这些数据源的知识的有效性/可信度。例如，你的人工智能机器人可能会根据未经证实的来源或虚假新闻网站的数据进行训练，从而使其知识产生偏差，而这些知识现在是你公司新政策或研发计划的一部分。

　　2.数据隔离和数据域:目前，不同的人工智能供应商在如何处理你提供的数据隐私方面有不同的策略。不知不觉中，您的员工可能会在他们的提示中向LLM提供数据，而不知道该模型可能会将数据合并到其知识库中。公司可能会在不知情的情况下将商业机密、软件代码和个人数据泄露给世界。一些人工智能解决方案提供了变通方法，例如通过将数据排除在预训练模型之外来保护数据隐私的api，但这限制了它们的价值，因为理想的用例是用特定情况的数据增强预训练模型，同时保持数据的私密性。一个解决方案是让预先训练过的人工智能工具理解数据“域”的概念。训练数据的“通用”领域用于预训练，并在实体之间共享，而基于“专有数据”的训练模型扩展则安全地限制在组织的边界内。数据管理可以确保创建和保留这些边界。

　　3.人工智能的衍生作品:数据管理的第三个领域与人工智能过程及其最终所有者生成的数据有关。假设我使用AI机器人来解决编码问题。如果某些事情没有正确完成，导致bug或错误，通常我会知道谁做了该调查和修复的事情。但有了人工智能，我的组织要为我要求人工智能执行的任务所导致的任何错误或不良后果负责——即使我们对流程或源数据不透明。你不能责怪机器:在某个地方，是人类造成了错误或糟糕的结果。那么IP呢?你是否拥有使用生成式AI工具创作的作品的IP?你在法庭上怎么辩护?据《哈佛商业评论》报道，艺术界已经开始提起诉讼。

　　现在要考虑的数据管理策略　　

　　在这些早期阶段，我们不知道我们对人工智能的不了解，包括坏数据、隐私和安全、知识产权和其他敏感数据集的风险。人工智能也是一个广泛的领域，有多种方法，如法学硕士，基于逻辑的自动化，这些只是通过结合数据治理政策和数据管理实践来探索的一些主题:

• 暂停对生成式人工智能的实验，直到你有一个监督战略、政策、

　　以及降低风险和验证结果的程序。

• 合并数据管理指南:首先要对自己的数据有一个坚实的理解，无论它位于哪里。你的敏感个人信息和客户数据在哪里?你有多少IP数据，这些文件在哪里?你能否监控使用情况，以确保这些数据类型不会被无意中输入人工智能工具，并防止安全或隐私泄露?

　　•不要给人工智能应用程序提供超过所需的数据，不要共享任何敏感的专有数据。锁定/加密IP和客户数据，防止其被共享。

• 了解人工智能工具如何以及是否可以与数据源透明。

　　供应商能保护你的数据吗?谷歌在其博客中分享了这一声明，但“如何”并不清楚:“无论一家公司是在VertexAI中训练模型，还是在GenerativeAIAppBuilder上构建客户服务体验，私人数据都是保密的，不会用于更广泛的基础模型训练语料库。”阅读每个人工智能工具的合同语言，了解你提供给它的任何数据是否可以保密

标记业主或委托项目的个人或部门的衍生作品的数据。这很有帮助，因为你可能最终要对公司产生的任何工作负责，你想知道人工智能是如何被纳入过程的，以及由谁加入的。

• 确保域间数据的可移植性。例如，团队可能想要剥离其IP和识别特征的数据，并将其提供给通用训练数据集以供将来使用。这个过程的自动化和跟踪是至关重要的。

• 随时了解正在制定的任何行业法规和指导方针，并与其他组织的同行交流，了解他们是如何实现风险缓解和数据管理的。

• 在开始任何生成式人工智能项目之前，请咨询法律专家，了解发生数据泄露、隐私和知识产权侵犯、恶意行为者或虚假/错误结果时应遵循的风险和流程。

　　企业中人工智能的实用方法　　

　　人工智能正在迅速发展，并以前所未有的速度加速创新、削减成本和改善用户体验，具有巨大的潜力。但就像大多数强大的工具一样，人工智能需要在适当的环境中谨慎使用，并配备适当的数据治理和数据管理护栏。人工智能数据管理的明确标准尚未出现，这是一个需要进一步探索的领域。同时，企业在使用人工智能应用之前，应该谨慎行事，确保清楚地了解数据暴露、数据泄露和潜在的数据安全风险。