数据治理对人工智能的成功至关重要
36氪·2025-07-21 11:09
大语言模型(LLM)的应用与潜力 - 自ChatGPT发布以来,大语言模型(LLM)已成为主流,推动各行各业探索其在业务转型中的潜力 [1] - 多种技术如RAG、向量数据库、重排序器等应运而生,帮助构建更强大的AI系统 [1] - 提升AI系统业务影响力的最有效方法依然是数据 [1] 人工智能系统在企业中的应用 - AI需要输入数据才能发挥作用,催生了RAG(检索增强生成)架构 [2] - 输入数据可以是合同、采购订单、工程文档等,具体取决于用例 [2] - 以航空公司客户服务聊天机器人为例,RAG架构包括构建知识库、索引分块文档、检索相关文档块并生成响应 [2] - 数据层的工作对业务影响更为合理和有效,知识存储的质量直接影响AI响应质量 [2] 知识库数据的问题 - 提供的文档可能与用例无关,增加噪音 [5] - 可能缺少解决任务所需的文档 [5] - 文档可能过时或未及时更新 [5] - 文档可能存在版本冲突或包含敏感信息 [5] 数据治理的发展 - 数据治理角色正在扩展,以支持AI系统和非结构化数据治理 [6] - 传统数据治理主要关注结构化数据,但GenAI的出现使其涵盖非结构化数据 [6] - 数据治理通过与业务、AI技术和数据团队协作,可构建安全、准确且可扩展的AI系统 [6] NoSQL数据库的设计 - 许多开发人员在设计NoSQL数据库时仍使用关系型思维模式 [8] - NoSQL数据库有多种类型,设计时需根据其特定用途仔细考虑 [8]