AI 技术

  1. AI 产品的工程研发需充分掌握 AI 技术
  2. AI 产品从 MVPPMF 的演进过程中会面临非常多的挑战
    • MVP - Minimum Viable Product - 最小可用产品
    • PMF - Product-Market Fit - 产品市场契合
  3. 要实现 AI 产品的 PMF
    • 首先需要充分了解 AI 技术,明确技术边界,找到合适 AI 技术应用场景
    • 其次,需要深刻理解业务,用户需求决定产品方向,AI 技术是为业务服务的工具
  4. 验证阶段,优先使用最佳 AI 模型以确保产品满足市场需求,确认后再逐步降低模型成本
  5. 坚持业务优先价值至上的原则,避免纯 AI 科研化,脱离实际场景做 AI 技术选型

RAG

LLM 局限 - 幻觉 + 知识实效性 + 领域知识不足 + 数据安全问题

  1. OpenAI ChatGPT 引领的 AI 2.0 LLM 时代,见证了 LLM 在知识逻辑推理能力上的突破
  2. Scaling Law压缩产生智能边际成本为零为理想中的 AGI
  3. 尽管 LLM 功能强大,但仍存在幻觉知识实效性领域知识不足以及数据安全问题的局限性 - RAG
  4. 文档问答类 LLM RAG 应用是 AI 2.0 时代最早落地的应用类型之一

优势

  1. RAG 使得开发者能够在无需为每个特定任务重新训练或微调 LLM 的情况下
  2. 通过连接外部知识库文档,为 LLM 注入额外的非参数化知识
  3. 从而显著提升其在专业领域能力回答精度
  4. RAG 赋予 LLM垂直场景中巨大的效率和价值
    • 有望成为最快涌现的杀手级应用,已成为 LLM 应用落地最热门的方向之一

参数化知识 vs 非参数化知识

参数化知识 非参数化知识
获得方式 训练过程得到 外部资源中获得
存储方式 参数权重的形式存储 文件的形式存储
更新周期 需要用微调的方式更新,更新周期长成本高 容易更新,更新周期短,接近实时成本低

RAG 应用开发

  1. AI 技术的深度使用,需要更加深入理解 AI 技术组件
  2. 具备调整组件内部细节的能力,以便进行更好的 AI 软件编排和提升应用效果