AI智能应用：十几行代码，把模型变成产品

很多人以为做 AI 应用，就是训练一个大模型。其实真正落地的 AI 智能应用，拼的不是模型有多大，而是模型 + 私有数据 + 业务动作 + 交互界面能不能串成一条闭环。代码可以很少，场景必须很准。

一、AI智能应用的三层结构

一个能用的 AI 应用，通常分三层：

• 模型层：大模型负责理解、生成和推理；
• 能力层：检索、工具调用、记忆、工作流，让模型“有依据、能做事”；
• 交互层：网页、App、企业微信、API，让用户真正用起来。

缺了能力层，它只是个聊天框；缺了交互层，它只是个演示。真正的智能应用，是让用户少填一张表、少打一个电话、少查一次系统。

二、最小可用应用：一个知识问答接口

下面这段 Python 只有十几行，却是一个 AI 智能应用的骨架：系统提示词约束角色，用户问题带上资料，模型基于资料回答。

import os
from openai import OpenAI

client = OpenAI(api_key=os.getenv("OPENAI_API_KEY"))

def ask(question: str, context: str = "") -> str:
    messages = [
        {"role": "system", "content": "你是企业知识助手，只根据资料回答，不知道就说不知道。"},
        {"role": "user", "content": f"资料：{context}\n问题：{question}"}
    ]
    resp = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=messages
    )
    return resp.choices[0].message.content

运行前把 API Key 放进环境变量。这个函数不解决检索、权限和评测，但它跑通了最核心的链路：提问 → 组装上下文 → 模型回答。

三、让 AI 懂你的数据：RAG 是标配

通用模型不知道你公司的产品价格、内部制度和最新工单。RAG 的思路很简单：先把文档切块、向量化、存进向量库；用户提问时，先检索最相关的几段，再塞进上面的 context。

流程只有四步：

1. 文档切块；
2. 向量化入库；
3. 按问题检索 Top-K；
4. 拼进提示词交给模型。

代码量取决于你用哪家向量库，但核心逻辑不变：先检索，再生成。没有 RAG，AI 只能靠记忆胡编；有了 RAG，它才能引用你的资料。

四、提示词比代码更重要

同样的模型，提示词不同，效果天差地别。一个好提示词要写清五件事：

• 角色：你是谁，擅长什么；
• 任务：具体要做什么；
• 上下文：资料、历史对话、用户信息；
• 约束：不许编造、必须引用来源、控制字数；
• 格式：JSON、Markdown、表格还是纯文本。

例如：“你是客服助手。只根据知识库回答，找不到答案就转人工。输出包含 answer 和 source 两个字段。” 这比一句“帮我回答用户”有效得多。

五、AI智能应用的典型场景

共同点：模型负责“说人话”，工具负责“干实事”。

六、评测与安全

AI 应用上线前，至少盯四个指标：回答准确率、任务完成率、单次成本、危险操作次数。

安全上做四件事：权限分级、敏感信息脱敏、危险操作二次确认、全程日志可追溯。涉及付款、删除、发布、医疗建议，必须有人工确认或强规则兜底。

七、常见坑

第一，只做聊天框，不接业务系统，用户问完还得自己操作。 第二，不做 RAG，模型全靠编，幻觉率极高。 第三，提示词写得太泛，输出格式不稳定。 第四，没有评测集，改一版提示词不知道变好还是变坏。 第五，忽视成本，长上下文和频繁调用会让账单失控。

八、结语

AI 智能应用，代码可以只有十几行，但背后要有清晰的场景、可靠的资料、明确的工具和安全边界。模型是发动机，数据是燃料，工具是车轮，交互是方向盘。

记住：用户不关心你用了什么模型，只关心问题有没有被解决。 先跑通最小闭环，再逐步加检索、工具和评测。这样，AI 才不只是玩具，而是真正能干活的智能应用。