
业务侧大模型落地包含文档预处理、RAG 知识库、Agent 工具编排、上线调优。下面实现一个具备知识库检索工具的简易 Agent,Agent 可以自主判断是否调用知识库回答业务问题。
from langchain_openai import ChatOpenAI
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain_core.tools import tool
# 复用上文已经构建好的vectordb向量库
retriever = vectordb.as_retriever(search_kwargs={"k":3})
@tool
def company_knowledge_search(query:str)->str:
"""用于查询企业内部制度知识库,仅业务相关问题调用此工具。入参为用户问题。"""
docs = retriever.invoke(query)
return "\n".join([d.page_content for d in docs])
tools = [company_knowledge_search]
llm = ChatOpenAI(model="gpt‑4o‑mini", temperature=0, api_key="your-api-key")
agent = create_openai_tools_agent(llm, tools)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True, max_iterations=3)
resp = agent_executor.invoke({"input":"公司的外勤报销流程是什么?"})
print(resp["output"])工程落地流程:先小批量真实数据验证,确认幻觉、异常输入可控之后,再扩大业务接入规模。通用大模型开箱即用无法直接满足业务,数据预处理、参数调优、prompt 约束是必须的工程环节。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。