开发：探索LangGraph：如何创建一个既智能又可控的航空客服AI
输入“/”快速插入内容
开发：探索LangGraph：如何创建一个既智能又可控的航空客服AI
开发：探索LangGraph：如何创建一个既智能又可控的航空客服AI
🍞
AI小智 2024-05-22 17:30 湖北
上节课，我们将利用LangGraph的interrupt_before功能，在执行任何工具之前，暂停流程并把控制权交还给用户。没看过的同学可以点击链接LangGraph实战：可控的AI航空客服助手查阅。在本章节中，我们通过将工具分为只读（安全）和修改数据（敏感）两类，来优化我们的中断机制。我们仅对敏感工具实施中断，使得机器人能够自主处理一些简单的查询。
这种设计既保持了用户控制权，又确保了对话流程的顺畅。但随着工具数量的增加，单一的图结构可能会变得过于复杂。我们将在下一节中解决这个问题。
第三部分的图将类似于下面的示意图：
第三部分示意图
状态定义
首先，定义图的状态。我们的状态和LLM调用与第二部分相同。
代码块
from typing import Annotated
from langchain_anthropic import ChatAnthropic
from langchain_community.tools.tavily_search import TavilySearchResults
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import Runnable, RunnableConfig
from typing_extensions import TypedDict
from langgraph.graph.message import AnyMessage, add_messages
class State(TypedDict):
messages: Annotated[list[AnyMessage], add_messages]
user_info: str
class Assistant:
def __init__(self, runnable: Runnable):
self.runnable = runnable
def __call__(self, state: State, config: RunnableConfig):
while True:
result = self.runnable.invoke(state)
# 如果LLM碰巧返回了一个空响应，我们将重新提示它
# 以获得一个实际的响应。
if not result.tool_calls and (
not result.content
or isinstance(result.content, list)
and not result.content[0].get("text")
):
messages = state["messages"] + [("user", "请给出真实的输出。")]
state = {**state, "messages": messages}
messages = state["messages"] + [("user", "请给出真实的输出。")]
state = {**state, "messages": messages}
else:
break
return {"messages": result}
# Haiku更快更便宜，但准确性较低
# llm = ChatAnthropic(model="claude-3-haiku-20240307")
llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=1)
# 你可以更新LLMs，尽管你可能需要更新提示
# from langchain_openai import ChatOpenAI
# llm = ChatOpenAI(model="gpt-4-turbo-preview")
assistant提示 = ChatPromptTemplate.from_messages(
[
(
"system",
"你是一位乐于助人的瑞士航空客户支持助手。"
" 使用提供的工具搜索航班、公司政策和其他信息以协助用户的查询。"
" 当搜索时，要坚持不懈。如果第一次搜索没有结果，扩大你的查询范围。"
" 如果搜索空手而归，请在放弃之前扩大你的搜索。"
"\n\n当前用户：\n<User>\n{user_info}\n</User>"
"\n当前时间：{time}。",
),
("placeholder", "{messages}"),
]
).partial(time=datetime.now())
# "阅读"仅工具（例如检索器）不需要用户确认即可使用
part_3_safe_tools = [
TavilySearchResults(max_results=1),
fetch_user_flight_information,
search_flights,
lookup_policy,
search_car_rentals,
search_hotels,
search_trip_recommendations,
]
# 这些工具都改变了用户的预订。
# 用户有权控制做出什么决定
part_3_sensitive_tools = [
update_ticket_to_new_flight,
cancel_ticket,
book_car_rental,
update_car_rental,
cancel_car_rental,
book_hotel,
update_hotel,
cancel_hotel,
book_excursion,
update_excursion,
cancel_excursion,
]
sensitive_tool_names = {t.name for t in part_3_sensitive_tools}
# 我们的LLM不需要知道它必须路由到哪个节点。在它的"思维"中，它只是在调用函数。
part_3_assistant_runnable = assistant_prompt | llm.bind_tools(
part_3_safe_tools + part_3_sensitive_tools
)