工具调用实战:从一个 curl 到能跑的 Agent 循环
工具调用是检验一个网关成色的试金石。文本透传谁都会做,但结构化参数的生成、解析、聚合、回传四个环节,任何一环处理得不严谨,模型就会开始一本正经地胡说八道。
先跑通单轮,再上框架
不要一上来就接 Agent 框架。用最朴素的请求把一次「模型请求工具 → 你执行 → 回传结果 → 模型总结」走通,每一步都能打印出来。这条链路通了,接什么框架都是水到渠成。
所以做工具调用的第一天,不要急着接 Agent 框架,先用最朴素的 curl 把单轮工具调用跑通。
这样即使上游模型被诱导输出恶意工具调用,最坏结果也只是「没执行」,而不是「被执行了」。
跨协议搬运三样东西
Anthropic 侧是 tools + tool_use/tool_result 块,Chat Completions 侧是 tool_calls + tool 消息。工具声明、工具调用、工具结果,三样都要翻译,多轮历史也得跟着翻。
很多客户端在定义自定义工具时不会写 object.properties,直接把参数声明成一个字符串。
网关在转换时应该把这类工具补齐成合法的 JSON Schema,并明确 strict = false。
自定义工具的 schema 要补齐
不少客户端定义自定义工具时只写一句描述、不写 properties。网关应该把这类工具补齐成合法的 JSON Schema,并明确 strict = false,否则模型收到的工具描述本身就是残缺的。
工具参数和结果不进日志
工具参数里经常装着用户数据、文件内容甚至密钥。请求日志应该记录模型、耗时、token、状态这些元信息,而不是原始参数。这是安全底线,不是优化项。
工具调用参数里经常包含用户数据、文件内容、甚至密钥。
网关的请求日志应该记录元信息(模型、耗时、token、状态),而不是原始参数和结果。
实操:单轮工具调用的最小闭环,先跑通再加 Agent 框架。
先只看这一段代码的骨架,把每一步的输入输出打印出来。
import json, os
from openai import OpenAI
client = OpenAI(api_key=os.environ["GATEWAY_API_KEY"],
base_url="https://aiminis.info/v1")
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "查询指定城市的天气",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "杭州今天天气怎么样?"}]
resp = client.chat.completions.create(
model="gpt-6-sol", messages=messages, tools=TOOLS,
)
msg = resp.choices[0].message
if msg.tool_calls:
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = my_weather_func(args["city"]) # 你的业务逻辑
messages.append(msg) # 模型发出的调用
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result, ensure_ascii=False),
})
final = client.chat.completions.create(
model="gpt-6-sol", messages=messages, tools=TOOLS,
)
print(final.choices[0].message.content)
几个容易踩的坑
- 自定义工具没写
properties,模型收到的工具描述是残缺的。 - 工具结果和普通文本混在同一条消息里时,按「一轮只有一个工具」来解析。
- 把工具的原始参数写进请求日志,日志成了数据泄露源。
- 在流式下把分片参数直接拼成字符串当 JSON 解析,遇到被转义的引号就炸。
小结
网关这层看不见,但它的每一次选择都在影响你的延迟、成本和成功率,值得花点时间打磨。
如果你也碰到上面这些问题,可以看看 https://aiminis.info/ —— 一个把协议适配、渠道调度、用量与额度都收敛在一起的 AI API 网关,OpenAI 与 Anthropic 两套协议都能直接接。
- 点赞
- 收藏
- 关注作者
评论(0)