完整文档索引见 llms.txt。 在任意 URL 后追加 `.md` 即可查看该页面的 Markdown 版本。
模型交互
模型交互指的是为了获得期望输出而与模型通信的过程,也就是向模型发送提示词, 并接收其返回结果。
OpenAI-compatible API
OpenAI-compatible API 实现了与 OpenAI 官方 API 相同的请求和响应格式,使开发者能够在不修改现有代码的情况下切换不同模型。
Anthropic-compatible API
Anthropic-compatible API 复现了 Anthropic 的 Messages API,因此基于 Claude 的客户端、SDK 和 agent 工具只需极少代码改动即可使用其他模型或 provider。
函数调用(Function calling)
了解 function calling 是什么,以及它适用于哪些场景。
结构化输出(Structured outputs)
Structured outputs 是采用 JSON、XML 等定义格式的模型响应,使 AI 生成的数据可预测、机器可读,并且易于集成到应用和工作流中。
Model Context Protocol
了解 Model Context Protocol(MCP)是什么,以及它的典型用法。
提示工程(Prompt engineering)
理解面向 LLM inference 的 prompt engineering。学习 system prompt、user prompt、zero-shot 和 few-shot prompting、KV cache 影响、token 成本以及生产最佳实践。
LLM 推理参数
LLM inference parameters 是请求时设置,用于控制随机性、输出长度、重复、停止行为、可复现性以及 structured generation。