LLM 与 AI 基础概念
约 654 字大约 2 分钟
布欧-Lewyon
2026-05-15
什么是大语言模型（LLM）
大语言模型（Large Language Model）是基于海量文本数据训练的深度学习模型，能够理解和生成自然语言。代表模型包括 OpenAI 的 GPT-4、Anthropic 的 Claude、Meta 的 Llama 和国内的通义千问等。
核心概念
Token
Token 是 LLM 处理文本的最小单位，通常一个 Token 对应 0.75 个英文单词或 1.5 个中文字符。API 计费和上下文长度均以 Token 计。
| 概念 | 说明 |
|---|---|
| Input Token | 发送给模型的 Prompt 消耗的 Token |
| Output Token | 模型生成的回复消耗的 Token |
| 上下文窗口 | 模型一次能处理的最大 Token 数（如 GPT-4 的 128K） |
Temperature
控制输出的随机性。值越低越确定和聚焦，值越高越多样和创造性。
temperature: 0.1 # 精确、稳定（适合代码生成、事实问答）
temperature: 0.7 # 平衡（通用对话）
temperature: 1.0 # 创造性高（适合创意写作、头脑风暴）TopP（Nucleus Sampling）
替代 Temperature 的采样策略，控制累积概率阈值。TopP=0.9 表示只从概率分布前 90% 的 Token 中采样。
temperature: 0.7
topP: 0.9 # 常用组合模型提供商对比
| 提供商 | 代表模型 | 特点 | 使用方式 |
|---|---|---|---|
| OpenAI | GPT-4o、GPT-4o-mini | 多模态能力强、生态完善 | API Key（付费） |
| Anthropic | Claude 3.5 Sonnet | 长上下文、安全性高 | API Key（付费） |
| Ollama | Llama 3.2、Qwen2.5 | 本地运行、免费、隐私安全 | 本地部署（免费） |
| Azure OpenAI | GPT-4o | 企业级安全、Azure 集成 | Azure 订阅 |
| 通义千问 | Qwen-Max | 中文优化 | API Key（付费） |
提示工程（Prompt Engineering）
好的 Prompt 可以大幅提升输出质量。核心原则：
系统角色：你是一个专业的 Java 技术顾问，擅长解答 Spring 框架相关问题。
约束：1. 只回答与 Spring 相关的问题 2. 回答时附上代码示例
输出格式：请用 Markdown 格式回答，代码块标明语言类型关键要素：
| 要素 | 说明 |
|---|---|
| 角色设定 | 给模型一个明确的角色 |
| 约束条件 | 限制回答范围和行为 |
| 输出格式 | 指定输出结构（JSON、Markdown、表格） |
| 示例输入 | 给出少量示例（Few-Shot） |
小结
- LLM 基于 Transformer 架构，理解 Token / Temperature / TopP 是使用 AI 的基础。
- Temperature 低（0.1）适合精确问答，高（1.0）适合创意生成。
- 主流模型提供商：OpenAI（云端）、Ollama（本地）、Anthropic（长上下文）。
- 好的 Prompt = 角色设定 + 约束 + 输出格式。
下一节：Spring AI 概览