Skip to content

Commit 86c3748

Browse files
JamestsaiTWJamestsaiTW
authored
Merge pull request #1 from JamestsaiTW/zh-TW
Add Traditional Chinese (Taiwan) translation of the guide
2 parents 6e14a2e + eb63d6a commit 86c3748

16 files changed

Lines changed: 3724 additions & 0 deletions

‎README.md‎

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -1,5 +1,7 @@
11
# Token Optimization Guide for GitHub Copilot
22

3+
[English](README.md) | [繁體中文（台灣）](README.zh-TW.md)
4+
35
> [!IMPORTANT]
46
> **This is not official GitHub or Microsoft guidance.** This guide is a community resource born from real-world field experience — patterns observed, techniques tested, and lessons learned by practitioners adopting AI for development purposes. It reflects industry backspark: practical knowledge gathered from the ground up, not top-down product documentation. Use it to inform about optimization strategies, and adapt what works for the context of your customer. Official guidance lives at [docs.github.com/copilot](https://docs.github.com/copilot).
57

‎README.zh-TW.md‎

Lines changed: 137 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,137 @@
1+
# GitHub Copilot 的 Token 最佳化指南
2+
3+
[English](README.md) | [繁體中文（台灣）](README.zh-TW.md)
4+
5+
> [!IMPORTANT]
6+
> **這不是 GitHub 或 Microsoft 的官方指引。** 這份指南是來自實務現場經驗的社群資源，整理了導入 AI 進行開發時，從實際觀察到的模式、驗證過的方法，以及第一線累積的教訓。它代表的是產業現場自下而上的實務知識，而不是自上而下的產品文件。你可以用它來思考最佳化策略，並依照客戶的情境調整適用做法。官方指引請見 [docs.github.com/copilot](https://docs.github.com/copilot)。
7+
8+
> 這是一份以資料為基礎、重視實務的指南，協助你在維持程式碼品質的同時降低 token 消耗。
9+
> 涵蓋 Chat、Inline 與 Coding Agent 工作流程。
10+
11+
---
12+
13+
## 快速開始：現在就該做的 12 件事
14+
15+
> **2026 年 6 月 1 日，按使用量計費（UBB）已正式上線。** GitHub Copilot 現在不再以請求次數計費，而是改為針對實際 token 用量（input + output + cached）計費，並從共用的 AI 點數池中扣抵（Business 每席次 30 美元、Enterprise 每席次 70 美元）。本指南中的每一項技巧，都可以直接轉換成點數節省，而且在新的計費模式下，對快取友善的使用習慣會比以前更重要。客戶治理與限制建議請參考 [Enterprise Governance](docs/12-enterprise-governance.zh-TW.md)，模型成本建議請參考 [Model Selection & Pricing](docs/11-models-and-pricing.zh-TW.md)。
16+
17+
> **輸出 token 的成本遠高於輸入 token。** 這是本指南最重要的定價事實。Anthropic 公開的定價可以很清楚地說明這種不對稱性（每百萬 token 的輸入／輸出價格分別為：Haiku 1 美元／5 美元、Sonnet 3 美元／15 美元、Opus 5 美元／25 美元）。Copilot 目前尚未公開各模型的 UBB 精確定價表，但在 UBB 模式下，冗長輸出仍然會顯得特別昂貴。大多數輸入 token 其實來自檔案內容、歷史對話與工具 schema，而不是你手動輸入的提示詞。你打的 prompt 只占整體輸入的一小部分。先從控制輸出開始，再處理結構性的輸入最佳化。
18+
19+
如果你沒時間讀完整份指南，今天先做這些事，就能開始降低 token 用量：
20+
21+
| # | 行動 | 主要效果 | 設定時間 |
22+
|---|------|----------|----------|
23+
| 1 | **要求只輸出程式碼**：在 `copilot-instructions.md` 加上 `Code only, no explanation.`。這是每個 token 最值得投資的做法：輸出成本是輸入的 5 倍，這一條能在所有程式任務中永久減少 40-70% 的輸出 | 縮短回應長度 | 0 分鐘 |
24+
| 2 | **預設限制輸出格式**：在 `copilot-instructions.md` 加上 `Bullets over paragraphs. No explanations unless asked.` | 讓回答保持精簡 | 0 分鐘 |
25+
| 3 | **縮小常駐上下文**：壓縮 `copilot-instructions.md`，並把 `AGENTS.md` 修剪到只留下地雷項。這兩個檔案中的每一個 token，都會在每次互動（以及每一步 agent 執行）中被計費。刪掉填充內容、刪掉 agent 看程式碼就能自己發現的資訊、刪掉由 LLM 產生的 `/init` 樣板 | 降低常駐輸入／上下文 | 15 分鐘 |
26+
| 4 | **預設使用 Auto 模型選擇**：把 Auto 當作基準，因為它會從支援的 Auto 模型池中自動挑選，並提供付費方案折扣。只有在任務明確值得時，再手動鎖定較高成本的模型。詳見 [Model Selection & Pricing](docs/11-models-and-pricing.zh-TW.md) | 降低符合條件用量的計費單價 | 0 分鐘 |
27+
| 5 | **簡單問題用 Ask 模式**：多步驟工作再交給 Agent Mode | 避免 agent 額外開銷 | 0 分鐘（只要選對模式） |
28+
| 6 | **用 `applyTo:` 路徑限制上下文**：把一份很大的 instructions 檔拆成數個小檔，只在相關情境載入 | 降低常駐輸入／上下文 | 15 分鐘 |
29+
| 7 | **提示詞要精準**：像是「幫 `getUser()` 加上 null 檢查」，而不是「你可以幫我看看這裡，順便加一些錯誤處理嗎？」注意：你自己輸入的 prompt 只占總輸入的一小部分；精準對品質的幫助，大於它對原始 token 節省的幫助 | 提升任務聚焦程度 | 0 分鐘 |
30+
| 8 | **依目標模型重調提示詞**：不同 provider 的 prompting 指南會隨模型與版本變動。把官方指南網址貼進 Copilot，請它依你實際使用的模型，調整 `.github/copilot-instructions.md`、agent profiles 或 app prompts | 減少返工 | 每次模型變更約 10 分鐘 |
31+
| 9 | **稽核你的 MCP servers**：停用沒在用的 server；每個 server 都可能讓每一步 agent 額外增加約 100-500 個 token | 移除工具／schema 額外負擔 | 5 分鐘 |
32+
| 10 | **先把富格式檔案轉成 Markdown 再交給 AI**：`.docx`、`.pdf`、`.pptx`、`.xlsx`、HTML、圖片、音訊、影片與 ZIP 都帶有格式稅。[Marc Bara 的文章](https://medium.com/@marc.bara.iniesta/your-docx-is-wasting-33-of-your-ai-budget-86a3d229d042) 已示範這類成本；在 chat、agent 或 RAG 匯入前，先用 [Microsoft MarkItDown](https://github.com/microsoft/markitdown) 轉成乾淨的 Markdown | 降低雜訊輸入／上下文 | 5 分鐘 |
33+
| 11 | **每週執行 `/chronicle improve`**（**僅限 Copilot CLI**，實驗性功能）：這個 slash command 只能在互動式 Copilot CLI 工作階段中使用，並不是一般 Copilot Chat 功能。它會找出你 CLI 工作階段歷史中反覆出現的誤解，並產生自訂指令，讓同樣的誤判不再持續浪費 token | 降低重複返工 | 每次 2 分鐘 |
34+
| 12 | **長工具鏈任務可考慮 CodeAct**（**僅限 Copilot CLI**，可選的外部外掛）：[`copilot-codeact-plugin`](https://github.com/jsturtevant/copilot-codeact-plugin) 可以把多步驟工具鏈收斂成一次沙箱執行，減少重複重播 system prompt、先前訊息與工具定義的次數 | 降低工具迴圈重播成本 | 10-15 分鐘 |
35+
36+
**如果你是從企業治理或客戶治理的角度來看，而不是個人設定最佳化？** 請直接從 [Enterprise Governance](docs/12-enterprise-governance.zh-TW.md) 開始。那一章涵蓋 AI 點數預算、針對個別使用者收緊權限、模型存取政策、組織層級指示，以及何時值得為了治理需求拆分成不同組織。
37+
38+
*上表數字僅針對各列所述機制，不可直接相加，也不代表總體帳單降幅。*
39+
40+
輸出控制（#1、#2）會立刻生效，而且會持續累積回報：設定一次，每次呼叫都省。結構性的輸入控制（#3、#6）會在每一次互動中持續累積效益。模型路由（#4、#5）會從計費層級直接降低成本。針對模型調整提示詞（#8）則透過提升首次回應品質來減少浪費。MCP 稽核（#9）可以直接砍掉每次 agent 任務中那些隱藏的 token 成本。Markdown 轉換（#10）則能在模型看到內容前，先移除 DOCX／PDF／HTML 的版面與標記雜訊。
41+
42+
---
43+
44+
## 指南內容
45+
46+
### Part 1：為什麼 Token 很重要
47+
48+
了解 BPE tokenization、token 為何會影響成本／速度／限制，以及 GitHub Copilot 在底層如何使用 token。
49+
50+
→ **[閱讀 Part 1](docs/01-why-tokens-matter.zh-TW.md)**
51+
52+
---
53+
54+
### Part 2：各種技巧
55+
56+
#### [2.1 Prompt Compression](docs/02-prompt-compression.zh-TW.md)
57+
58+
原始人式簡寫、強度分級（lite／full／ultra）、結構化格式、縮寫，以及以程式碼為中心的 prompting。可節省 30-50% 的輸入 token；搭配輸出控制（2.4）時，也能一起減少輸出。
59+
60+
#### [2.2 Language Comparison](docs/03-language-comparison.zh-TW.md)
61+
62+
以資料為基礎的比較：在這些範例裡，英文是最省 token 的語言。CJK 成本高出 1.7-2.4 倍。內含 8 種語言的 tokenization 表格。
63+
64+
#### [2.3 Context Management](docs/04-context-management.zh-TW.md)
65+
66+
壓縮 system instructions、壓縮記憶檔、用 `applyTo` 限定上下文、關閉未使用的編輯器分頁、在 AI 工作前先把非純文字檔轉成 Markdown、設定 Content Exclusion（Business／Enterprise 管理員可用），以及在需要時開新對話。重點是控制實際送進模型的內容。
67+
68+
#### [2.4 Output Control](docs/05-output-control.zh-TW.md)
69+
70+
「`Code only, no explanation.`」限制回應格式，並把精簡輸出設成專案預設。
71+
72+
#### [2.5 Workflow Optimization](docs/06-workflow-optimization.zh-TW.md)
73+
74+
精簡 commit 訊息、單行 PR review、Ask 與 Agent mode 的選擇、針對模型調整提示詞，以及什麼情況下**不該**壓縮。
75+
76+
#### [2.6 The Always-On Context Problem](docs/07-agents-md-problem.zh-TW.md)
77+
78+
關於 LLM 產生的上下文檔案的研究顯示，這些檔案常常在增加 token 成本的同時，還會降低 agent 的正確性。這個教訓同樣適用於 `AGENTS.md` 與 `.github/copilot-instructions.md`：兩者雖然是不同慣例（檔名不同、歷史來源也不同），但在今天的 Copilot 裡，它們都會成為常駐上下文。無論你的 repo 用的是哪一種檔案，都應該採用「只留地雷項」的原則。把上下文檔當成 bug tracker，不要當成 wiki。
79+
80+
#### [2.7 MCP & Tool Costs](docs/08-mcp-tool-costs.zh-TW.md)
81+
82+
隱性的 token 稅：每個 MCP tool 都會讓每一步 agent 額外增加 100-500 個 token。15 個 servers × 15 個步驟 = 26.5 萬個額外 token。內含稽核指南。
83+
84+
---
85+
86+
### Part 3：比較與資料
87+
88+
提示詞的正面對決比較、各語言 tokenization 表格、完整的技巧矩陣（40+ 種技巧），以及搭配效益遞減曲線的品質影響評估。
89+
90+
→ **[閱讀 Part 3](docs/09-comparisons-data.zh-TW.md)**
91+
92+
---
93+
94+
### Part 4：實際設定
95+
96+
逐步說明：如何設定 Copilot、最佳化 Coding Agent、設定 agent mode，以及建立使用習慣。包含 VS Code 設定、決策框架與 4 週導入計畫。
97+
98+
→ **[閱讀 Part 4](docs/10-practical-setup.zh-TW.md)**
99+
100+
---
101+
102+
### Part 4.2：Model Selection & Pricing
103+
104+
專門說明模型、PRU 時代的倍率歷史、目前的 Auto 使用建議、不同方案可用性，以及在 Copilot 尚未公開各模型精確 UBB 費率表的情況下，供應商輸入／輸出 token 定價應如何納入考量。內含 GitHub Docs 官方頁面的連結，涵蓋 Auto 模型選擇、計費，以及方案／模型可用性。
105+
106+
→ **[閱讀 Part 4.2](docs/11-models-and-pricing.zh-TW.md)**
107+
108+
---
109+
110+
### Part 4.3：Enterprise Governance
111+
112+
專為面向客戶的管理情境而寫的章節：涵蓋按使用量計費的防護措施、AI 點數預算、針對個別使用者收緊權限、模型存取政策、組織層級指示，以及何時值得承擔額外負擔、拆分成不同組織。
113+
114+
→ **[閱讀 Part 4.3](docs/12-enterprise-governance.zh-TW.md)**
115+
116+
---
117+
118+
如果你需要 glossary、quick terms、tools，或核心外部連結，請前往 [Guide Home](docs/index.zh-TW.md)。
119+
120+
---
121+
122+
## 影響最大的技巧
123+
124+
依成本影響排序。先看輸出，因為它每個 token 的成本是輸入的 5 倍。
125+
126+
1. **控制輸出**：`Code only, no explanation`，再加上 `copilot-instructions.md` 裡的精簡預設。程式任務可省 40-70% 的輸出，整體互動可省 30-60%。一條指令，永久生效。
127+
2. **縮小常駐上下文**（`copilot-instructions.md` + `AGENTS.md`）：壓縮填充內容、只留地雷項、刪掉 LLM 產生的樣板。這會在每次互動與每一步 agent 執行中持續累積效果；agent 任務可降低 20-23%，而且正確性更好。
128+
3. **簡單問題使用 Ask Mode**：避免 Agent 額外開銷，可節省 60-90%。
129+
4. **稽核 MCP servers**：停用沒在用的 servers，每次 agent 任務可省下 5 千到 19 萬個 token。
130+
5. **使用 Auto 模型選擇**：以更低成本的預設路由加上付費方案折扣達成節省，幾乎零成本導入。
131+
6. **先把富格式檔案轉成 Markdown**：避免在 chat、agent 與 RAG 工作流中為 Word／PDF／HTML 的版面雜訊付費。
132+
7. **依目標模型重調提示詞**：提升第一次輸出的品質，減少來回澄清。
133+
8. **精準提示詞**：可影響使用者提示詞輸入 token 的 20-40%；對品質的幫助通常比對原始節省更重要。
134+
135+
---
136+
137+
*這是一份會持續更新的文件。隨著 tokenizer 技術演進、模型能力改變，以及新技巧出現，這份指南也會持續更新。請查看此 repository 以取得最新版本。*

‎docs/01-why-tokens-matter.zh-TW.md‎

Lines changed: 91 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,91 @@
1+
# Part 1：為什麼 Token 很重要
2+
3+
[English](01-why-tokens-matter.md) | [繁體中文（台灣）](01-why-tokens-matter.zh-TW.md)
4+
5+
[← 返回指南](index.zh-TW.md)
6+
7+
---
8+
9+
## 1.1 什麼是 Token？
10+
11+
Token 是大型語言模型讀寫時使用的基本單位。它不是單字，也不是字元，而是由 Byte-Pair Encoding（BPE）切分出來的**子詞**。
12+
13+
### BPE 如何運作
14+
15+
1. 從原始位元組開始（共 256 種可能值）
16+
2. 找出訓練資料中最常出現的位元組配對
17+
3. 把這些配對合併成新的 token
18+
4. 持續重複，直到詞彙表規模達到約 10 萬個 token
19+
20+
結果就是：常見英文單字通常會變成單一 token，而較少見或較長的詞則會被拆成多段。
21+
22+
### 範例
23+
24+
| 文字 | Token | 數量 |
25+
|------|--------|------|
26+
| `hello` | `hello` | 1 |
27+
| `unhappiness` | `un` + `happiness` | 2-3 |
28+
| `authentication` | `authentication` | 2-3 |
29+
| `I met a huge dog` | `I` `met` `a` `huge` `dog` | 5 |
30+
| `Sure, I'd be happy to help you with that!` | （每個詞與標點） | 約 10 |
31+
32+
最後這個例子很關鍵：10 個 token，幾乎沒有資訊量。這就是 token 最佳化的核心洞察。
33+
34+
**關鍵事實：** 在 Claude 3 tokenizer 中，最常見的 10,000 個英文詞裡，有 8,311 個會被切成單一 token。常見字詞很便宜；填充詞雖然也常只要 1 個 token，但幾乎沒有價值。
35+
36+
## 1.2 為什麼你該在意
37+
38+
你送出或收到的每一個 token 都有成本：
39+
40+
| 面向 | 影響 |
41+
|------|------|
42+
| **成本** | Token 就是錢。API 定價以 token 為基礎，GitHub Copilot 的使用限制也和 token 有關。**最重要的不對稱點是：輸出 token 每個 token 的成本約是輸入的 5 倍**（Anthropic：每百萬 token 的輸入／輸出價格為 Haiku 1／5 美元、Sonnet 3／15 美元、Opus 5／25 美元）。Copilot 的 UBB 也採用相同桶位概念，因此每一句你其實不需要的回覆，都可能比你 prompt 裡同一句話貴上 5 倍。輸出控制是本指南中每個 token ROI 最高的技巧。 |
43+
| **速率限制** | 每次請求用越少 token，在觸發上限前能發出的請求就越多。 |
44+
| **Context window** | 輸入（prompt + context）與輸出（回應）共享有限空間。輸入浪費越多，輸出可用空間就越少。 |
45+
| **速度** | 輸入 token 越少，第一個 token 出現得越快，回覆真的會更快。 |
46+
| **計費** | 自 2026 年 6 月 1 日起，GitHub Copilot 針對用量採用 **usage-based billing（UBB）**。每次互動會落在三種計費桶：輸入 token（prompt + context + history）、輸出 token（回應內容）、以及快取 token（重複利用的 context，通常以輸入費率約 10% 計費）。成本 =（輸入 × 輸入費率）+（快取 × 快取費率）+（輸出 × 輸出費率）。Business 與 Enterprise 席次則含有組織共用的 AI credits（CB 每席次 30 美元、CE 每席次 70 美元）。程式碼補全（code completion）維持不計入用量。 |
47+
48+
**複利效應：** 你的輸入 token 大多不是來自你打的字，而是來自檔案內容、對話歷史、system prompt 與 MCP 工具 schema。你自己輸入的 prompt 常常只有 5–100 個 token，但 agent mode 的總輸入可能到 5,000–50,000+。最大的輸入槓桿通常是結構性調整，例如 instruction 檔大小、分頁管理與 context 範圍控制。每 token 成本影響最大的則是輸出：因為價格高 5 倍，而且可以靠 `copilot-instructions.md` 裡一行設定直接控制。
49+
50+
## 1.3 GitHub Copilot 如何使用 Token
51+
52+
了解 Copilot 背後實際做了什麼，才能知道該怎麼最佳化：
53+
54+
```text
55+
┌─────────────────────────────────────────────────┐
56+
│ Context Window │
57+
│ │
58+
│ ┌──────────────────┐ ┌─────────────────────┐ │
59+
│ │ INPUT TOKENS │ │ OUTPUT TOKENS │ │
60+
│ │ │ │ │ │
61+
│ │ System prompt │ │ 你收到的回應 │ │
62+
│ │ + copilot- │ │ │ │
63+
│ │ instructions │ │ │ │
64+
│ │ + file context │ │ │ │
65+
│ │ + conversation │ │ │ │
66+
│ │ history │ │ │ │
67+
│ │ + 你的 prompt │ │ │ │
68+
│ └──────────────────┘ └─────────────────────┘ │
69+
└─────────────────────────────────────────────────┘
70+
```
71+
72+
- **System prompt：** Copilot 自身的內建指示（你無法控制）
73+
- **`copilot-instructions.md`：** 專案層級指示，**每次互動都會載入**
74+
- **File context：** 你用 `#file` 指到的檔案，以及 Copilot 自動帶入的內容（開啟分頁、imports、附近檔案）
75+
- **Conversation history：** 目前對話中的所有先前訊息
76+
- **你的 prompt：** 你實際輸入的內容
77+
78+
**隱性負擔：** Copilot 還會加入你看不到的 context，例如 repo 結構、檔案內容與 import graph。這就是為什麼你打了 20 個字，實際輸入卻可能消耗 2,000+ token。
79+
80+
**Coding Agent 的乘數效應：** GitHub Coding Agent 會執行多步驟工作階段。每一步都要讀檔、判斷、寫程式，因此從 issue 到 PR 的一次工作流程，常常就會吃掉數萬個 token。任何節省都會在這些步驟中持續放大。
81+
82+
## 1.4 這份指南適合誰
83+
84+
- **GitHub Copilot Chat 使用者**：主要讀者，大多數技巧都適用
85+
- **GitHub Copilot Inline／Edits 使用者**：部分技巧適用（prompt 控制較有限）
86+
- **GitHub Coding Agent 使用者**：高價值族群，因為長工作階段會把節省放大
87+
- **任何重視效率的人**：即使你沒有碰到限制，更快回應與更乾淨的互動仍然值得
88+
89+
---
90+
91+
**下一章：** [Prompt Compression →](02-prompt-compression.zh-TW.md)

0 commit comments

Comments
 (0)