Cách chọn AI model phù hợp cho từng workflow sản phẩm

Tôi đã dành hai năm giúp các đội sản phẩm chọn model. Những sai lầm đắt giá nhất không bao giờ là kỹ thuật — mà là kinh tế. Có đội ship GPT-4o cho chat trong khi Gemini Flash đã đủ nhanh với giá rẻ hơn 10 lần. Hoặc dùng Haiku cho document analysis cần Opus-level reasoning, khiến support tickets tăng gấp ba. Đây là framework tôi ước mỗi team đều có trước khi viết completion call đầu tiên.

Bước 1: Phân loại workflow trước

1. Extraction / Classification: Trích structured data từ unstructured text. Latency quan trọng, reasoning không. Fast tier: GPT-4o mini ($0.15–$0.60/1M), Gemini Flash ($0.30–$2.50/1M), Haiku 4.5 ($1–$5/1M), DeepSeek V4 Flash ($0.14–$0.28/1M).
2. Chat / Customer-facing: Phải responsive. Balanced tier: GPT-4o ($2.50–$10/1M), Sonnet 4.6 ($3–$15/1M), Gemini 2.5 Pro ($1.25–$10/1M). Cache reads quan trọng — Sonnet giảm còn $0.30/1M cho cached tokens.
3. Reasoning / Code / Planning: Multi-step analysis, complex tool chains. Frontier/reasoning: Opus 4.7 ($5–$25/1M), DeepSeek V4 Pro ($0.43–$0.87/1M), o3 mini ($1.10–$4.40/1M). DeepSeek là value play — frontier quality với balanced pricing.
4. Multimodal: Images, audio, video, PDFs. Gemini xử lý native. GPT-4o, Opus và Sonnet nhận images/PDFs qua vision. Kiểm tra provider thực sự hỗ trợ gì trước khi commit.

Bước 2: Xây ma trận quyết định

// Score workflow on 1-3 (3 = critical):
const supportChat = { latency: 3, quality: 2,
  costSensitivity: 2, toolCalling: 3, context: 1 };
// → Balanced tier with tool support: Sonnet 4.6 or GPT-4o

const nightlyReport = { latency: 1, quality: 3,
  costSensitivity: 1, toolCalling: 0, context: 3 };
// → Frontier with 1M context: Opus 4.7

const emailClassify = { latency: 2, quality: 1,
  costSensitivity: 3, toolCalling: 0, context: 1 };
// → Fast/cheapest tier: GPT-4o mini or DeepSeek Flash

Bước 3: Đo trước khi commit

Không bao giờ chỉ tin benchmark scores. Xây eval set nhỏ — dù chỉ năm input đại diện — và chạy qua các model ứng viên. Đo end-to-end latency, output quality (manual review), token count và cost per request. Làm trong Playground trước, rồi monitor trong Analytics sau deployment. Model đạt 92% trên benchmark có thể cần thêm 40% prompt engineering cho workflow của bạn.

Cập nhật: 24 thg 5, 2026