Blog
Công nghệ

Does every feature we build with AI need a token budget?

2 phut doc0 luot xem

KẾT LUẬN

Trong kỷ nguyên tokenmaxxing - nơi các tập đoàn lớn đốt hàng trăm triệu USD token AI mỗi tháng - mọi tính năng xây dựng bằng AI đều cần có token budget riêng. Nếu không ước tính được doanh thu mà tính năng mang lại và chi phí vận hành/bảo trì, bạn chưa biết đủ để xây dựng nó.

LUẬN ĐIỂM CHÍNH

  • Mỗi tính năng AI cần ba loại ngân sách riêng biệt: build budget (token và effort để ship), run budget (chi phí mỗi lần gọi/mỗi user/tháng), và maintenance budget (chi phí duy trì khi model thay đổi, prompt drift, dependency shift)
  • AI tăng tốc bước build nhưng không tăng tốc việc xác định liệu có ai thực sự muốn sản phẩm đó không - nút thắt đã chuyển từ phát triển sang hiểu product impact
  • Cần chuyển từ opinion-driven development sang hypothesis-driven: value estimate phải được đặt ra như một giả thuyết có thể kiểm chứng rẻ tiền trước khi bắt đầu xây dựng

LUẬN ĐIỂM PHỤ

  • Maintenance là điểm yếu nhất: model deprecated, vendor pricing changes, evals cần re-run khi upstream thay đổi - những thứ mà story point estimates không tính đến
  • AI khiến marginal cost của tính năng mới biến đổi theo usage thay vì infrastructure size - một agent loop kém thiết kế có thể âm thầm đốt hàng nghìn USD trước khi ai đó nhận ra
  • Các giải pháp thực tế: gắn token budget vào mọi ticket, phân biệt 3 loại budget, đặt circuit breakers (như Shopify), từ chối tài trợ tính năng có run budget vượt quá business value khả dĩ

LUẬN CỨ & VÍ DỤ

  • Uber: đốt toàn bộ ngân sách AI 2026 chỉ trong vài tháng do Claude Code tăng từ 32% lên 84% adoption trong 5.000 kỹ sư, heavy user chi -.000/tháng API costs - CTO thừa nhận phải làm lại toàn bộ kế hoạch ngân sách
  • Meta: internal token leaderboard biến token consumption thành status symbol, nhân viên cạnh tranh danh hiệu Token Legend, đốt 60,2 nghìn tỷ token trong 30 ngày (~ triệu) trước khi dashboard bị gỡ bỏ
  • Gergely Orosz (Pragmatic Engineer) đặt thuật ngữ tokenmaxxing cho hiện tượng tiêu thụ computation một cách phô trương như một biểu tượng địa vị trong ngành công nghệ

Nguồn: ThoughtWorks | Phân tích bởi AI

Ban thay bai viet nay the nao?

Bình luận (0)

--- Het ---