--- title: Hoá đơn tự chọn model cho tôi description: "Benchmark chẳng nói cho tôi điều gì hữu ích, nên tôi để hoá đơn chọn model nào làm việc nào. Hai tháng tính toán quota, và những gì tôi sẽ không làm lại." date: 2026-09-20 --- Khoảng tháng Chín, tôi thôi tranh cãi xem model nào thông minh nhất. Không phải vì đã tìm ra câu trả lời, cũng không phải vì hết chuyện để nói. Mà vì hoá đơn phân xử xong rồi. Ba tuần tính quota dạy tôi nhiều về chọn model hơn cả năm đọc thread benchmark, và bài học nhỏ hơn tôi tưởng. Khi ngân sách cố định, câu hỏi hay không phải model nào tốt nhất. Mà là model nào đáng với cái giá của nó cho task này. ## Quota thực ra là gì Quota của gói subscription không tính bằng token. Nó là các cửa sổ, mỗi cửa sổ một hình dạng. Tôi trả cho gói 20x, giá gấp đôi gói 5x, mà nó chỉ trả lại chừng 1,9 lần mức dùng, không phải bốn lần. Chẳng ai in con số đó lên trang gói cước. Nó có một giới hạn năm giờ, và một giới hạn tuần chạy ở mức gấp mười. Tôi đọc chữ "20x" như phép nhân thẳng, lâu hơn mức tôi muốn thừa nhận. Cửa sổ reset theo lịch, mà lịch đó không phải lúc nào cũng giống như support nói. Một tài khoản chia sẻ cũng có thể mất gần hết dung lượng tuần chỉ trong một session, nếu có người khác đang dùng cùng bộ credentials. Điều đó tôi học bằng cách đắt, tuần thứ hai của tháng Chín: một đồng nghiệp và tôi cùng chạy agent trên một tài khoản suốt cả ngày, và quota tuần cạn trước thứ Tư. Giờ mỗi người một tài khoản, và tài khoản cá nhân của tôi không đụng vào máy dùng chung. ## Những con số đã thay đổi cách tôi làm việc Đây là số thật, lấy từ log của tôi và từ mấy người tôi hay so sánh ghi chú. Chính chúng là lý do bảng định tuyến của tôi trông như hiện tại. Một model rẻ trên mỗi token vẫn có thể đắt trên mỗi task. Có lần tôi nhìn một task lẽ ra chỉ mất hai mươi phút mà ngốn trọn một cửa sổ năm giờ. Model chỉ tốn một phần nhỏ giá, và nó vẫn làm xong việc. Nhưng nó lặp và đọc lại context đúng kiểu model rẻ hay làm, nên việc đó vẫn ngốn của tôi một ngày dung lượng. Giá trên mỗi token là con số vô dụng nếu không biết số token, mà số token thì tùy model bám task tới đâu. Trong cùng một model, đổi mức effort làm giá thay đổi nhiều hơn cả đổi model. Tôi để mọi thứ ở max chỉ vì thói quen. Chạy cùng đống task ở effort extra-high tốn chừng một phần ba so với mức max, và hạ cả fleet xuống một mức thì hoá đơn tháng giảm một phần ba mà chất lượng không thấy đổi. Effort cao hơn cũng không phải lúc nào cũng hơn. Một đồng nghiệp đo một model tầm trung ở medium với high và thấy medium cho kết quả trọn vẹn hơn. High bắt đầu trôi sang overthinking. Effort giờ là núm chỉnh riêng cho từng role, không phải một núm toàn cục, và tôi test chứ không đoán. Rồi có một con số tôi giữ lại để nhớ quy mô lớn là thế nào. Một người tôi theo dõi kể lại một session đốt bốn tỷ token trong hai mươi sáu giờ, với 392 subagent. Tôi chưa bao giờ tới gần mức đó. Tôi lấy nó làm cột mốc trần: nếu một session đang trôi về hình dạng đó, thì orchestration của tôi có vấn đề, chứ không phải chọn model. ## Chặn các mức trần theo role Tôi có bảng định tuyến vì tôi thôi tin rằng một model phải làm hết mọi việc. Ba công việc, ba mức giá. Tầng supervisor ít khi ghé qua, chỉ khôi phục context từ lịch sử và canh những lỗi lặp lại. Nó không cần frontier model. Tôi chạy nó bằng model rẻ, và tôi coi nó như một trình đọc log có chính kiến. Lead lên kế hoạch, phối hợp và nghiệm thu công việc. Nó cần phán đoán, lại đụng vào mọi quyết định, nên nhận một model tầm trung mạnh. Đây cũng là role có con số lớn nhất của tôi: tôi từng để một model hạng nặng làm cả supervisor lẫn lead, nó ngốn chín giờ và hai mươi hai đô trong một ngày làm việc. Ngày đó mà ra được việc thì còn ổn. Nhưng vô lý khi nó đang ngồi giám sát ba task bị chặn. Peer gánh phần lớn token, và ở đây phép tính tàn nhẫn thật. Peer là chỗ khối lượng nằm. Dùng frontier model cho mọi peer thì worker còn tốn hơn cả khâu lập kế hoạch. Tôi cho peer dùng model rẻ nhất đủ tin cậy để xử lý các implementation có giới hạn, rồi dồn phần tiết kiệm được cho những model ra quyết định. Đội hình trong ghi chú của tôi như một depth chart: mạnh nhất ở trên để phân xử, tầm trung cho lead, rẻ cho peer. Có model rẻ tỏ ra cực giỏi đọc code và bám cấu trúc, thế là tuần đó nó lấy luôn slot peer. Có model rẻ khác hoá ra giỏi săn bug mà dở viết, nó chỉ nhận task săn bug, không gì khác. ## Câu nói chấm dứt mọi cuộc tranh cãi benchmark Mấy tuần liền tôi cãi nhau với hai người về hai dòng model. Một người khăng khăng dòng A mạnh hơn, người kia có bằng chứng cho dòng B, cả hai cứ trích những con số chẳng khớp nhau. Chấm dứt nó không phải một benchmark tôi chạy, mà là một câu của một đồng nghiệp đã phát mệt với cái thread đó: model là một, harness là năm. Câu đó đọng lại. Phần lớn thứ tôi vẫn gọi là chất lượng model thực ra là hành vi của harness. Cùng một model, hai setup khác nhau, hai trải nghiệm khác nhau. Router, cách xử lý memory, quyền của tool, cái container agent chạy bên trong, những prompt nó thức dậy cùng: tất cả định hình kết quả trước cả khi model làm gì. Khi ai đó bảo model X hôm nay dở mà hôm qua còn ngon, thì harness đã đổi, hoặc tình trạng quota của tài khoản đã đổi, hoặc các tool bên dưới đã xê dịch. Gần như chưa bao giờ là weights. Nên tôi thôi xếp hạng model bằng cảm giác, chuyển sang đo theo từng role, trên chính task của mình, giữ harness cố định. Bài tập này nhỏ hơn nhiều mà hữu ích hơn nhiều. Bảng xếp hạng của người khác chỉ giúp tôi chọn điểm xuất phát, vậy thôi. ## Tiền thực sự chảy đi đâu Chợ xám quanh các tài khoản AI là cả một nền kinh tế riêng, và ngồi xem nó cũng dạy tôi về giá cả chẳng kém gì đọc trang của nhà cung cấp. Tài khoản được mua đi bán lại, đóng gói, có khi đổi lấy phần cứng trong group chat. Người ta chạy cả danh mục: mỗi người năm tới mười tài khoản, xoay vòng gia hạn với reset để làm việc mà không đụng tường. Quota thành tiền tệ. Tôi từng thấy một khoá học định giá bằng một tuần quota, một hợp đồng dịch vụ trả bằng token. Nền kinh tế đó cũng có rủi ro thật. Người bán lại bị thu hồi gói. Credentials dùng chung bị gắn cờ rồi block. Mua theo lô thì hoá ra toàn tài khoản đã có người xài ở nơi khác, và cả lô có thể về mo trong một đêm khi ai đó tìm thấy đúng bộ credentials đó trong một bản dump công khai. Giờ trước khi mua tài khoản nào, tôi phải có sẵn câu trả lời cho một câu hỏi: tài khoản này có độc quyền cho mình không, và nếu không thì công việc của mình ra sao. Đường rẻ chỉ rẻ cho tới khi nó ngốn mất của bạn một ngày. Tôi cũng thôi mua compute không cần thiết. Một dịch vụ host agent managed giá cố định hằng tháng nghe hợp lý, cho tới khi tôi đem cùng khối lượng đó ra so với một máy mình đã có sẵn cộng thêm một tunnel về nó. Với khối lượng của tôi, thuê host vẫn đắt hơn trong nhiều năm. Chuyện này mỗi team phải tự tính bằng con số của mình. ## Tôi làm gì bây giờ Ba thói quen giữ mọi thứ đứng vững. Định tuyến theo role, và xem lại bảng mỗi tháng vì giá cả thay đổi. Model khôn ngoan tháng trước có thể thành đắt đỏ vào tháng này. Đo chi phí mỗi task, không phải mỗi token, và ghi lại ở chỗ tôi nhìn thấy. Một cách định tuyến tiết kiệm token mà đốt hàng giờ thì không gọi là tiết kiệm. Mỗi role tôi giữ một con số: chi phí để làm xong một task chuẩn. Con số đó nhích là tôi xem lại. So sánh model thì giữ harness cố định, và chỉ đổi một thứ mỗi lần. Một nửa cuộc tranh luận model của tôi thực ra là tranh luận harness đội lốt tên model. Ghim được harness rồi thì bất đồng nhỏ tới mức đủ để test, và test xong là hết trong một buổi chiều. Hoá đơn không phải mối phiền toái cuối tháng. Nó là tín hiệu đánh giá trung thực nhất tôi có. Benchmark đo thứ một model làm được trong harness của người khác. Hoá đơn đo thứ harness của tôi vừa làm.