Zero Token-Waste: Cách akiflow Giữ Chi Phí Token Thấp Mà Không Cần RAG Hay Daemon
akiflow điều phối hội đồng agent bằng đọc file trực tiếp và cắt lát nhật ký bằng grep, không vector DB, không tiến trình chạy nền. Vì sao mỗi lần đọc vào ngữ cảnh bị tính phí lại ở mọi lượt sau.
Điều phối nhiều agent tốn token ở đâu, và làm sao tránh? Nhiều khung multi-agent thêm hạ tầng: tiến trình chạy nền, vector DB, luồng embedding. akiflow đi hướng ngược lại: mọi thứ là file trên đĩa cộng vài script Python chỉ đọc hoặc ghi file, chạy khi bạn gọi skill và dừng khi xong.
Bài này mô tả nơi token thực sự bị đốt trong một phiên dài và các cơ chế akiflow dùng để giữ chi phí thấp.
Token bị đốt ở đâu?
Mỗi lượt gửi lại toàn bộ lịch sử. Thứ gì đã nằm trong ngữ cảnh đều bị tính phí lại ở mọi lượt sau: một lần đọc kích thước S ở lượt t của phiên T lượt tốn khoảng S × (T − t). Kéo một phòng họp 50 nghìn token vào ngữ cảnh ở lượt 50 của phiên 200 lượt tốn khoảng 7,5 triệu token cache-read chỉ từ một lệnh đọc.
Đo trên một lần chạy thật của chính akiflow (ghi trong docs/arch/akiflow.md của repo): dù ba worker aki-maker làm hết việc sửa file, lead vẫn chiếm 70% cache-read và 66% output. Giao việc đi chỗ khác không giảm chi phí, thứ đắt là ngữ cảnh tích lũy của chính lead.
Các cơ chế giữ chi phí thấp
- ◆Đọc file trực tiếp: rule là file markdown trong
~/.aki/akidevrule/, lead chỉ cho mỗi agent đúng file cần đọc theo địa chỉtopic.A1. Không có bước embedding hay tìm kiếm ngữ nghĩa. - ◆Cắt lát nhật ký phòng họp:
council_read.pycho định vị bằng--grep(chỉ trả dòng khớp, kèm số lượt), rồi lấy đúng lượt cần bằng--turn. Ngoài ra có--index,--stats(số lượt và dung lượng theo từng agent) và--tail. - ◆Việc cơ học chuyển sang tầng rẻ:
aki-handschỉ có Read, Grep, Glob và cấm phán xét, chạy ở tier rẻ nhất đủ dùng. Lead không tự làm việc vặt. - ◆Không tiến trình nền: mỗi lần chạy có workspace ở
~/.aki/agent-council/<dự án>/, tự xóa sau 30 ngày. Ngoài thư mục đó akiflow không để lại trạng thái nào. - ◆Triệu tập một lượt: các agent được gọi cùng lúc và dùng chung tiền tố rule nên prompt cache còn ấm. Agent gọi muộn phải trả giá đọc lạnh hơn.
- ◆Bật theo lý do: theo luật R2, mọi ghế và bước kiểm mặc định tắt, chỉ bật khi lượt chạy đó tạo ra lý do.
- ◆Kiểm toán khi đóng phiên:
council_cost.pycộng chính xác token phía Claude của lead và mọi subagent, để chi phí thực tế được đối chiếu với roster đã khai trước khi chạy.
Giới hạn cần biết
Đây là mô tả cơ chế, không phải một con số tiết kiệm: repo không công bố mức giảm phần trăm so với framework khác. council_cost.py chỉ đo phía Claude. Một lane chạy qua CLI khác (ví dụ agy headless) thuộc hạn mức của nhà cung cấp khác, được báo cạnh bảng chứ không cộng vào.
Hội đồng vẫn tốn hơn làm trực tiếp. Việc không qua được cổng kích hoạt thì nên làm thẳng, đừng mở phòng.