Agent Dev Thai Academyprinciples · patterns · architecture

Claude Code / Claude API ใช้ token เร็วมากกว่าที่หลายคนคิด

context ยิ่งยาวยิ่งแพงยิ่งช้า มี 2 open-source tools ช่วยลด token คนละวิธี: Caveman Claude ตัดคำฟุ่มเฟือยที่ output เริ่มง่าย ส่วน RTK compress ที่ระดับ infra แต่ setup เยอะกว่า

Claude Code / Claude API ใช้ token เร็วมากกว่าที่หลายคนคิด

ยิ่ง context ยาว
ยิ่งแพง
ยิ่งช้า
และยิ่งเผางบแบบไม่รู้ตัว

มี 2 open-source tools ที่ช่วยลดปัญหานี้ได้
แต่คนละวิธีเลย

  1. Caveman Claude

ตัวนี้แก้ที่ output โดยตรง
ตัดคำสุภาพ คำเกริ่น คำฟุ่มเฟือยทิ้งให้หมด

จากเดิมแบบ
“Happy to help”
“Let me search that for you”

จะเหลือประมาณ
“Tool work. Result. Done. Me stop.”

ข้อดีคือ

• ลด token ได้ราว 50–75% ต่อ task
• ประหยัดได้ประมาณ 50–100 tokens ต่อรอบ
• เหมาะกับงาน automation / pipeline ที่รันถี่ ๆ

ข้อเสียคือ

• output อ่านยากขึ้น
• ไม่เหมาะกับ use case ที่คนต้องมานั่งอ่านเยอะ

Repo: github.com/om-patel5/Caveman-Claude

  1. RTK (Rust Token Killer)

ตัวนี้แก้อีกชั้นนึง
ไม่ได้แตะ prompt หรือสไตล์การตอบ
แต่ไป compress token ที่ระดับ infra ก่อนส่งเข้า API

เขียนด้วย Rust
เลยเร็ว และกิน memory น้อย

ข้อดีคือ

• ลด token ก่อนเข้า API
• ใช้งานเป็น middleware layer
• ไม่ต้องเปลี่ยน prompt เดิม

ข้อเสียคือ

• setup ซับซ้อนกว่า
• ต้องรันเป็น layer แยก

สรุป

Caveman Claude = แก้ที่ prompt
เริ่มง่าย เห็นผลเร็ว

RTK = แก้ที่ infra
จริงจังกว่า แต่ setup เยอะกว่า

ถ้างบเริ่มตึง
ลอง Caveman Claude ก่อน

แต่ถ้ารัน pipeline หนัก ๆ อยู่แล้ว
RTK ก็เป็นอีกทางที่น่าสนใจ