prompt เกินแสน token แค่ตัวเดียว ค่าทั้งรอบคูณห้า

Haiku 5.5 ออกมาพร้อมพาดหัวว่าถูกลง 90%

เลขนั้นจริง แต่มีเงื่อนไขอยู่ข้างหลังที่ต้องอ่าน

ถูกลง 90% เฉพาะตอน prompt ไม่เกิน 100,000 token

เกินเมื่อไหร่ ทุกบรรทัดในใบเสร็จคูณห้า

━━━━━━━━━━

💸 คูณห้า ไม่ใช่แค่บรรทัดเดียว

ไม่เกินแสน / เกินแสน ต่อหนึ่งล้าน token

• input $0.10 → $0.50
• output $0.50 → $2.50
• cache write 5 นาที $0.125 → $0.625
• cache write 1 ชั่วโมง $0.20 → $1.00
• cache read $0.01 → $0.05

โมเดลเดิม งานเดิม แค่ prompt ยาวข้ามเส้น

และมันคิดเป็นราย request ด้วย ไม่ได้เฉลี่ยทั้งวัน รอบไหนเกินก็จ่ายแพงเฉพาะรอบนั้น

━━━━━━━━━━

🪤 ตรงที่เป็นกับดักจริง ๆ

เส้นแสน token ไม่ได้นับเฉพาะของที่เราเพิ่งพิมพ์เข้าไป

ในหน้า pricing เขียนไว้ตรง ๆ ว่าความยาว prompt นับ input token ทั้งหมด รวม cache read และ cache write ด้วย

อ่านอีกรอบนะครับ รวม cache read ด้วย

แปลว่าของที่เราตั้งใจทำไว้เพื่อประหยัด คือตัวที่ดันเราข้ามเส้น

ยิ่ง cache เยอะ prompt ยิ่งยาว ยิ่งใกล้เส้น พอข้ามปุ๊บ cache ที่ควรจะถูกที่สุดก็โดนคูณห้าไปด้วย

agent ที่รันยาว ๆ ไม่ได้ค่อย ๆ แพงขึ้น มันแพงขึ้นห้าเท่าในรอบเดียว

━━━━━━━━━━

📏 เส้นอยู่ที่เดิม แต่ของเราโตขึ้นนิดหน่อย

อีกบรรทัดที่อยู่ในหน้าเดียวกัน Haiku 5.5 เปลี่ยน tokenizer ใหม่ ใกล้เคียงกับ Sonnet 5.5 กับ Opus 5.5

ผลคืองานเดิมใช้ token มากขึ้นเล็กน้อย

ไม่เยอะ แต่ถ้าของเราวิ่งอยู่แถว ๆ เก้าหมื่นปลาย ๆ อยู่แล้ว ก็คือขยับเข้าใกล้เส้นฟรี ๆ

━━━━━━━━━━

🔍 ทำไมปีนี้ราคามันขยับตรงนี้

สังเกตว่ารอบนี้ Sonnet 5.5 ไม่ได้ลดราคา input หรือ output เลยสักบาท

ลดอย่างเดียวคือ cache read ครึ่งนึง แล้ว Anthropic บอกเองว่าผลคือ งาน agent ส่วนใหญ่ถูกลงราว 20%

พูดอีกแบบคือ ค่าใช้จ่ายของ agent ทุกวันนี้ ส่วนใหญ่ไม่ได้อยู่ที่การคิดของใหม่ แต่อยู่ที่การอ่านของเดิมซ้ำ

ราคาที่ควรจับตาเลยไม่ใช่ราคา token ที่เราพิมพ์ แต่เป็นราคาของการอ่านซ้ำ

━━━━━━━━━━

🛠 เอาไปทำวันนี้

ถ้าใช้ Haiku 5.5 อยู่ หรือกำลังจะย้ายมาเพราะเห็นคำว่าถูกลง 90%

เปิดดูก่อนว่า prompt จริงของงานตัวเองยาวเท่าไหร่ ไม่ใช่เดาจากขนาดไฟล์ที่ส่งเข้าไป ต้องนับ cache ด้วย

ถ้ามันวนอยู่แถวแสน มีสองทางให้เลือก

ทางแรก กดให้ต่ำกว่าเส้นไปเลย ตัด context ที่ไม่ได้ใช้ แยกงานยาวออกไปเป็น subagent แล้วเอาแต่บทสรุปกลับเข้ามา

ทางที่สอง ยอมรับว่าเกิน แล้วคิดราคาใหม่ทั้งก้อนที่เรตบน จะได้ไม่ตกใจตอนสิ้นเดือน

ที่ห้ามทำคือเชื่อเลข 90% แล้วไม่เคยวัดว่า prompt ตัวเองอยู่ตรงไหนของเส้น

━━━━━━━━━━

ศัพท์ที่โผล่ในโพสต์นี้

prompt length — ความยาวของสิ่งที่ส่งเข้าโมเดลในหนึ่ง request นับ input ทั้งหมด รวม cache

cache read — ค่าอ่าน context ที่เคยส่งไปแล้วและถูกเก็บไว้ ถูกกว่าส่งใหม่ แต่ยังนับเป็น token

cache write — ค่าเขียน context ลง cache รอบแรก แพงกว่า read แต่จ่ายครั้งเดียว

tokenizer — ตัวตัดข้อความเป็น token คนละตัวตัดได้จำนวนไม่เท่ากัน