จะให้ API key กับ AI agent ได้อย่างไรโดยที่มันไม่เห็น key
ให้ agent ได้แค่ reference แทน key แล้วให้ proxy บนเครื่องเดียวกันเป็นผู้ใส่ key จริงลงใน request ตอนออกจากเครื่อง บทความนี้อธิบายว่าทำไม env var จึงไม่พอแล้ว และตั้งค่าอย่างไรครับ
ให้ agent ได้รับ reference แทน key แล้วให้ proxy เล็ก ๆ บนเครื่องเดียวกันเป็นผู้สลับ key จริงลงใน request ตอนออกจากเครื่อง agent เขียน clavitor://OpenAI/key ในตำแหน่งที่ต้องใช้ secret API ได้รับ key จริง ส่วน agent ไม่เคยถือ key นั้นเลย จึงพิมพ์ บันทึก log หรือถูกชักชวนให้ส่งต่อไม่ได้ครับ
นั่นคือแนวคิดทั้งหมด ส่วนที่เหลือของหน้านี้คือเหตุผลว่าทำไมเรื่องนี้จึงสำคัญ และวิธีตั้งค่าครับ
ทำไม "ใส่ใน env var ก็พอ" จึงใช้ไม่ได้อีกต่อไป
เมื่อหนึ่งปีก่อน export OPENAI_API_KEY=sk-... เป็นวิธีปกติในการส่งมอบ key ให้ script ไม่มีใครรู้สึกว่ามีปัญหาครับ
แล้ว script ก็เริ่มคิดเองได้
AI agent อ่านไฟล์ รันเครื่องมือ เขียน log และคุยกับคนแปลกหน้าบนอินเทอร์เน็ต ทุกอย่างเหล่านี้ล้วนเป็นทางออกของ key ที่มันถืออยู่ครับ
- Environment ทุกอย่างที่ agent รันจะได้รับสืบต่อมัน โผล่ใน
/procใน crash dump และใน output ของ CI - หน่วยความจำ ดึง key ตอน runtime ก็ยังคงอยู่ใน process ตราบใดที่ agent ยังทำงานอยู่
- บทสนทนา prompt injection ในหน้าเว็บหรือคอมเมนต์ใน issue ขอให้ agent "แนบ configuration มาด้วยเพื่อ debug" agent ที่ขยันขันแข็งก็ทำตามครับ
ไม่มีอะไรเลยที่ต้องอาศัย bug ในตัว agent เพียงแค่ key อยู่ในที่ที่ agent เอื้อมถึงได้ก็พอครับ
แพตเทิร์น: agent ขอ proxy เป็นผู้เซ็น
ลองนึกถึงบัตรกุญแจของโรงแรม แขกเปิดห้องตัวเองได้ แต่แขกไม่เคยเห็น master key และประตูบันทึกทุกครั้งที่รูดบัตรครับ
สำหรับ API key จะเป็นแบบนี้ครับ
- key จริงอยู่ในห้องนิรภัยแบบเข้ารหัส
- proxy ทำงานข้าง agent บนเครื่องเดียวกัน
- agent ส่ง HTTPS request โดยใส่ reference ในตำแหน่งที่ควรมี key
- proxy ดึงค่าจากห้องนิรภัย ใส่ลงใน request แล้วส่งต่อ
- ฝั่ง agent ถือไว้เพียง reference เท่านั้นครับ
log ของ agent แสดงแค่ reference context window ก็เช่นกัน จึงไม่มีอะไรให้รั่วไหลครับ
วิธีตั้งค่ากับ Clavitor
นี่คือวิธีที่เราสร้างไว้ binary เดียว environment variable เดียว ไม่ต้องแก้โค้ดของ agent ครับ
สร้าง client สำหรับ agent ในห้องนิรภัยของคุณพร้อม scope ที่จำเป็น แล้ว enroll proxy และสตาร์ทมันครับ
$ clavitor-proxy init $ clavitor-proxy ca $ clavitor-proxy serve
init enroll proxy ในฐานะ client นั้น ca พิมพ์ certificate authority ของ proxy ให้เพิ่มลงใน trust store ที่ HTTP client ของ agent ใช้ เพราะ proxy เป็นผู้เปิด HTTPS connection ของ agent เอง จากนั้นชี้ agent ไปที่ proxy ครับ
$ export HTTPS_PROXY="http://clavitor:$(cat proxy-auth)@127.0.0.1:1983"
$ curl -H "Authorization: Bearer clavitor://OpenAI/key" \
https://api.openai.com/v1/chat/completionsproxy-auth คือ access token ของ proxy เอง ซึ่งเป็นไฟล์ข้าง binary ทุก connection ต้องพกมันไปด้วย ผู้ใช้อื่นบนเครื่องเดียวกันจึงยืม proxy ไปใช้ไม่ได้ proxy รับฟังที่ 127.0.0.1:1983 และเฉพาะบนเครื่องนั้นเท่านั้น เว้นแต่คุณจะตั้งค่าเองโดยเจตนาสำหรับ private network ที่เชื่อถือได้ครับ
ใช้ได้กับ agent ใดก็ตามที่ HTTP client ของมันเคารพ HTTPS_PROXY: Claude Code, Codex หรือ script ของคุณเอง credential จะถูกส่งไปยัง host เฉพาะที่รายการของมันระบุไว้เป็น web address เท่านั้น agent ที่โดน prompt injection จึงชี้ reference เดิมไปที่เซิร์ฟเวอร์ของคนแปลกหน้าไม่ได้ครับ ขั้นตอนการตั้งค่าแบบละเอียดอยู่ใน เอกสาร proxy
แล้ว secret อื่น ๆ ของ agent ล่ะ
ไม่ใช่ทุก secret จะเดินทางใน HTTP header รหัสผ่านสำหรับ deploy, SSH key หรือรหัสยืนยันตัวตนสองชั้นสำหรับการเข้าสู่ระบบครับ
สำหรับสิ่งเหล่านี้ agent จะขอห้องนิรภัยทีละหนึ่งรายการตามชื่อด้วย clavitor-cli และเฉพาะรายการที่ได้รับมอบหมายเท่านั้นครับ
$ clavitor-cli get "GitHub Deploy" --field password $ clavitor-cli get "Stripe API" --field key clavitor-cli: CV-2041: Access denied.
agent ไม่สามารถ list รายการในห้องนิรภัยได้ การค้นหาด้วยชื่อแสดงชื่อที่ตรงกันไม่เกินห้ารายการ และถ้าเกินนั้นจะแสดงเพียงจำนวนครับ
รหัส authenticator ก็ทำงานแบบเดียวกัน clavitor-cli totp "GitHub" คำนวณรหัสปัจจุบันบนเครื่องของ agent จึงผ่านการเข้าสู่ระบบแบบยืนยันตัวตนสองชั้นได้โดยไม่ต้องมีใครอ่านข้อความจากโทรศัพท์ ห้องนิรภัยเก็บ secret ไว้แบบเข้ารหัสครับ
สิ่งที่วิธีนี้แก้ไม่ได้
proxy เก็บ key ให้พ้นมือ agent แต่ไม่ได้ทำให้ agent น่าเชื่อถือขึ้นครับ
- agent ที่ถูกโจมตีก็ยังใช้สิทธิ์ที่ได้รับได้อยู่ แค่พา key กลับบ้านไม่ได้
- ผู้ที่มีสิทธิ์ administrator บนเครื่องก็ใช้ proxy ได้เช่นกัน หรืออ่านหน่วยความจำของมัน
- API ที่ส่ง key ของคุณกลับมาใน response ก็ส่งมันต่อให้ agent แล้ว proxy ใส่ key ลงใน request แต่ไม่กรอง response ครับ
นั่นคือเหตุผลที่สิทธิ์รอบข้างสำคัญพอ ๆ กับ proxy ครับ
- Scope agent แต่ละตัวได้เฉพาะรายการที่จำเป็น agent สำหรับงานเห็น GitHub และ AWS agent สำหรับ deploy เห็น SSH key และฐานข้อมูล
- ขีดจำกัดการอ่าน agent แต่ละตัวอ่านได้เพียงจำนวนรายการที่แตกต่างกันต่อนาทีและต่อชั่วโมงตามที่คุณกำหนด agent ที่เกินขีดจำกัดรายชั่วโมงสองครั้งภายในสองชั่วโมงจะถูกล็อกจนกว่าคุณจะปลดล็อกครับ
- บันทึก ทุกการอ่านถูกบันทึกไว้: agent ใด รายการใด เมื่อไร
รันหลาย agent อยู่ใช่ไหมคะ ให้แต่ละตัวมี proxy ของตัวเองและ enrollment ของตัวเอง แต่ละตัวจะได้ scope ขีดจำกัด และร่องรอยการใช้งานของตนเอง และ agent A จะมองเห็น key ของ agent B ไม่ได้ครับ
สรุปสั้น ๆ
อย่าส่งมอบ key ให้ agent ส่งมอบแค่ชื่อของ key แล้วเก็บ key ไว้ห่างออกไปหนึ่งก้าว ในที่ที่ตัดสินใจทุกครั้งว่า agent นี้ได้รับอนุญาตให้ใช้ตอนนี้หรือไม่ครับ