Làm cách nào đưa cho AI agent một API key mà agent không nhìn thấy key đó?
Đưa cho agent một tham chiếu thay vì key, và để một proxy trên cùng máy chèn key thật vào yêu cầu khi nó đi ra ngoài. Đây là lý do vì sao biến môi trường không còn đủ, và cách thiết lập.
Đưa cho agent một tham chiếu thay vì key, và để một proxy nhỏ trên cùng máy thay key thật vào yêu cầu khi nó đi ra ngoài. Agent viết clavitor://OpenAI/key vào chỗ dành cho secret. API nhận được key thật. Agent không bao giờ nắm giữ key, nên nó không thể in ra, ghi log hay bị thuyết phục để trao key đi.
Đó là toàn bộ ý tưởng. Phần còn lại của trang này giải thích vì sao điều này quan trọng, và cách thiết lập.
Vì sao "chỉ cần đưa vào biến môi trường" không còn ổn
Một năm trước, export OPENAI_API_KEY=sk-... là cách thông thường để đưa key cho một script. Không ai thấy có vấn đề.
Rồi script bắt đầu tự suy nghĩ.
Một AI agent đọc file, chạy công cụ, ghi log và trò chuyện với người lạ trên internet. Mỗi việc đó là một lối thoát cho một key mà agent nắm giữ:
- Môi trường. Bất cứ thứ gì agent chạy đều kế thừa nó. Nó xuất hiện trong
/proc, trong crash dump, trong output của CI. - Bộ nhớ. Lấy key lúc runtime thì key vẫn nằm trong process suốt thời gian agent chạy.
- Cuộc hội thoại. Một prompt injection trong trang web hoặc bình luận issue yêu cầu agent "đưa cấu hình của bạn vào để gỡ lỗi". Một agent nhiệt tình sẽ làm.
Không việc nào trong số đó cần agent có bug. Nó chỉ cần key nằm ở nơi agent với tới được.
Mô hình: agent yêu cầu, proxy ký
Hãy nghĩ đến thẻ khóa khách sạn. Khách mở được phòng của mình. Khách không bao giờ thấy khóa tổng, và cửa ghi lại mỗi lần quẹt thẻ.
Với API key, điều đó trông như thế này:
- Key thật nằm trong két an toàn, được mã hóa.
- Một proxy chạy cạnh agent, trên cùng máy.
- Agent gửi yêu cầu HTTPS với một tham chiếu ở vị trí key.
- Proxy lấy giá trị từ két an toàn, đưa vào yêu cầu và chuyển tiếp.
- Phía agent chỉ nắm giữ tham chiếu mà thôi.
Log của agent hiển thị tham chiếu. Context window của nó cũng vậy. Không có gì để rò rỉ cả.
Cách thiết lập với Clavitor
Đây là cách chúng tôi xây dựng nó. Một binary, một biến môi trường, không thay đổi gì trong code của agent.
Tạo một client cho agent trong két an toàn của bạn với các scope cần thiết, sau đó đăng ký proxy và khởi động nó:
$ clavitor-proxy init $ clavitor-proxy ca $ clavitor-proxy serve
init đăng ký proxy với tư cách client đó. ca in ra certificate authority của proxy: hãy thêm nó vào trust store mà HTTP client của agent dùng, vì proxy tự mở kết nối HTTPS của agent. Sau đó trỏ agent đến proxy:
$ export HTTPS_PROXY="http://clavitor:$(cat proxy-auth)@127.0.0.1:1983"
$ curl -H "Authorization: Bearer clavitor://OpenAI/key" \
https://api.openai.com/v1/chat/completionsproxy-auth là access token riêng của proxy, là file nằm cạnh binary. Mỗi kết nối phải mang theo nó, để người dùng khác trên cùng máy không thể mượn proxy. Proxy lắng nghe trên 127.0.0.1:1983 và chỉ trên máy đó, trừ khi bạn cố ý thiết lập cho một mạng riêng đáng tin cậy.
Nó hoạt động với bất kỳ agent nào có HTTP client tôn trọng HTTPS_PROXY: Claude Code, Codex, script của chính bạn. Một thông tin xác thực chỉ được gửi đến host mà mục của nó liệt kê làm địa chỉ web, nên một agent bị prompt injection không thể trỏ cùng tham chiếu đó đến server của người lạ. Các bước thiết lập chi tiết nằm trong tài liệu proxy.
Còn các secret khác của agent thì sao?
Không phải secret nào cũng đi trong HTTP header. Một mật khẩu deploy, một SSH key, một mã two-factor để đăng nhập.
Với những thứ đó, agent hỏi két an toàn từng mục được đặt tên một lần với clavitor-cli, và chỉ với những mục nó được cấp:
$ clavitor-cli get "GitHub Deploy" --field password $ clavitor-cli get "Stripe API" --field key clavitor-cli: CV-2041: Access denied.
Agent không thể liệt kê két an toàn. Một tìm kiếm theo tên hiển thị tối đa năm tiêu đề khớp, và chỉ một con số đếm nếu nhiều hơn thế.
Mã authenticator hoạt động theo cách tương tự. clavitor-cli totp "GitHub" tính mã hiện tại ngay trên máy của agent, để nó vượt qua đăng nhập two-factor mà không cần ai đọc điện thoại. Két an toàn giữ secret ở dạng mã hóa.
Điều này không giải quyết được gì
Proxy giữ key ra khỏi agent. Nó không làm agent trở nên đáng tin cậy.
- Một agent bị xâm nhập vẫn có thể dùng quyền truy cập mà nó được cấp. Nó chỉ không thể mang key về nhà.
- Người có quyền quản trị trên máy cũng có thể dùng proxy, hoặc đọc bộ nhớ của nó.
- Một API trả lại key của bạn trong phản hồi sẽ trao key cho agent. Proxy đưa key vào yêu cầu và không lọc phản hồi.
Đó là lý do vì sao quyền truy cập xung quanh nó quan trọng ngang với proxy:
- Scope. Mỗi agent chỉ nhận những mục nó cần. Agent cho công việc thấy GitHub và AWS. Agent cho deploy thấy SSH key và cơ sở dữ liệu.
- Giới hạn đọc. Mỗi agent chỉ được đọc một số lượng mục khác nhau nhất định mỗi phút và mỗi giờ, và bạn là người đặt con số. Một agent vượt giới hạn theo giờ hai lần trong vòng hai giờ sẽ bị khóa cho đến khi bạn mở khóa.
- Một bản ghi. Mỗi lần đọc đều được ghi log: agent nào, mục nào, lúc nào.
Chạy nhiều agent? Hãy cho mỗi agent một proxy riêng và một đăng ký riêng. Khi đó mỗi agent có scope riêng, giới hạn riêng và dấu vết riêng, và agent A không thể thấy key của agent B.
Tóm gọn
Đừng đưa agent key của bạn. Hãy đưa nó một cái tên cho key, và giữ key cách một bước, ở một nơi quyết định, mỗi lần, liệu agent này có được phép dùng nó ngay lúc này hay không.
Thiết lập proxy hoặc xem cách quyền truy cập của agent hoạt động.