Agent tools rất mạnh. Chính vì thế chúng cần sandbox.
Agent hữu ích có thể gọi tools. Agent an toàn validate tool schemas, cô lập execution, giới hạn runtime, chặn network egress và log mọi call.
Một khách hàng hỏi tôi: 'Tụi em build agent viết code và execute. Demo làm investors rất ấn tượng. Đưa cho users được chưa?' Câu trả lời là chưa. Tools biến agent từ chat interface thành software đọc, ghi, search và kích hoạt workflows. Sức mạnh đó làm chúng nguy hiểm. Production agent tool system cần năm lớp phòng thủ.
5 lớp phòng thủ
- Schema validation: Validate tool inputs với typed schemas (Zod, JSON Schema). Từ chối invalid calls với error rõ ràng để model tự sửa.
- Secret isolation: Reference secrets bằng ID, inject lúc execution time. Model biết tool tồn tại, không bao giờ thấy credentials.
- Runtime limits: CPU cap (30s), memory cap (256MB), không network egress, read-only fs trừ /tmp, không process spawning, không host fs access.
- Audit logging: Log mọi tool call với agent ID, tool name, params đã redact, output summary, duration và status. Thiết yếu cho điều tra incident.
- Approval gates: Phân loại tools theo risk level. High-risk operations (gửi email, sửa data, thanh toán) cần human approval trước khi execute.
Cập nhật:
Sẵn sàng dựng sản phẩm AI của bạn?
Bắt đầu free, route nhiều provider, đo chi phí và readiness trung thực ngay từ ngày đầu.
Bài viết liên quan
- Product
VeloxAI: control plane multi-model cho đội sản phẩm
Vì sao đội sản phẩm cần một API cho models, agents, RAG, billing, analytics và readiness thay vì thêm một proxy mỏng.
- Models
Cách chọn AI model phù hợp cho từng workflow sản phẩm
Framework chọn model được kiểm chứng thực tế, bao gồm cost, latency, context window, tool calling, vision, reasoning — kèm số liệu thật và ma trận quyết định.
- Knowledge Base
Xây hệ thống RAG production không nói dối users
Pipeline RAG production-grade cần ingestion state, chunk metadata, vector isolation, citations, queue-based indexing và honest failure modes.