Azure API Management Ships Unified Model API and MCP Content Safety at Build 2026

KẾT LUẬN

Microsoft đã mở rộng mạnh mẽ Azure API Management thành một AI Gateway toàn diện tại Build 2026, với Unified Model API giúp chuẩn hóa truy cập đa provider, mở rộng content safety sang MCP/A2A, và các metric token chi tiết cho kỷ nguyên multi-model. Đây là bước đi chiến lược định vị API gateway — chứ không phải một danh mục sản phẩm mới — làm mặt phẳng kiểm soát tự nhiên cho khối lượng công việc AI trong doanh nghiệp.

LUẬN ĐIỂM CHÍNH

• Unified Model API cho phép client nói một định dạng API duy nhất (OpenAI Chat Completions) trong khi APIM tự động chuyển đổi request sang định dạng gốc của Anthropic, Google Vertex AI và các provider khác — loại bỏ nỗi đau phải viết nhiều client code cho từng provider.
• Chính sách content safety được mở rộng từ LLM sang MCP tool calls và A2A agent-to-agent communication, bao gồm hai lớp bảo vệ: lọc theo danh mục nội dung (Hate, SelfHarm, Sexual, Violence) với ngưỡng severity có thể cấu hình (0-7) và shield-prompt chống prompt-injection.
• Hệ thống metric token được mở rộng để theo dõi reasoning tokens, cached tokens và audio tokens trên Application Insights, hỗ trợ các provider lớn (Microsoft Foundry, OpenAI, Amazon Bedrock, Google Vertex AI), giúp đội FinOps xây dựng dashboard chi phí chính xác hơn.
• Azure API Center MCP server đạt GA, cung cấp một điểm khám phá doanh nghiệp thống nhất — agent và công cụ phát triển có thể truy cập tất cả MCP servers, tools, APIs, agents và AI assets đã đăng ký qua một kết nối MCP duy nhất.

LUẬN ĐIỂM PHỤ

• APIM có thể expose REST API hiện có dưới dạng MCP server, giúp các API doanh nghiệp ra đời trước kỷ nguyên agent trở nên agent-callable mà không cần xây dựng lại.
• Cơ chế xử lý streaming response khác biệt: thay vì trả về HTTP 403, policy buffer events trong sliding window và ngừng forward events — đòi hỏi agent phải xử lý graceful stop thay vì mong đợi error code tường minh.
• Khả năng hoán đổi backend provider, thêm model mới, hoặc định tuyến traffic giữa các provider mà không cần thay đổi client code — mở rộng governance nhất quán cho mọi AI workload.

LUẬN CỨ & VÍ DỤ

• Ví dụ cấu hình llm-content-safety điển hình: <llm-content-safety backend-id="content-safety-backend" shield-prompt="true" enforce-on-completions="true"> với các category Hate và Violence ở threshold="4" — minh họa cách doanh nghiệp áp dụng chính sách an toàn nhất quán cho cả LLM lẫn agent traffic.
• So sánh cạnh tranh: AWS Bedrock Guardrails chỉ có content filtering và model access control, không có Unified Model API đa provider hay MCP/A2A content safety; Google Apigee có một số tính năng AI gateway nhưng không đạt độ rộng về protocol như APIM; Cloudflare AI Gateway tập trung vào spend limits và caching thay vì multi-protocol governance.
• AI Gateway labs cung cấp hơn 30 Jupyter notebook thực hành với hướng dẫn từng bước và Bicep templates có thể triển khai ngay, cho thấy Microsoft đầu tư nghiêm túc vào developer experience và adoption.

Nguồn: InfoQ | Phân tích bởi AI