에이전트 만들기

모델: Foundry Models에서 고른 LLM.
도구(Tools): Azure AI Search, 코드 인터프리터, 함수 호출 등.
데이터: RAG를 위해 연결한 검색 인덱스.
평가·모니터링: 에이전트 워크플로를 평가하고 트레이싱으로 추적.

Azure AI Foundry Agent Service는 AI 에이전트를 만들고, 배포하고, 확장하는 완전 관리형 서비스예요. 단순한 채팅을 넘어, 도구를 호출하고 검색을 수행하는 에이전트를 안전하고 확장 가능하게 운영하려는 목적이에요.

출처: https://learn.microsoft.com/azure/ai-foundry

왜 관리형 에이전트인가요

에이전트를 직접 만들면 인증, 확장, 모니터링, 거버넌스를 모두 손으로 챙겨야 해요. Agent Service는 이런 운영 부담을 플랫폼에 넘겨서, 개발자는 에이전트의 행동과 도구에 집중하게 해 줘요.

에이전트 하나를 만들 때 보통 이렇게 조합해요.

Azure AI Search를 에이전트용 도구로 붙이면 "에이전트릭 리트리벌(agentic retrieval)"을 구현할 수 있어요. 에이전트가 여러 번 검색하고 결과를 합쳐 답하는 흐름이 가능해지죠.

공식 에이전트 앱 템플릿과 생산 준비용 템플릿을 제공해요. 예컨대 기본 앱 템플릿은 Azure Container Apps에 채팅 앱을 배포하면서 Application Insights로 텔레메트리를 잡는 구성을 한 번에 만들 수 있어요.

콘텐츠 안전(Content Safety), 트레이싱, 평가 도구를 써서 에이전트가 유해한 출력을 내지 않게 관리할 수 있어요. 책임 있는 AI를 지키는 평가지표를 에이전트 워크플로에 적용할 수 있죠.