지난 글에서는 Microsoft의 클라우드 데이터센터와 AI 인프라가
어떻게 세계 곳곳에서 ‘물리적으로’ AI 혁신을 뒷받침하는지를 살펴보았습니다.
GPT 같은 대규모 AI가 작동하는 무대 뒤편,
Maia 100, Grace Blackwell, InfiniBand 네트워크 등 초고성능 인프라의 세계를 들여다봤죠.
그렇다면 이제, 이 모든 인프라 위에서 실제로 ‘개발자’는 어떤 방식으로 일하고 있을까요?
AI는 더 이상 백엔드의 보조 기술이 아니라, 소프트웨어 개발 자체를 새롭게 정의하는 주체로 자리 잡고 있습니다.
이제는 단순한 코드 자동 완성을 넘어, 문제를 인식하고 계획을 세우며, 다른 에이전트와 협업해 기능을 구현하고 배포하는 시대.
바로 ‘Agentic Development’, 자율형 AI 중심의 개발 패러다임이 열리고 있습니다.
오늘은 그 이야기를 해보려 합니다.
[2025 Microsoft Cloud & AI Bootcamp] 다섯 번째,
“자율형 AI 시대의 개발 패러다임 – 새로운 ‘Agentic Development’의 세계” 입니다.
📌
- 주제: 자율형 AI 시대의 개발 패러다임 – 새로운 ‘Agentic Development’의 세계
- 일시: 2025년 7월 24일 목요일 오전 10:00 ~ 10:45
- 장소: 온라인
- 발표자: Julia Liuson ( GitHub 및 개발자 부문실 대표, Microsoft )
🔗해당 세션 다시보기 링크🔗: AZBC: 자율형 AI 시대의 개발 패러다임 – 새로운 ‘Agentic Development’의 세계
🔗모든 세션 다시보기 링크🔗: Microsoft Cloud and AI Bootcamp
여러분은 지금, 개발의 새로운 시대 한가운데에 서 있습니다.
AI는 단지 코드를 잘 짜는 도구가 아니라, 개발 여정 전체를 다시 그리는 동료가 되었습니다.
이번 Microsoft Cloud & AI Bootcamp에서 Julia Liuson(Microsoft 개발자 부문 및 GitHub 사장)은 AI가 개발 생태계에 가져올 변화의 핵심 키워드로 ‘Agentic DevOps’를 소개했습니다. 단순한 자동화를 넘어 지능형 협업 에이전트의 시대로 접어들고 있다는 것이죠.
✅ 복잡한 시대, 개발자는 무엇과 싸우고 있는가?
개발은 어느 때보다 복잡해졌습니다.
- 기능은 늘어나고, 배포 주기는 짧아지고
- 생성형 AI는 새로운 모델 포트폴리오와 대용량 데이터 관리를 요구하며
- 기술 부채는 여전히 개발자의 발목을 잡고 있습니다.
결국, 개발자는 반복되는 저가치 작업을 줄이고, 더 중요한 문제 해결에 집중할 수 있는 구조가 필요합니다.
🤖 GitHub Copilot의 진화 과정
초기의 Copilot은 “코드 작성 중 제안을 해주는 도우미” 수준이었습니다.
이후 RAG 기반의 대화형 지식 검색 기능이 추가되면서 더 똑똑해졌고,
지금은 단계를 넘어 “함께 일하는 팀원급 에이전트”로 진화하고 있습니다.
특히, 새로운 Copilot Agent Mode는 다음과 같은 특징을 갖습니다:
- 자연어 명령만으로 다단계 작업을 자율 수행
- 코드를 분석하고 변경 계획 수립 → 실행 → 반복
- Visual Studio, JetBrains, Eclipse 등 모든 *IDE 지원
- GitHub 기반이 아니어도, 모든 코드 저장소에서 사용 가능
▶ 이제 개발자는 Copilot에게 테스트 작성, 버그 수정, 기능 구현 등 ‘이슈를 할당’하는 시대입니다.
*IDE(통합 개발 환경)
: 코드 작성, 디버깅, 실행을 하나의 환경에서 할 수 있는 개발 도구 모음
🧠 Agentic DevOps: 단순 자동화를 넘어 ‘협업하는 에이전트’의 시대
Microsoft가 제안한 ‘Agentic DevOps’는 단순 자동화가 아닙니다.
에이전트가 개발자와 함께, 개발 생애 주기 전 과정을 실질적으로 수행하는 구조입니다.
Agentic Layer는 다음과 같은 역할을 합니다:
- 아이디어 발상 → 프로토타이핑 → 개발 → 디버깅 → 테스트 → 배포 → 운영까지 함께함
- 프로젝트 문맥을 이해하고, 시간이 지날수록 나를 더 잘 알아감
- 내가 선택한 도구와 방식에서 자연스럽게 함께 일함
이 레이어는 ‘팀원처럼 함께 일하는 AI’를 가능하게 하고, 개발자는 고부가가치 창출에만 집중할 수 있게 됩니다.
🛠️ 운영과 유지보수까지 확장되는 Copilot의 역할
소프트웨어는 배포가 끝이 아닙니다.
대부분의 기업은 중요한 앱을 수년간 유지보수해야 하고,
Java/.NET 업그레이드, 클라우드 마이그레이션, 테스트 보강 등
개발자가 하기엔 반복적이고 귀찮은 일들이 산재해 있습니다.
이를 위해 Microsoft는 ‘Copilot for App Modernization’을 선보였습니다.
- 코드베이스 분석 → 업그레이드 계획 수립 → 테스트 자동화
- 필요한 코드만 갱신하며, 리뷰/승인 체계는 유지
- 실제로 Ford China는 이 기능을 활용해 Java 마이그레이션을 수행했고,
최대 70%까지 비용 절감 효과를 보았다고 합니다.
🛡️ 운영단의 AI 에이전트, SRE까지 진입
운영도 예외는 아닙니다.
AI는 구성 오류 탐지, 이상 징후 조기 감지, 문제 해결 방안 제시까지
SRE가 하던 일들을 에이전트가 보조할 수 있게 되었습니다.
Microsoft는 최근 ‘Azure SRE Agent’를 공개했습니다.
- 반복 작업 자동화, 경고 알림 최적화
- 운영 안정성과 비용 효율을 동시에 확보
*SRE( Site Reliability Engineering )
: 시스템 가용성과 성능을 유지하기 위한 운영 엔지니어링 방법론
: Google이 만든 개념으로 개발 + 운영 자동화에 중점
📺 실제로 Agentic DevOps는 어떻게 실현될까?
Microsoft는 실제로 Agentic DevOps가 어떻게 실현되는지를 데모로 보여줬습니다.
GitHub, Copilot, Azure 그리고 웹사이트인 Contoso Outdoor.
이번 데모에서 보여준 흐름은 다음과 같았습니다.
1️⃣ LLM 기반 챗 기능 추가
- 웹사이트 내 챗봇 기능 개선 → LLM으로 자연스러운 답변 생성
- Copilot Agent가 .NET API에 LLM 호출 기능 자동 삽입
- 샘플 코드와 API 연결도 자동으로 설정
🟢 결과: 데이터베이스에서 가져온 딱딱한 문자열 대신, 부드러운 자연어 답변 제공
2️⃣ 유닛 테스트 자동 생성
- 방금 만든 챗 기능에 대해 Copilot에게 테스트 생성 이슈를 할당
- Copilot이 자동으로 테스트 코드 생성 후 *PR(풀 리퀘스트) 작성
- 개발자는 리뷰와 주석만 추가 → Copilot이 피드백 반영해 수정
🟢 결과: 테스트 커버리지 확대 + 반복 작업 자동화 + 협업 효율 향상
*PR (Pull Request)
: 개발자가 변경한 코드를 저장소에 병합하기 전에 리뷰와 승인 요청을 보내는 협업 방식
3️⃣ 레거시 Java 앱 현대화
- 산악 자전거 데이터를 처리하는 *Java MVC 앱 리팩토링
- Copilot이 변경 필요한 사항 전체 제안 (기술 스택, 의존성 등)
- 자격 증명 → Azure Key Vault로 이관
- 실시간 코드 변경과 설명 → 개발자는 중간중간 검토·참여만 하면 됨
🟢 결과: Java에 익숙하지 않아도, 안정적인 리팩토링 가능
*Java MVC 앱 리팩토링
: Java로 구성된 MVC(Model-View-Controller) 구조의 웹앱을 구조적으로 개선하거나 현대화하는 작업
→ (예시) 라이브러리 업데이트, 보안 강화, 클라우드 최적화 등
*Azure Key Vault
: 비밀번호, API 키, 인증서 등 중요한 정보를 안전하게 저장하고
앱에서 필요할 때만 접근하게 해주는 Azure 보안 서비스
4️⃣ Azure 배포 자동화
- Copilot과 MCP(Microsoft Cloud Platform)가 협업
- *Bicep 파일 자동 생성 → 필요한 리소스 정의
- GitHub Actions 자동 설정 → 배포 파이프라인 구성
🟢 결과: 클릭 몇 번 없이 *CI/CD 구축 + Azure 배포 완료
*Bicep
: Azure 리소스를 코드로 선언해 자동 배포할 수 있게 해주는 간결한 인프라 정의 언어
*CI/CD (지속적 통합/배포)
: 코드 변경을 자동으로 테스트하고 배포하는 개발 방식
: CI - 자동 빌드 및 테스트 / CD - 자동 배포
: 코드 반영 → 앱 업데이트가 끊김 없이 이루어짐
5️⃣ 운영 중 문제 감지 및 대응
- 배포 완료 후 SRE 에이전트가 문제 자동 감지
- .NET 앱의 메모리 과다 사용으로 인한 가용성 저하를 탐지
- 에이전트가 즉시 자동 확장 + *메모리 덤프 + 원인 분석
- Copilot에게 수정 작업 이슈 할당
🟢 결과: 수동 대응 없이도 운영 문제 해결 + 자동 리포팅
*메모리 덤프 (Memory Dump)
: 프로그램이 사용 중인 메모리 상태를 파일로 저장한 것
→ 앱의 오류나 버그를 분석할 때 내부 동작을 파악하는 데 사용
🎯 데모에서의 핵심 포인트
| 단계 | 주요 역할 | 담당 |
| 기획/기능 구현 | 자연어 기반 챗봇 개발 | GitHub Copilot Agent |
| 테스트 자동화 | 유닛 테스트 생성 + 반복 수정 | Coding Agent |
| *레거시 현대화 | Java 코드 리팩토링 | Copilot + 사용자 |
| 배포 | Azure 리소스 설정 + CI/CD 구성 | Copilot + MCP |
| 운영 | 실시간 모니터링 + 문제 해결 | Azure SRE Agent |
이번 데모는 단순한 기능 설명이 아니라,
"실제 현업 개발자가 Agentic DevOps를 활용하면 어떤 흐름이 가능한지"를 명확하게 보여준 사례였습니다.
개발자는 그저 방향을 잡아주고, AI 에이전트들이 그 사이사이의 과정을 알아서 메꿔줍니다.
*레거시 현대화 (Legacy Modernization)
: 오래된 시스템을 클라우드나 최신 기술 기반으로 바꾸는 작업
지금까지 보셨듯, Agentic DevOps는 단순한 효율 향상이 아니라 "소프트웨어 개발 전 과정을 다시 설계하는 사고방식"입니다.
개발자가 구축 → 배포 → 운영하는 방식 자체를 AI 중심의 구조로 전환시킨다는 것이죠.
이 접근 방식은 다음과 같은 효과를 가져옵니다.
- 기술 부채를 줄이고
- 워크플로우를 자동화하며
- 릴리즈 속도를 단축하고
- 적은 인력으로도 고품질 소프트웨어를 지속 운영할 수 있게 함
즉, AI 에이전트를 전면에 둔 이 전략은 '개발자 생산성 혁명' 그 자체입니다.
🏗️ 에이전트를 직접 구축하고 싶다면? 바로 'AI Foundry' !
"우리 조직도 이런 에이전트 시스템을 직접 만들 수 있을까?"
이 부분에서 Microsoft는 AI Foundry라는 새로운 통합 플랫폼을 소개했습니다.
▶ AI Foundry 란?
"AI 에이전트를 만드는 공장"
→ 조직 맞춤형 에이전트를 빠르게 만들고 배포할 수 있도록 도와주는 플랫폼
💡주요 특징
- 강력한 사전 학습 모델에 접근 가능
- 멀티 에이전트 시스템 구성 → 협업 기반 복잡한 워크플로우 가능
- Smart Model Routing → 작업별 최적 모델 자동 선택으로 성능&비용 최적화
- 책임 있는 AI → 거버넌스, 보안, 투명성 내장
🔏 엔터프라이즈 환경을 위한 설계
Foundry는 '기업 환경에서 실제 사용 가능한 수준의 통제권'을 보장합니다.
- 데이터는 온전히 기업 네트워크에 저장
- 에이전트가 접근할 수 있는 소스 선택도 사용자 통제
- Microsoft Graph API 호출로 M365 내 비정형 생산성 데이터까지 통합
🔍 Azure AI Foundry의 핵심 기능
1️⃣ 방대한 모델 카탈로그
Azure AI Foundry는 다음과 같은 1,800개 이상의 다양한 모델을 포함합니다.
- Azure OpenAI Service의 최첨단 모델
- Microsoft PHY 계열의 소형 모델
- Meta, Mistral, Cohere, Hugging Face 모델
- 산업 특화 모델
필요에 따라 최적의 모델을 선택하여 나만의 에이전트를 설계할 수 있도록 지원합니다.
2️⃣ 강력한 에이전트 도구 체인
Azure AI Agent Service를 통해 에이전트를 생성하고, 다음과 같은 지식 소스와 연결할 수 있습니다.
- Microsoft Fabric
- Microsoft Bing
- Azure AI Search
다양한 소스로부터 데이터를 수집하고 보다 정확한 응답과 유연한 의사결정 지원이 가능합니다.
또한, Azure AI Logic Apps와 같은 기능을 통해 복잡한 워크플로우를 자동화하고 의사결정을 수행하도록 트리거할 수 있습니다.
3️⃣ 신뢰할 수 있는 AI
Azure AI Foundry는 기본으로 Content Safety 시스템을 탑재합니다.
- 유해 입력/출력 자동 필터링
- 사용자 지정 필터링 키워드 지원
- 프롬프트 보호, 민감 콘텐츠 감지, 신뢰성 탐지 기능 제공
4️⃣ Observability Toolchain
Azure AI Foundry Observability Toolchain을 통해 AI 앱 성능과 상태를 실시간으로 모니터링할 수 있습니다.
- 정확도, 신뢰성, 공정성, 프롬프트 공격 취약성 등
다양한 지표 기반의 지속적인 평가 제공 - 중앙 집중식 Management Center 제공
→ 보안, 컴플라이언스, 리소스 관리 자동화
IT 팀의 부담은 줄이고, 운영 효율성과 거버넌스 수준을 향상시킵니다.
💡 Agentic Vision: 통합과 확장성
Copilot 기반 프로젝트 생성, SRE 에이전트, Azure AI Foundry까지
이 모든 요소는 Agentic Vision 아래 하나로 연결됩니다.
🎯 Agentic Vision이 실현하는 세 가지 영역
| 개발 주기 영역 | Agentic 도구의 역할 |
| Inner Loop | 계획, 코딩, 테스트 자동화 |
| Outer Loop | 보안, CI/CD, 클라우드 확장 |
| 운영 환경 | 모니터링, 문제 대응, 최적화 |
🚀 에이전트는 단지 비전이 아닌, 이미 현실입니다.
이제 AI는 단순한 코딩 보조도구가 아닙니다.
우리는 AI가 코드 작성 방식, 배포 방식, 운영 방식,
나아가 비즈니스 전반의 흐름까지 바꾸는 시대에 있습니다.
GitHub Copilot, Azure AI Foundry, Agentic DevOps와 같은 도구들은 우리가 미래를 주도하는 방식 그 자체입니다.
💬 더 스마트한 자동화, 더 빠른 의사결정, 더 효율적인 워크플로우를 구현하고 싶으신가요?
지금이 바로 AI Foundry 위에 여러분의 에이전트를 구축할 순간입니다.
AI는 더 이상 개발자의 도우미가 아닌
계획부터 배포, 운영까지 함께하는 ‘팀의 일원’이자
비즈니스 민첩성과 품질 향상의 중심축으로 자리잡고 있습니다.
이제 중요한 것은 "어떤 AI를 쓸 것인가?"가 아니라,
"어떤 에이전트를 어떻게 설계하고, 협업할 것인가?"입니다.
AI 중심 개발의 패러다임 전환, 여러분의 현장에서도 이미 시작되고 있습니다.
지금 우리가 만들어가는 이 여정이 곧
모든 개발자가 더 빠르고 똑똑하게 일하는 미래의 표준이 될 것입니다.
여러분의 Agentic DevOps 여정, 언제나 데이터스랩과 함께하세요! 😊
다음 주제는 AI로 개발을 가속하다 – 차세대 개발 도구와 플랫폼의 진화 입니다.
다음 글에서 뵙겠습니다!
감사합니다. 뿅 ㅇ_<☆
※ 본 글은 Microsoft Cloud & AI Bootcamp 세션을 기반으로 작성되었으며, 정리 과정에서 OpenAI ChatGPT를 활용하여 작성하였습니다.
