[AI Agent] 2기 OT: 과정 소개와 준비 사항

Updated:2026년 10월 17일

AI Agent 과정의 목적과 서비스 사례를 소개하고 수업 진행 방식, 과제 제출 방법, 실습 준비 사항을 안내합니다.

1. 개요

이 과정의 목적부터 정리해보겠습니다.

이 과정은 단순히 AI 기술을 많이 아는 데 목적을 두지 않습니다.
어떤 상황에 AI를 적용할 수 있는지, 그때 필요한 개발 요소는 무엇인지 차근차근 정리합니다.

AI 성능을 높이려면 외부 구성 요소도 살펴봐야 합니다.
AI 서비스를 장기적으로 운영하려면 필요한 요소도 갖춰야 합니다.

데이터 파이프라인 / Vector DB / Observability / Guideline, Safeguard 등등

AI Agent 과정 전체에서는 다음 질문을 중심으로 AI 엔지니어가 알아야 할 내용을 정리합니다.

AI를 활용하면 무엇이 달라지는가

필요한 데이터와 시스템은 무엇인가

결과를 어떻게 검증하고 운영할 것인가

이번 OT에서는 편하게 들어주세요.

AI 서비스와 Agent가 어떤 방향으로 발전하고 있는지 살펴보겠습니다.
앞으로 무엇을 배우고 어떤 환경을 준비해야 하는지 짚어보겠습니다.
이 과정에서 무엇을 얻어가실 수 있는지도 정리하겠습니다.

오늘 확인할 내용입니다.

이번 OT에서 확인할 것	핵심 질문
과정의 목적	AI 엔지니어링의 목적
서비스 방향	AI 비즈니스와 개인 생산성
AI Agent	Workflow와 Agent
구성 방식	설계·구축·평가·운영
준비 사항	필요한 리소스 및 준비 사항

2. AI 엔지니어링의 목적

AI 기술은 빠르게 발전하고 있습니다.
매일 새로운 모델이 출시되고 성능이 향상되거나 개념이 등장하곤 합니다.

하지만 모델이 빠르게 많이 나온다고 해서 바로 서비스에 접목할 수 있는 건 아닙니다.
벤치마크가 좋더라도 해당 분야의 특정한 작업에 초점이 맞춰져 있을 수 있습니다.
프롬프트 암묵지, 보안 등 다양한 구성 요소도 검토해야 할 수 있습니다.

저희는 이 과정을 통해 이론 중심의 인공지능 연구와 비즈니스 현장 사이의 간극을 좁히려 합니다.
신뢰성과 지속성을 갖춘 AI 시스템을 설계·구축·운영하는 것이 주 목적입니다.

AI 엔지니어링과 관련된 직무도 점점 다양해지고 있습니다.

AI 관련 직무 참고 영상

3. AI 활용에서 AI 서비스로

Claude Code, Codex, Cursor 같은 AI 도구는 이미 많이 사용하고 계실 겁니다.
코드를 작성하거나 자료를 찾고 반복 작업을 줄이는 데 유용합니다.

다만 개인이 AI 도구를 활용하는 것과 AI 서비스를 만드는 것은 구분할 필요가 있습니다.

개인 활용에서는 사용자가 직접 목표를 정하고 결과를 확인합니다.
문제가 생기면 사용자가 다시 질문하거나 작업을 수정합니다.

AI 서비스는 다릅니다.
다른 사용자의 요청을 받아 필요한 데이터와 시스템을 연결해야 합니다.
일정한 품질의 결과도 반복해서 제공해야 합니다.

비용과 속도, 권한, 보안을 관리해야 합니다.
실패했을 때 어떻게 통제할지도 정해야 합니다.

AI 엔지니어링에서는 AI 도구를 잘 사용하는 것과 함께 AI가 실제 서비스 안에서 안정적으로 작동하도록 설계하고 운영합니다.
저희는 Claude Code의 사용자 관점과 달리 개발자 관점에서 접근합니다.

구성 요소들을 간략하게 정리했습니다.

구성	하는 일	적합한 상황
AI 도구	대화로 조사, 작성, 요약, 코딩을 지원	개인 생산성과 빠른 탐색
LLM API	모델을 서비스 기능으로 연결(시스템 프롬프트, 토큰, Temperature 등)	분류, 추출, 생성, 구조화된 출력
RAG	필요한 외부 문서를 검색해 답변에 사용(Vector DB, Embedding 등)	사내 문서, 최신 정보, 답변 근거가 필요한 서비스
Workflow	정해진 순서대로 여러 단계를 실행	절차가 명확하고 결과의 일관성이 중요한 업무
AI Agent	상황에 따라 다음 행동과 도구를 선택(Tool, LangGraph)	요청마다 실행 경로가 달라지는 복합 작업
AI 운영	품질·비용·속도·보안·실패를 지속적으로 관리(LLMOp)	실제 사용자에게 제공하는 서비스

기능이 많다고 더 좋은 AI 서비스가 되는 것은 아닙니다.

정해진 문서를 요약하는 기능이라면 한 번의 LLM 호출이면 충분합니다.
최신 사내 규정을 근거로 답해야 한다면 RAG가 필요할 수 있습니다.
요청마다 검색, 계산, 외부 API 호출 순서가 달라진다면 그때 Agent를 검토할 수 있습니다.

결국 가장 복잡한 기술을 선택하는 것이 목표가 아닙니다.
목적을 달성할 수 있는 가장 단순한 구조를 선택하는 데 집중합니다.

AI 자원은 매우 비싼 토큰/GPU로 구성되며 확률적입니다.
여신 상담 챗봇 아키텍처를 설계하는 과정

4. AI Agent 사례

앞에서 살펴본 차이를 두 사례로 연결해보겠습니다.

4.1 개인의 목표를 수행하는 Manus

첫 번째는 Manus입니다.

기존 챗봇이 질문에 답하는 데 집중했다면 Manus는 사용자가 준 목표에 따라 계획을 세웁니다.
웹 탐색, 데이터 분석, 문서 작성, 코드 실행 같은 도구를 사용해 결과를 만듭니다.

AI Agent와 이를 실행하는 환경이 많이 발전했습니다. (Codex, Claude Code)

Manus는 한 번의 답변으로 끝나지 않고 작업의 여러 단계를 이어서 수행합니다.

다만 이 사례에서는 사용자가 목표를 정하고 중간 결과와 최종 결과를 직접 확인합니다.
문제가 생기면 사용자가 다시 지시하거나 수정합니다.
개인의 생산성을 높이는 실행형 AI에 가깝습니다.

Manus 작업 사례 보기

4.2 서비스 안에서 행동하는 쏘카 CS Agent

두 번째는 쏘카의 공개 발표에서 소개된 CS Agent 사례입니다.

차량 반납이 임박한 사용자의 운전 패턴을 보고 과속이나 난폭 운전 위험을 감지합니다.
위험의 원인이 반납 시간 부족이라고 판단하면 반납 시간을 5~10분 연장하거나 예상 도착 시간을 조정하도록 안내합니다.

쏘카는 5~10분 시간을 연장하는 것이 급하게 운전하다 사고가 발생하는 것보다 낫다고 판단했습니다.

이 사례는 단순히 위험을 예측하고 끝나지 않습니다.

사용자 상황 확인
→ 운전 데이터 분석
→ 위험과 원인 판단
→ 반납 시간 연장 또는 도착 시간 조정 제안

AI가 서비스의 데이터와 업무 규칙을 바탕으로 판단하고 사용자에게 필요한 행동까지 제안합니다.
비즈니스에 대한 암묵지를 잘 적용한 사례라고 생각해서 가져왔습니다.

이때부터 품질뿐 아니라 개인정보와 권한, 잘못된 판단의 영향, 운영 비용도 함께 관리해야 합니다.

쏘카 CS Agent 발표 영상

구분	Manus 사례	쏘카 CS Agent 사례
출발점	개인이 입력한 목표	서비스에서 발생한 사용자 상황
연결 대상	웹, 파일, 코드 등 작업 도구	운전 데이터, 반납 정책, 고객 안내
결과 확인	사용자가 직접 확인하고 수정	서비스 기준에 따라 반복적으로 판단
운영 책임	주로 개인 사용자	서비스를 제공하는 조직

두 사례 모두 여러 단계를 판단하고 도구를 사용한다는 점에서는 Agent입니다.
차이는 기능보다 운영 방식에 있습니다.
개인 활용은 사용자가 AI를 직접 통제하지만 AI 서비스는 다른 사용자에게 같은 가치를 안정적으로 제공해야 합니다.

따라서 AI Agent를 만든다는 것은 모델에 Tool을 붙이는 것만을 뜻하지 않습니다.
데이터와 업무 규칙을 연결하고 결과의 품질, 비용, 권한, 실패 상황까지 운영할 수 있어야 합니다.

참고: AI Agent 사례 정리

5. AI Agent 과정 진행 방식

5.1 수업 자료 정리 + 과제

앞으로 수업을 어떻게 진행할지 말씀드리겠습니다.

매주 수업 후 수업 정리와 과제를 안내드릴 예정입니다.

수업 정리: 따로 간략하게 정리하거나 추가 자료로 정리
과제: 매주 하루~이틀, 한두 시간 분량
- 데이터로 과제를 바로 시작할 수 있습니다.
  - 원하시면 개인 데이터를 사용하셔도 좋습니다.
- 포트폴리오 등을 위해서라면 외부 공개 API를 활용하거나 데이터를 자체 수집해보시는 걸 권장드립니다.

과제는 GitHub PR로 제출 부탁드립니다!
GitHub Comment로 피드백드릴 예정입니다.
수업 정리 자료는 따로 운영 중이신 블로그로 업데이트 부탁드립니다!

5.2 녹화 자료

녹화 자료는 매주 구글 캘린더 초대에서 확인할 수 있습니다.

구글 캘린더에서 녹화 자료 확인

같은 데이터를 사용하면 모델, Prompt, 검색 방식에 따른 차이를 함께 비교할 수 있습니다.
데이터 준비에 익숙하지 않은 상태에서도 구현과 평가의 기본 흐름에 집중할 수 있습니다.

5.3 OT 이후 준비 사항

모든 모델 제공자와 플랫폼을 한꺼번에 준비할 필요는 없습니다.
수업과 과제에서 사용할 수 있는 모델 접근 수단 하나를 먼저 선택하면 됩니다.

5.3.1 모델 접근 수단

선택 도구	적합한 상황	준비할 것
OpenAI API	OpenAI 모델과 API 생태계를 직접 사용할 때	OpenAI Platform 계정, API Key, 결제·사용량 확인
Claude API	Anthropic 모델을 직접 호출할 때	Anthropic Console 계정, API Key, 결제·사용량 확인
Gemini API	Google AI Studio와 Gemini API를 사용할 때	Google 계정, Gemini API Key, 결제·할당량 확인
Amazon Bedrock	AWS에서 여러 모델과 관리형 AI 기능을 사용할 때	AWS 계정, IAM 권한, 사용할 리전과 모델 접근 권한

처음에는 하나만 선택해도 됩니다.
주차별 실습 조건에 따라 다른 도구가 필요하면 추가로 안내드리겠습니다.

ChatGPT, Claude와 같은 웹·앱 구독과 개발자용 API 사용량은 별도로 관리됩니다.

유료 구독 중이어도 API 호출 비용이 자동으로 포함된다고 생각하면 안 됩니다.
Provider의 API Console에서 결제 방식, 무료 한도, 사용량을 한 번 검토 부탁드립니다.

초기 사용량이 일부 제한되는 경우가 있으니 확인 부탁드립니다.

5.3.2 기본 실습 환경

리소스	용도
GitHub 계정	과제 코드와 문서 제출
Git	Commit과 Push를 통한 변경 이력 관리
Python 실행 환경	API 호출, 데이터 처리, Agent 실습
코드 편집기	코드와 Markdown 문서 작성
Google 계정·이메일	Meet 참여, 캘린더와 녹화 자료 확인

로컬 GPU는 기본 필수가 아닙니다.

OpenAI API, Claude API, Gemini API, Amazon Bedrock과 같은 관리형 모델 접근 수단으로 대부분의 실습을 시작할 수 있습니다.
로컬 모델이나 Fine-tuning 실습에서 GPU가 필요하다면 해당 주차에 별도로 안내하겠습니다.

5.4 주의 사항

아래 세 가지만 기억해 주세요.

API Key와 .env는 코드나 GitHub에 올리지 않습니다.
Key가 노출되면 즉시 폐기하고 새로 발급합니다.
웹·앱 구독과 API 비용은 별도입니다. 사용량 알림과 예산 한도를 설정해 주세요.

5.5 정리

항목	진행 방식
수업	Google Meet로 진행
일정	매주 Google Calendar에서 확인
녹화	주차별 Calendar와 추후 공지되는 전체 링크에서 확인
구글 이메일	Calendar 초대와 자료 공유를 위해 수집
과제	주차 진행 후 다음 진행일자 전날 오후 6시까지 제출 권장
제출	GitHub repository에 PR로 안내된 방식으로 제출

세부 과제 범위와 제출 형식은 각 주차에 안내하겠습니다.