쉬운 설명
일반적인 프로그램은 명령한 대로 정확하게 움직이지만, AI는 조금 다릅니다. 똑같은 질문을 던져도 매번 조금씩 다른 답을 내놓기도 하고, 가끔은 엉뚱한 소리를 하기도 하죠. 그래서 AI 서비스를 만들 때는 '처음부터 정답을 딱 정해놓고 만드는 방식'이 아니라, '일단 만들어보고, 결과를 살펴본 뒤 계속 고쳐나가는 방식'으로 접근해야 합니다. 앤드류 응 교수님은 이렇게 예측하기 어려운 AI를 활용해 믿을 수 있는 서비스를 만들려면 어떤 역량이 필요한지 정리했는데요. 쉽게 말해 '변덕스러운 재료로도 늘 맛있는 요리를 만들어내는 요리사의 노하우'를 정리한 것이라고 보면 됩니다.
요약
스탠퍼드대학교 교수이자 AI 업계의 대표적인 교육자·실무자인 앤드류 응 교수가 'AI 엔지니어링 스킬 맵'을 공개했습니다. AI 서비스를 개발하고 운영하는 데 꼭 필요한 핵심 역량을 정리한 것인데요. 큰 틀에서는 (1) AI 애플리케이션 구축·배포, (2) 소프트웨어 공학 기초, (3) 코딩 에이전트 활용, (4) 빌드 방향 설계라는 네 가지 상위 역량으로 나뉩니다. 이번 글에서는 그중 첫 번째인 'AI 애플리케이션 구축·배포'를 집중적으로 다뤘습니다.
이 글이 주목받는 이유는 AI 서비스 개발이 기존 소프트웨어 개발과 근본적으로 어떻게 다른지 명확히 짚어주기 때문입니다. 일반 소프트웨어는 특정 값을 넣었을 때 어떤 결과가 나올지 미리 알 수 있지만, LLM(거대언어모델) 기반 서비스는 결과가 매번 달라질 수 있거든요. 결국 이 '불확실성'을 얼마나 잘 다루느냐가 AI 엔지니어링의 핵심인 셈입니다. 그렇기 때문에 한 번에 완벽하게 만들기보다는 '만들기 → 결과 관찰하기 → 다음 단계 결정하기'라는 과정을 끊임없이 반복해야 한다고 강조합니다.
활용 포인트
실제 업무나 학습에는 이렇게 적용해볼 수 있습니다. 우선 'LLM 기초 이해' 역량은 챗봇이나 AI 기능을 도입할 때 어떤 모델을 골라야 할지, 그리고 컨텍스트 윈도우(모델이 한 번에 처리할 수 있는 정보량)에 어떤 정보를 넣고 뺄지 결정할 때 직접 활용됩니다. 예를 들어 고객 문의 자동응답 시스템을 구축한다면, 두꺼운 매뉴얼 전체를 매번 넣을지, 아니면 필요한 부분만 쏙쏙 찾아 넣어줄지(RAG 방식) 판단해야 하는데요. 이것이 바로 '데이터로 모델에 근거를 마련해주는(그라운딩) 기술'입니다.
또한 '에이전틱 시스템 구축' 역량은 단순한 대화형 챗봇을 넘어, AI가 스스로 다음 행동을 판단하고 도구(검색, 코드 실행, MCP 연동 등)를 직접 호출하는 서비스를 만들 때 큰 도움이 됩니다. 기획자라면 이 개념을 통해 '이 기능이 정해진 순서대로만 작동해야 하는지, 아니면 AI가 상황에 맞춰 유연하게 판단해야 하는지'를 개발팀에 명확히 요청할 수 있죠. AI를 공부하는 분이라면 이 스킬 맵을 길잡이 삼아 'LLM 기초 → 데이터 연결 → 에이전트 설계 → 평가(테스트) → 운영' 순서로 탄탄하게 학습 계획을 세워볼 수도 있습니다.
주의 사항
이번에 소개된 내용은 앤드류 응 교수가 수많은 채용 공고 분석, 전문가 인터뷰, 설문 조사를 거쳐 완성한 '스킬 맵' 중 일부(첫 번째 상위 항목)입니다. 나머지 세 가지 역량(소프트웨어 공학 기초, 코딩 에이전트 활용, 빌드 방향 설계)은 이어지는 글에서 다뤄질 예정입니다. 아울러 이 스킬 맵은 현시점의 채용 시장과 업계 트렌드를 담고 있기 때문에, AI 기술이 발전함에 따라 세부 항목이나 중요도는 언제든 달라질 수 있습니다. MCP나 RAG 같은 특정 도구·기술 이름에 얽매이기보다는, 그 바탕에 깔린 핵심 개념을 이해하는 데 집중하는 것이 좋습니다.
자체 검증
원문과 대조해보면, 앤드류 응 교수가 제시한 네 가지 상위 역량(애플리케이션 구축·배포, 소프트웨어 공학 기초, 코딩 에이전트 활용, 빌드 방향 설계) 중 첫 번째 항목을 중점적으로 다뤘다는 사실이 정확히 일치합니다. AI 서비스 특유의 불확실성 때문에 반복적인 개발 방식이 필수적이라는 점, 그리고 LLM 기초, 데이터 그라운딩, 에이전틱 시스템 구축이 세부 항목으로 포함된다는 설명 역시 원문 내용 그대로입니다. 다만 원문에 함께 등장하는 '평가 기반 개발(Evaluation-driven development)', '프로덕션 운영', '머신러닝 기초' 등의 항목은 분량상 이번 글에서 깊게 다루지 못했으니 참고해주세요. AI타임스 기사에서 짚은 '불확실성 제어가 핵심'이라는 요약 또한 원문의 핵심 취지와 잘 들어맞습니다.
태그
#AI #AI엔지니어링 #앤드류응 #LLM #에이전트 #RAG #커리어
원문
https://www.aitimes.com/news/articleView.html?idxno=214329
https://x.com/AndrewYNg/article/2090840747738374568
참고자료
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (RAG 원논문)