AI 아키텍트가 되기까지의 여정

오랜 기간 소프트웨어 업계에 있으면서 데스크톱 앱에서 웹, 모바일, 클라우드를 거쳐 지금은 AI까지 왔습니다. 가장 인상 깊은 점은 AI가 단순히 개발 도구 하나가 늘어난 것이 아니라, 소프트웨어 시스템 전체를 설계하는 방식을 바꾸고 있다는 사실입니다.

예전에는 데이터베이스 설계, API 경계, 배포만 생각하면 되었습니다. 이제는 LLM(Large Language Model, 텍스트를 이해하고 생성하는 대규모 언어 모델), RAG(Retrieval-Augmented Generation, 모델이 답변 전에 자료를 검색해 오는 검색 증강 생성), Agent(스스로 도구를 호출해 작업을 끝내는 프로그램), Vector Database(의미 벡터를 저장해 유사도 검색을 수행하는 벡터 데이터베이스), MLOps(Machine Learning Operations, 모델 배포·모니터링·업데이트를 아우르는 머신러닝 운영)까지 함께 고려해야 하고, 여기에 모델 비용과 보안, 데이터 권한 문제도 따라옵니다.

그래서 새로운 방향을 정했습니다. AI 솔루션 아키텍트(AI Solution Architect)가 되는 것입니다. 여섯 개의 자격증, 약 12~15개월, 일부러 쉬운 것부터 시작해 애플리케이션 개발, ML 엔지니어링, 클라우드 아키텍처로 나아가는 순서입니다.

1. AI-901: 기초를 다집니다. LLM과 API를 매일 쓰다 보면 이미 다 안다고 착각하기 쉽지만, 써 본 것과 체계적으로 이해하는 것은 다릅니다. 첫 번째 시험은 일부러 쉬운 것으로 골랐습니다. 흩어져 있던 AI 지식을 다시 정리해 주기 때문입니다.

2. AIF-C01: 같은 개념을 두 번째 클라우드에서 봅니다. AWS는 같은 개념을 다른 제품 이름과 다른 방식으로 제공합니다. 한 벤더만 알면 문제를 만났을 때 “어떤 제품을 쓰지?”부터 떠오르지만, 아키텍트라면 이 문제에 실제로 어떤 아키텍처가 필요한지를 먼저 물어야 합니다.

3. Microsoft AI Apps & Agents Developer: 진짜 시스템을 만들기 시작합니다. LLM API를 호출하는 일은 쉽지만, AI를 시스템에 넣는 일은 다릅니다. 사내 데이터에 어떻게 접근할지, 기존 API를 어떻게 호출할지, Agent가 혼자 결정해도 되는 범위는 어디까지인지, 무엇에 사람의 확인이 필요한지, 권한은 어떻게 다룰지, 답이 틀렸을 때는 어떻게 할지가 모두 문제입니다.

4. AWS Machine Learning Engineer: ML 엔지니어링과 MLOps를 더합니다. 기업에는 여전히 고전적인 머신러닝 수요가 많고, 실제 운영에서는 모델 정확도만이 문제인 경우가 거의 없습니다. 배포, 데이터 파이프라인, 버전 업데이트, 모니터링, 비용이 핵심입니다.

5. Google Professional ML Engineer: 제품과 아키텍처를 구분합니다. 세 개의 클라우드를 거치는 목적은 콘솔 세 개를 아는 것이 아니라, 이름이 다른 세 서비스가 같은 종류의 문제를 푼다는 사실을 보는 것입니다. 엔지니어는 어떻게(how)를 묻고, 아키텍트는 왜(why), 대안은 무엇인지, 비용은 얼마인지까지 묻습니다.

6. AWS Solutions Architect – Professional: 다시 아키텍처 그 자체로. 마지막 시험을 일부러 AI 시험으로 잡지 않았습니다. AI 아키텍트도 결국 먼저 아키텍트이기 때문입니다. AI를 도입한다고 해서 데이터베이스, 네트워크, 보안, IAM(Identity and Access Management, 자격 증명 및 접근 관리), 확장성, 재해 복구, 비용 문제가 사라지지 않습니다. 오히려 더 어려워집니다.

원래 계획에는 없던 일입니다. AIF-C01을 공부하면서 많은 자료와 문제은행을 봤지만 늘 무언가 부족했습니다. 문제만 반복해서 푸는 방식은 원하지 않았습니다. 틀리면 왜 틀렸는지 알고 싶었고, 맞힌 문제 중에도 운으로 찍은 것이 있었습니다.

또 하나의 문제는 시간이었습니다. 책상에 앉아 있을 수 있는 시간은 한정되어 있지만, 걷는 시간과 출퇴근 시간, 짧은 휴식 시간은 모으면 꽤 됩니다. 소프트웨어를 만드는 일을 하고 있으니, 제가 쓰고 싶은 형태를 직접 만들었습니다.

첫 버전은 AIF-C01부터 시작하며, 14일 일정으로 구성해 수백 문제짜리 문제은행을 여는 대신 오늘 무엇을 공부할지 알 수 있게 했습니다. 음성 학습이 기본으로 들어 있어 걷거나 이동하면서 복습할 수 있습니다. English, 日本語, 한국어, 중국어, Español, Português (Brasil)를 지원합니다.

시험을 보는 이유는 공부할 범위를 정해 주고 각 단계에 분명한 목표를 주기 때문입니다. 하지만 자격증 여섯 개가 사람을 AI 아키텍트로 만들어 주지는 않습니다. 1년 뒤에 LinkedIn에 배지 여섯 개만 남고 AI 시스템을 한 번도 만들어 보지 않았다면, 그 1년은 제가 원한 결과를 내지 못한 것입니다.

그래서 규칙을 하나 더 정했습니다. 모든 단계는 실제로 보여 줄 수 있는 결과물을 남겨야 합니다. 앱이든 Agent든 RAG 시스템이든 ML 파이프라인이든, 아니면 완결된 아키텍처 설계든 말입니다. 자격증은 무엇을 배울지 알려 주고, 만들어 보는 일은 실제로 할 수 있는지를 알려 줍니다.

모델만 연구하는 사람이 되고 싶지는 않습니다. 제가 흥미를 느끼는 일은 AI를 기존 소프트웨어에 연결하고, Agent가 현재 시스템과 협력하게 만들고, 데이터를 다루고, 배포와 확장을 처리하고, 비용을 통제하고, 안전하게 유지해서, 결국 사람들이 실제로 쓸 수 있고 기업이 운영에 올릴 만한 무언가를 조립해 내는 것입니다.

12~15개월, 여섯 개의 자격증, 만들면서 배우기, 그리고 그 과정을 전부 기록하기입니다.