Posts

이 글에서 다루는 것 Airflow를 Helm으로 배포하면서 GitSync DAG 동기화, 외부 PostgreSQL, AWS Secret 마운트를 연동합니다. 선수지식 MLOps 플랫폼 구축 3단계: MLflow Helm 구성 — Helm 기반 배포와 Secret 주입 패턴 이 단계에서 해결하려는 문제 DAG 코드를 수동으로 업로드하면 버전 관리와 협업이 불가능합니다. Git 기반 DAG 관리(GitSync)를 도입하고, SSH Key/AWS 인증을 Secret으로 주입하며, 외부 PostgreSQL을 메타데이터 저장소로 연동하는 GitOps 패턴을 구성합니다. 📐 아키텍처 구성도 🐳 커스텀 Airflow 이미지 구성 GitSync DAG에서 MLflow 연동 또는 AWS SDK 사용을 위한 Python 패키지 설치가 필요합니다. ...

이 글에서 다루는 것 MLflow를 PostgreSQL + S3 백엔드로 구성하여 Kubernetes에 Helm 배포하고, 커스텀 이미지와 Ingress를 연동합니다. 선수지식 MLOps 플랫폼 구축 2단계: S3 & PostgreSQL Secret 관리 — Secret/ConfigMap 주입 전략 이 단계에서 해결하려는 문제 한 프로젝트에 여러 버전의 모델이 등장하면, 각 실험의 파라미터/메트릭/아티팩트를 체계적으로 추적할 서버가 필요합니다. 로컬 MLflow UI(SQLite + file 저장)로는 팀 공유와 아티팩트 영속성이 부족합니다. 이 단계에서는 MLflow를 PostgreSQL(메타데이터) + S3(아티팩트) 백엔드로 구성하고 Helm으로 Kubernetes에 배포합니다. ...

이 글에서 다루는 것 Kubernetes Secret과 ConfigMap으로 S3/PostgreSQL 인증 정보를 안전하게 주입하는 전략을 다룹니다. 선수지식 MLOps 플랫폼 구축 1단계: 인프라 설계 및 환경 준비 — NFS/PostgreSQL/S3 환경 구축 이 단계에서 해결하려는 문제 모든 구성 요소(MLflow, Airflow, FastAPI)가 외부 DB, GitHub, S3 등 민감한 리소스와 연동됩니다. API 키와 비밀번호를 YAML이나 코드에 직접 넣으면 보안 위험이 발생합니다. 이 단계에서는 Kubernetes Secret과 ConfigMap을 활용하여 인증 정보를 안전하게 분리하고 주입하는 구조를 설계합니다. 아키텍처 구성도 ...

이 글에서 다루는 것 Kubernetes 기반 MLOps 인프라의 전체 구조를 설계하고, NFS/PostgreSQL/S3 기반 환경을 구축합니다. 선수지식 Airflow 5단계: PythonOperator + MLflow Tracking 연동 — Level 1 완료 후 시작 권장 이 단계에서 해결하려는 문제 ML 모델을 실험하고 추적하려면 단순 Jupyter Notebook으로는 부족합니다. 학습 이력 추적(MLflow), 파이프라인 자동화(Airflow), 모델 서빙(FastAPI)을 하나의 플랫폼에서 운영하려면 Kubernetes 기반 인프라가 필요합니다. 이 단계에서는 그 기반이 되는 NFS, PostgreSQL, S3, Kubernetes 클러스터 환경을 설계하고 구축합니다. ...

이 글에서 다루는 것 Airflow + MLflow + FastAPI 연동 시 자주 발생하는 PermissionError, 404 에러, CLI 오류의 원인과 해결법을 정리합니다. 선수지식 MLOps 플랫폼 구축 6단계: 실시간 모델 핫스왑 실험 — Airflow → MLflow → FastAPI E2E 흐름 이 단계에서 해결하려는 문제 Airflow DAG 내부에서 mlflow.sklearn.log_model()을 호출하고 Model Registry에 연동하는 과정에서, 볼륨 마운트 누락, API 미활성화, CLI 설정 오류 등 환경 구성 문제가 빈번하게 발생합니다. 이 문제들은 공식 문서만으로는 원인을 파악하기 어렵습니다. ...

이 글에서 다루는 것 PythonOperator로 MLflow 실험을 자동화하여, 하이퍼파라미터·메트릭·모델을 자동 기록하는 Airflow + MLflow 연동 패턴을 다룹니다. 선수지식 Airflow 4단계: BashOperator로 외부 학습 스크립트 실행 — 외부 스크립트 분리 패턴 이 단계에서 해결하려는 문제 모델을 학습할 때마다 하이퍼파라미터, 정확도, 모델 아티팩트를 수동으로 기록하면 실험 재현이 불가능합니다. MLflow Tracking은 이 모든 정보를 자동 기록하고, Airflow DAG에서 호출하면 학습 파이프라인 자체를 자동화할 수 있습니다. 실습 코드: GitHub (Airflow_and_MLflow) 🧭 실습 전체 흐름 요약 [1단계] MLflow 실험 스크립트 작성 [2단계] Airflow DAG 구성 [3단계] DAG 실행 및 파라미터/메트릭 확인 [4단계] 모델 저장 및 로깅 상태 점검 📁 디렉토리 구조 airflow/ ├── dags/ │ ├── train_with_mlflow.py ← DAG 파일 ├── ml_code/ │ ├── train_mlflow.py ← MLflow 연동 학습 스크립트 └── mlruns/ ← MLflow 로깅 결과 저장 폴더 (자동 생성) 🧪 1단계: MLflow 학습 스크립트 (핵심 부분) # airflow/ml_code/train_mlflow.py def run_experiment(): mlflow.set_tracking_uri("file:/opt/airflow/mlruns") mlflow.set_experiment("airflow_mlflow_example") with mlflow.start_run(): data = load_iris() X, y = data.data, data.target model = RandomForestClassifier(n_estimators=50, max_depth=3) model.fit(X, y) preds = model.predict(X) # 학습 데이터로 평가 — 실제 운영에서는 train_test_split 필수 acc = accuracy_score(y, preds) mlflow.log_param("n_estimators", 50) mlflow.log_param("max_depth", 3) mlflow.log_metric("accuracy", acc) mlflow.sklearn.log_model(model, "model") 전체 코드: GitHub (train_mlflow.py) ...

이 글에서 다루는 것 DAG 내부에 로직을 넣지 않고, 별도 Python 학습 스크립트(train.py)를 BashOperator로 호출하여 코드와 오케스트레이션을 분리하는 패턴을 다룹니다. 선수지식 Airflow 3단계: ML 파이프라인 DAG 구성 — DAG 구조와 XCom 전달 이 단계에서 해결하려는 문제 이전 단계에서는 학습 로직을 DAG 파일 안에 직접 작성했습니다. 하지만 실무에서는 학습 코드가 수백 줄 이상이고, 데이터 사이언티스트가 별도로 관리합니다. DAG는 오케스트레이션만 담당하고, 학습 코드는 독립 스크립트로 분리해야 유지보수와 협업이 가능합니다. 실습 코드: GitHub (BashOperator_and_Python_ML_Script) ...

이 글에서 다루는 것 데이터 로딩 → 모델 학습 → 모델 저장의 ML 워크플로우를 DAG로 구성하고, XCom으로 단계별 결과를 전달하는 패턴을 다룹니다. 선수지식 Airflow 2단계: Python & Bash Operator + XCom — XCom 데이터 전달 패턴 이 단계에서 해결하려는 문제 실제 ML 파이프라인은 데이터 준비 → 모델 학습 → 모델 저장이 순차적으로 연결되어야 합니다. 각 단계의 결과(데이터 경로, 모델 경로)를 다음 단계에 전달해야 하고, 실패 시 어느 단계에서 문제가 생겼는지 추적해야 합니다. 이 글에서는 가상 데이터로 이 흐름을 시뮬레이션합니다. ...

이 글에서 다루는 것 PythonOperator와 BashOperator를 하나의 DAG에 조합하고, XCom으로 Task 간 데이터를 전달하는 패턴을 다룹니다. 선수지식 Airflow 1단계: 로컬 환경에서 기본 DAG 실행 — DAG 구조와 실행 환경 이 단계에서 해결하려는 문제 실제 파이프라인에서는 여러 Task가 순서대로 실행되면서 결과를 다음 Task에 넘겨야 합니다. 예를 들어 학습 Task가 모델 경로를 생성하면 배포 Task가 그 경로를 받아야 합니다. Airflow의 XCom은 이 Task 간 소규모 데이터 전달을 담당합니다. 실습 코드: GitHub (PythonOperator_and_XCom) ...

이 글에서 다루는 것 Docker Compose로 Airflow를 로컬에 띄우고, 첫 DAG를 작성·실행·로그 확인하는 전체 과정을 다룹니다. 선수지식 Kubernetes 1~5단계 수료 권장 (Docker 기본 지식 필수) Kubernetes를 건너뛰고 이 글부터 시작해도 됩니다 (Docker만 설치되어 있으면 가능) 이 단계에서 해결하려는 문제 ML 파이프라인은 데이터 수집 → 전처리 → 학습 → 평가 → 배포의 여러 단계로 구성됩니다. 이 단계들을 수동으로 실행하면 재현성이 없고 장애 추적이 어렵습니다. Airflow는 이 워크플로우를 DAG(방향 비순환 그래프)로 정의하고, 스케줄링·재시도·로그를 자동 관리합니다. ...