Infra/MLOps (12) 썸네일형 리스트형 [jenkins][Gitlab] flask project cicd _ 1 4-3-10 1. cicd 배포 2. 도커이미지 말아서 올리기 1. git에 project 올리기 https://s00jinii.tistory.com/45 다시 깃 커밋하기 dockerfile, docker-compose.yml , requirements.txt 만들기. # requirements.txt flask nltk # docker-compose.yml version: "3" # 2.2 or 3 이상 을 하지 않으면 에러가 난당 ^^ services: web: build: . container_name: flask_api volumes: - .:/code ports: - "9091:9091" # docker file # FROM frolvlad/alpine-python-machinelearning.. [Monitoring]Prometheus & Grafana 1. Prometheus Prometheus : 모니터링 & 알람 프로그램 ( 오픈소스 ) 쿠버네티스에 주로 사용하나, 종속적이진 않음. 수집하는 metric데이터를 다차원의 시계열 데이터 형태로 저장 자체언어 PromQL 언어 사용해야함. timeSeries DB 지원 server가 직접 정보를 가져가는 pull 방식 !! 다양한 시각화툴과 연동지원, 다양한 알람 지원 Prometheus Server 시계열 데이터를 수집하고 저장 Service Discovery Exporter prometheus가 metrics를 수집해 갈 수 있도록 정해진 HTTP Endpoint를 제공하여 정해진 형태로 metrucs를 export prometheus Server 가 이 exporter의 endpoint로 HTTP.. [workflows]Github Actions과 jenkins Github Actions 개발자들의 workflows를 자동화 하기 위한 플랫폼 workflow 자동화된 전체 프로세스 하나 이상의 job으로 구성되고, event에 의해 예약 되거나 트리거 될 수 있는 자동화 된 절차를 말함. workflow 파일은 YAML으로 작성되고, github Repository의 .github/workflows 폴더 아래에 저장 된다. github 에게 YAML파일로 정의한 자동화 동작을 전달하면, gitHub Actions는 해당 파일을 기반으로 그대로 실행시킴 러너(runners) Github 액션 러너 애플리케이션이 설치된 서버이다. Github에서 호스팅 하는 러너를 사용할 수도 있고 직접 호스팅 할 수도 있다. Github에서 호스팅 하는 러너는 Ubuntu Lin.. [Docker][Flask]flask web docker image,container만들어 배포하기. flask web docker image,container만들어 배포하기. NLP Project 를 Flask로 만들었으며, 아래에 설치하는 내용들은 NLP Project 에 필요한 예시임 프로젝트에 적합한 package를 작성하여 설치하면 됨 ! flask project or git clone 한 곳에서 작업 시작. 1 .Dockerfiile 만들기. Dockerfile 내용 : flaskProject 안에 들어갈 설치 내용이 들어간다. FROM frolvlad/alpine-python-machinelearning:latest RUN pip install --upgrade pip WORKDIR /app COPY . /app RUN apk add build-base RUN apk add --no-cach.. [MLops][Flask] ml model serving 구현하기_(1) 1. 간단한 모델을 학습한 뒤, 2. 모델을 pickle 파일로 저장하고, 3. Flask 를 사용하여 해당 파일을 load하여 4. Predict gksms server 를 구현. [MLops] Model Serving 이란? serving? ML MLmodel을 서비스화 하는 것 서빙 단계에서 막히는 이유? - 모델 개발과 소프트 웨어 개발의 방법 괴리 - 모델 개발 과정과 소프트웨어 개발 과정의 파편화 - 모델 평가 방식 및 모니터링 구축의 어려움 서빙의 간편화를 도와주는 도구? - seldon core - TF Serving - KF Serving - Torch Serving - BENTOML Flask , SeldomCore 사용해서 모델 서빙하기. Flask ? - MSA를 위한 web app framework - web framework : web서비스 개발을 위한 프레임 워크 - djandgo 등 framework 에 비해 괸장히 가벼우며, 확장성, 유연성이 뛰어난 프레임 워크 - 단 자체 지원 기능은 적음 - 사.. [Mlflow] MLflow 란? mlflow란 머신러닝 모델의 실험을 tracking하고 model을 공유 및 deploy할 수 있도록 지원하는 라이브러리. 머신러닝 학습과 관련된 전반적인 lifecycle을 지원해주는 라이브러리 mlflow의 논리적 컴포넌트 구성은 4개로 구성되어 있다. mlflow는 단독 파이썬 패키지로 구성되어 있어 가볍고 빠르게 Workflow지원 가능하다. https://databricks.com/blog/2020/04/15/databricks-extends-mlflow-model-registry-with-enterprise-features.html MLflow Tracking : Record and query experiments: code, data, config, and results 머신러닝 모델을 학.. [MLOps][Infra]MLOps에 jenkins CI/CD 적용 가능한 구조 고르기 고객의 가치를 빠르고 안정적으로 전달하는 것 DevOps의 목적이고, 이를 위해 CICD를 사용한다. CI = 지속적인 통합 + 자동화 CD = 지속적인 배포 + 자동화 https://secrethub.io/blog/decouple-application-secrets-from-ci-cd-pipeline/ 출처 : https://secrethub.io/blog/decouple-application-secrets-from-ci-cd-pipeline/ MLOps flow 데이터 준비 -> 모델 구현 -> 모델 배포 그림 1 출처 : https://fastcampus.co.kr/data_online_mlops  출처 : https://fastcampus.co.kr.. 이전 1 2 다음
