클라우드 57

MLOps란, Kubeflow

DevOps 관심 + 이번학기 ML 배움 + AI/ML 스킬의 요구가 전반적으로 늘어남= MLOps를 공부해 보자~ 1. MLOps의 개념머신러닝 모델의 개발, 배포, 운영, 유지보수를 자동화하고 최적화하는 프로세스소프트웨어 개발에서 DevOps가 개발과 운영을 연결하는 것처럼, MLOps는 머신러닝 모델의 전체 수명 주기를 관리하여 신뢰성과 재현성을 높이는 것을 목표머신러닝 모델 개발(ML Dev)과 머신러닝 모델 운영(Ops)의 격차를 최소화(통합)하고 빠르고 효율적으로 비즈니스 가치를 창출하는 것이 목표프로덕션 환경에서 머신러닝 모델을 안정적이고 효율적으로 배포 및 유지 관리하는 것을 의미MLOps는 크게 ML(학습) 단계와 Ops(운영) 단계로 나눌 수 있습니다.ML 단계: 데이터 수집, 전처리,..

클라우드/DevOps 2025.03.23

Kro(Kube Resource Orchestrator) vs Helm, Kustomize, Crossplane

이전 글에서 생긴 나의 궁금증은 아래와 같다=> 다만 기존의 나온 서비스들을 조합해서 Kro 같은 효과를 낼 순 없는지... kro만을 이용해서 관리를 고도화 한다고 했을 때 발생할 문제점은 어떻게 되는지 궁금=> Helm 이랑 Kustomize가 이미 잘 구축해 놓은 eco system을 장악할 만한 강력한 편리성을 제공하는지? (는 흠~)=> crossplane도 같은 기능을 할 수 있을 것 같은데 비교는 어떻게 되는지? 비교해보자!1. Kro vs HelmKro와 Helm은 Kubernetes 리소스 관리에 사용되는 도구이지만, 접근 방식에 차이 Kro의 장점:구조화된 YAML과 CEL(Common Expression Language)을 사용하여 더 안전하고 예측 가능한 런타임 환경을 제공함이는 실..

클라우드/DevOps 2025.03.08

Kro (Kube Resource Orchestrator) 란?

AWS, Google, Microsoft가 공동 개발한 새로운 Kubernetes 오픈 소스 프로젝트, Kro: 3사가 공동개발 ㄷㄷ 인데 어떻게 단순화하기 위해 이 오픈소스를 만들게 된 건지 궁금해서 찾아봤다메인으로 참고한 글 ↓ Kubernetes Gets a New Resource Orchestrator in the Form of KroKro is a Kubernetes native framework that simplifies the creation of complex Kubernetes resource configurations, grouping them into reusable units.thenewstack.io Kube Resource Orchestrator(Kro)는?- Kubernete..

클라우드/DevOps 2025.03.01

[CKA] ClusterRole, ServiceAccount, Rolebinding

- Create a new ClusterRole named deployment-clusterrole, which only allows to create the following resource types: Deployment, StatefulSet, DaemonSet- Create a new ServiceAccount named cicd-token in the existing in the existing namespace apps.- Bind the new Cluster Role deployment-clusterrole to the new ServiceAccount cicd-token, limited to the namespace apps. ClusterRole과 ServiceAccount 개념1. Cl..

클라우드/DevOps 2024.12.26

[CKA] Service Account RBAC 관련 개념 정리

RBAC & Role Binding & Role & Service Account 관계 개념  # RBAC는 k8s가 ns단위에서 user resource 접근을 핸들링하기 위한 4가지 접근제어 방식 중 하나더보기1. Node : 스케줄링 된 pod의 kubelet에서 접근을 제어2. ABAC(Attribute-Based Access Control) : 속성 기반 접근 제어3. RBAC(Role-Based Access Control): 역할 기반 접근 제어4. Webhook : POST 요청에 대한 접근제어  RBAC : Role-Based Access Control말 그대로 역할 따라 권한 부여해서 클러스터 리소스에 대한 접근을 제어그런데 이제 사용자 및 서비스 계정의 역할도 정의하고. Role = 권한..

클라우드/DevOps 2024.11.20

[K8s deepdive] Ingress, Gateway API 비교

~ MSA에서 인바운드 트래픽을 처리하기 위한 두 가지 옵션 : Ingress 와 Gateway API ~근데 용어가 너무 헷갈림IngressIngress APIIngress ControllerGateway APIIngress Gateway API이렇게 다 섞여서 증식되듯(?) 나오는데얘네의 차이/정의부터 알고가야 할듯.  Ingress, Ingress API, Ingress Controller, Gateway API, Ingress Gateway API- 모두 클러스터 외부의 트래픽을 클러스터 내부의 서비스로 라우팅하는 것과 관련된 개념- 모두 클러스터 외부 트래픽을 내부로 라우팅하는 역할  1. Ingress정의: Ingress는 쿠버네티스 클러스터 외부의 HTTP 및 HTTPS 트래픽을 클러스터 내..

클라우드/DevOps 2024.10.16

Kubevirt with ansible, Octopus deploy란?

이 글을 보고 kubevirt가 왜 ansible이랑 잘 쓰이는지 궁금해짐 https://thenewstack.io/now-nvidia-scaled-its-cloud-services-with-kubevirt/ How Nvidia Scaled Its Cloud Services With KubeVirtKubeVirt enabled Nvidia to scale out its cloud gaming platform with Kubernetes-orchestrated containers — without abandoning its VM investments.thenewstack.io kubevirt쿠버네티스로 가상머신까지 관리할 수 있는 VM managment add-on컨테이너와 VM을 동시에 관리할 수 있는 ..

클라우드/DevOps 2024.10.09

[K8s deepdive] Label 개념, label selector와 차이, auto-labeling with kyverno

~ Kubernetes Label ~왜 나왔나? 왜 필요한가?: MSA에서 파드 개수 늘어남 -> 구분 어려워짐 -> label을 이용해 집합을 만들어 구분하자 간단한 정의: 파드 및 k8s 리소스를 조직화 할 수 있는 기능 레이블 셀렉터로 목록도 정렬하고, 파드 집합에 특정 작업을 수행할 수 있음 Q. 레이블이랑 레이블 셀렉터는 무슨 차이가 있나?https://stackoverflow.com/questions/60027090/what-is-the-difference-between-label-and-selector-in-kubernetes What is the difference between Label and Selector in kubernetes?After reading the official do..

클라우드/DevOps 2024.10.09

[K8s deepdive] Operator with Operator SDK, ConfigMap

operator 구축을 helm 기반이되 go를 사용한 걸로 만들어보려고 했다https://www.velotio.com/engineering-blog/getting-started-with-kubernetes-operators-helm-based-part-1 Getting Started With Kubernetes Operators (Helm Based) - Part 1 www.velotio.com이 절차를 따라가 보려 했으나... Golang을 한 번도 써보지 않은 나...go get이 커맨드가 안 먹혔다! https://stackoverflow.com/questions/30295146/how-can-i-install-a-package-with-go-get How can I install a packag..

클라우드/DevOps 2024.10.02

[K8s deepdive] Operator 구축할 때 어떤 Framework를 선택하는 게 좋을까

구축용 프레임워크를 고를 때 ; Kubebuilder versus Operator SDK뭐가 다를까? 어떤 상황에서 뭘 선택하는 게 좋을까? https://github.com/operator-framework/operator-sdk/issues/1758 What is the difference between kubebuilder and operator-sdk · Issue #1758 · operator-framework/operator-sdkI can use the https://github.com/kubernetes-sigs/kubebuilder to create an operator as well for both APIs and Controllers, so what is the major differ..

클라우드/DevOps 2024.09.25

[K8s deepdive] Controller pattern과 operator

K8s 딥다이브 스터디 첫 주제로 컨트롤러를 선정한 이유학교 cloud system 수업에서 이후 실습 커리큘럼 예습 겸 그 순서를 따라가 보려 함하지만 너무 포괄적인 커리큘럼이라 '딥다이브'에 맞는 주제를 좀 더 찾아보기로...컨트롤러 패턴 개념컨트롤러(Controller) 패턴은 쿠버네티스 리소스를 능동적으로 모니터링하고 요청한 상태로 유지 관리쿠버네티스 중심부는 선언된 오브젝트 상태와 함께 현재 어플리케이션 상태를 정기적으로 모니터링하고 reconcile하는 컨트롤러가 컬렉션으로 구성되어있다. Problem K8s는 오케스트레이션 플랫폼이면서도 모든 어플리케이션을 어떻게 명령해서 돌아가는지는 다루지 않는다.다만 쿠버네티스는 다행스럽게도 변경이나 중단 없이 쿠버네티스 빌딩 블록 위에서 어플리케이션 확..

클라우드/DevOps 2024.09.18

Service Mesh : Telemetry (Jaeger) - 분산 추적, 헤더 확장

업스트림 요청업스트림 pod 업스트림 사이드카 -> child span을 생성  다운스트림 요청, 리턴되는 데이터 흐름  전체 흐름 표시 = Trace각각의 개별 타이밍 요소 = Span 컨테이너로부터 사이드카로 가는 요청을 추적한 컨테이너에서 다른 컨테이너로 요청하면 그게 프록시를 거치니까 스팬이 두 배가 될 수 있음.  Service 선택->어떤 식으로든 방문한 서비스의 모든 트레이스를 보여줌.한 번 클릭하면 3개의 HTTP 요청이 시스템을 통과하게 됨.이 사용자의 인터페이스 3개의 HTTP 요청들을 주게 됨... 이 서비스 안에서 3개... 정해놓은...  같은 서비스가 겹치는 이유 -> 프록시 있으니까~  이렇게 확장해서 보게되면 url로 city truck을 클릭해서 저래 됐구나를 알 수도 있는..

클라우드/DevOps 2024.05.27