궁금한게 많은 개발자 노트

쿠버네티스상에 서버나 앱서비스를 배포할 때, Persistent Volume을 마운트해야 하는 경우가 종종 있습니다. 이전에 쿠버네티스에서 Persistent Volume사용하기라는 글을 게시한 적이 있는데, 해당 게시글에서는 Persistent Volume으로 AWS EBS(Elastic Block Store)를 사용하였습니다. 이처럼 컨테이너화된 애플리케이션이 동작할 때 데이터 지속성을 위해 외부 Storage에 대한 액세스가 필요할 수 있습니다. 고가용성과 확장성을 보장하기 위해 EKS를 사용하고 S3를 외부 Storage로 사용한다면 다양한 환경에서도 원활하게 서비스를 제공할 수 있을 것입니다. 특히 MLOps환경에서 GenAI의 경우에는 매우 큰 LLM Model을 Container내부에 가져가..

쿠버네티스는 크게 Control Plane(Master node)과 Data plane에 속하는 Worker Node로 구성되어 있습니다. Pod가 생성되는 과정을 통해 전반적인 구조를 살펴보면, kubectl을 통해 Master Node에 존재하는 kube-api server에게 Pod생성 요청을 보내고, api-server는 해당 요청이 타당한지 검증하게 됩니다. 검증 후 etcd에게 node들에 대한 정보를 요청하게 되고, 전달 받은 정보를 바탕으로 scheduler에게 생성하려는 Pod가 어떤 Workder 노드에 할당되면 좋을 지에 대해 선택을 요청합니다. 그러고 난 후 적절한 Worker Node의 kubelet에 해당 Pod 생성 명령을 내리게 되고, kubelet은 해당 Worker Nod..

kubernetes에서 pod를 배포하는 방법으로 statefulset과 deployment가 있습니다. 각각은 어떤 목적으로 사용되며 어떤 상황에서 어떤 자원을 사용하는 것이 더 효율적인지 알아보기 위해 각 특징에 대해 정리해보려 합니다. 이름에서 확인할 수 있는 특징으로는 stateful이라는 단어가 눈에 들어옵니다. state는 상태를 뜻하며 쉽게 유추할 수 있는 내용으로는 상태를 가지는 것과 그렇지 않은 것으로 나눌 수 있을 것 같습니다. stateless인 경우에는 상태를 저장할 필요가 없다는 의미로, 해당 어플리케이션이 종료되거나 재 생성되더라도 이전에 상태를 알 필요가 없고, 각 어플리케이션의 상태가 다른 어플리케이션과 의존성이 약한 경우 사용할 수 있을 것 같습니다. 반면, stateful..

[ 쿠버네티스의 아키텍처 ]쿠버네티스는 크게 전체 클러스터를 관리하는 Control Plane과 실제 컨테이너들이 Pod단위로 실행되는 Worker Node로 구분될 수 있습니다. Control Plane은 Master Node라고도 불립니다. Node에는 컨테이너의 런타임 실행 환경을 제공하는 Docker Engine이 기본값으로 올라가 있으며, 이를 통해 실제 컨테이너가 배포되어 실행됩니다. 각 Worker Node들은 아래 그림에서 보이듯 자체 API를 통해 Control Plane과 통신하며 관제되며 시스템을 운영합니다. Control Plane과 Worker Node에 설치되는 구성요소에 대해서 알아보자. 위에서 볼 수 있듯 Worker Node에는 Control Plane의 API 요청을 수신..

기존에 작성한 kubernetes에서 Persistent Volume적용하기는 Pod의 데이터 지속성과 관련하여, Pod 생명 주기와 관계 없이 영구적으로 데이터를 관리하기 위해서는 Persistent Volume이 필요함을 설명하고 PV의 종류 중 하나인 AWS EBS Volume을 PV로 사용하기 위한 권한을 어떻게 부여하는 지 등에 대해 중점적으로 설명하였습니다. https://ks1171-park.tistory.com/121 [ k8s ] Kubernetes Persistent Volume 적용하기 Kubernetes의 데이터 지속성 stateful application이 올바르게 실행되기 위해서는 데이터가 올바르게 저장되고 유지되어, 실행 중에 얻어질 수 있어야합니다. 하지만, stateful ..