SOFTWARE ARCHITECTURE / TECH NOTEEVENT-DRIVEN ARCHITECTURE / KAFKAEDA와 Kafka, 실무 문제에서 시작해 설계까지ARCHITECTURE NOTES / EDA & KAFKA왜 Kafka를 도입하고, 무엇을 설계해야 할까?주문과 배송 사례를 따라 이벤트 기반 아키텍처의 필요성부터 데이터 정합성, 장애 복구, 성능과 설계 판단까지 연결해 봅니다. 아래 목차를 눌러 원하는 주제로 이동하거나 처음부터 이어 읽을 수 있습니다.목차01–12장은 핵심 개념과 데이터 정합성의 기초를 익히고, 13–22장은 장애 대응과 실무 아키텍처 설계로 확장합니다. 기초 과정에도 Outbox와 멱등성처럼 중요한 실무 개념이 포함됩니다.기초 과정 · 01–12장 | 개념과 신뢰성의..
LLM Inference Serving 최적화 기술을 기존 방식과 최근 방식으로 나눠 비교함5개 Layer (Gateway, Routing, Serving, Cache, Resource) 와 이를 조절하는 Control Plane 순서로 다룸기존에는 서버 한 대의 처리 속도를 높이는 데 집중했다면, 최근에는 여러 GPU 를 하나의 Pool 로 묶어 나눠 쓰는 방향으로 가고 있음배경Agent 사용이 늘면서 입력 Token 이 급증했고, 그 결과 GPU 연산보다 GPU 메모리가 먼저 부족해짐Agent 코딩 작업은 일반적인 코드 질의응답보다 Token 을 약 1,000배 더 사용함 (Stanford Digital Economy Lab, 2026-04)비용의 대부분은 출력이 아닌 입력 Token 에서 발생함입력..
Kubeflow Dex 와 Keycloak 연동 가이드이며 아래 URL 참고https://github.com/kubeflow/manifests/tree/master/common/dexKeycloak 설정KeyCloak Relm 생성Realm name :mlopsKeyCloak Client 생성Client type : OpenID ConnectClient ID : kubeflow-oidc-authserviceClient authentication : OnAuthentication flow : Standard flow, Direct access grants 만 체크Root URL : https://kubeflow.wooyoung85.netHome URL : https://kubeflow.wooyoung85...
Keycloak Install (with. Helm)Nginx Ingress Controller 에서 HTTPS 트래픽을 그대로 Keycloak 에 전달하는 설정# 작업 디렉토리 이동mkdir -p /root/files/keycloakcd /root/files/keycloak# 개인 키 생성openssl genrsa -out keycloak.key 2048# 인증서 서명 요청 (CSR) 생성openssl req -new -key keycloak.key -out keycloak.csr -subj "/CN=keycloak.local"# 자체 서명된 인증서 생성 (3650일 유효)openssl x509 -req -days 3650 -in keycloak.csr -signkey keycloak.key -out ..
Kubeflow 사용 시 SSL 설정을 하지 않으면 Http Post 요청 시 아래와 같은 에러 발생함[403] Could not find CSRF cookie XSRF-TOKEN in the request.🙆♂️ 하나하나 예외처리하기도 번거롭고 실제 운영 환경에 적합하지 않으므로 반드시 SSL 설정 하는 것을 권장함SSL 인증서 생성# snap Installdnf -y install bind-utilsdnf -y install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpmdnf -y upgrade --exclude=kubelet,kubeadm,kubectlyum -y install snapdsystemctl enable..
🤦♂️ 실제 프로젝트에서는 MetalLB 가 많이 사용되지만 클라우드 VM 환경에선 지원하지 않음https://metallb.universe.tf/installation/clouds/실제 프로젝트에서 물리 L4 장비를 Ingress Controller 와 연결해서 Kubernetes 상의 서비스를 노출하기도 함😉 실제 L4 장비는 없으니 실습에서는 HAProxy 설치하기로 함!!HAProxy Install & Configmkdir -p /root/files/packages/haproxydnf download --resolve --destdir=/root/files/packages/haproxy --arch=x86_64 haproxydnf localinstall -y --disablerepo=\* /..
Kubeflow Install (v1.9.1)# cd && git clone https://github.com/kubeflow/manifests.git# Kubeflow 1.9.1 배포mkdir -p /root/files/kubeflowcurl -L https://github.com/kubeflow/manifests/archive/refs/tags/v1.9.1.tar.gz -o /root/files/kubeflow/v1.9.1.tar.gztar -zxvf /root/files/kubeflow/v1.9.1.tar.gz -C /root/files/kubeflow/mv /root/files/kubeflow/manifests-1.9.1 /root/manifestscd ~/manifestswhile ! kusto..
kind 는 Docker 컨테이너(kindest/node 이미지)를 사용하여 로컬 Kubernetes 클러스터를 실행하기 위한 도구https://kind.sigs.k8s.io/Docker 설치# sudo su -# yum update -yyum install -y bash-completion git# Set up the repositorysudo dnf -y install dnf-plugins-coresudo dnf config-manager --add-repo https://download.docker.com/linux/rhel/docker-ce.repo# Install Docker Enginesudo dnf install -y docker-ce docker-ce-cli containerd.io doc..