#operations
15개의 글이 있습니다.
Kafka partition은 괜찮다는데 디스크가 없다
Kafka 4.3의 Partition Size Percentage metrics가 retention 압력을 보여주는 방식과 한계, 그리고 log.dirs 물리 free space 모니터링이 여전히 필요한 이유를 정리합니다.
AI는 코드를 배웠지만, 소프트웨어는 운영에서 배운다
AI가 글과 코드로 배운 지식의 강점과 한계, 그리고 실제 소프트웨어 품질이 운영 피드백을 통해 개선되는 이유를 정리합니다.
Kafka Streams 4.2 이후, 장애를 덜 아프게 만드는 두 가지 변화
Kafka Streams 운영에서 자주 만나는 나쁜 레코드와 rebalance 문제를 Kafka 4.2 이후 DLQ 지원과 Streams Rebalance Protocol 관점에서 정리합니다.
Kafka 브로커 빼기 전에 먼저 Cordon부터
Apache Kafka 4.3에 추가된 cordoned.log.dirs 설정의 의미와 사용법을 정리합니다. 브로커나 log directory를 비우기 전에 새 replica 배치를 먼저 막는 운영 흐름을 다룹니다.
Kafka 4.0 Consumer Rebalance: 이제 조율은 브로커가 한다
Apache Kafka 4.0에서 GA가 된 새 rebalance protocol을 정리합니다. 기존 protocol과 무엇이 다르고, broker-side assignment와 incremental rebalance가 운영에 어떤 의미를 갖는지 다룹니다.
Kafka는 메모리가 남아 있는데 왜 OOM이 났을까
Kafka broker의 메모리를 heap과 page cache만으로 보면 놓치기 쉬운 direct buffer를 다룹니다. 시스템 메모리와 heap이 남아 있어도 direct memory 한도 때문에 allocation failure가 날 수 있습니다.
수정하지 않을 YAML 로그를 왜 전부 객체로 만들까
초당 수십/수백 건의 YAML 로그를 선별하던 경험을 바탕으로, 로그처럼 immutable한 데이터를 처리할 때 DOM/object tree 대신 stream/event 기반 처리를 고려해야 하는 이유를 정리합니다.
Kafka Client Metrics는 관측의 빈틈을 메울 수 있을까
KIP-714로 도입된 Kafka 클라이언트 원격 메트릭 수집의 구조, 지원 메트릭, 설정 방법, 그리고 운영 현실에서의 한계를 정리합니다.
Kafka가 잘하는 대용량과 보내면 안 되는 대용량
Kafka는 대용량 이벤트 스트림에 강하지만 대용량 파일 전송 채널로 쓰면 시스템 전체의 storage amplification이 커지는 이유를 정리합니다.
Kafka Broker가 느려졌지만 Kafka가 원인은 아니었다
특정 Kafka broker의 throughput 저하와 ISR 이탈을 추적하다가 VM 아래의 네트워크 블록스토리지 경합까지 내려간 경험을 정리합니다.
겉보기엔 균형 잡힌 Kafka, Broker Metrics는 다르게 말한다
Kafka cluster에서 leader partition 수가 균등해도 실제 부하는 다를 수 있습니다. partition별 traffic, network, storage 사용량을 함께 보는 balancing 기준을 정리합니다.
Consumer Group만으로는 Queue가 되지 않는다: Kafka Share Group의 의미
Kafka Share Group이 왜 추가되었는지, 기존 Consumer Group과 무엇이 다른지, 어떤 기준으로 적용해야 하는지 정리합니다.
AI 애플리케이션에서 Redis가 맡는 다섯 가지 역할
AX 시대의 AI 애플리케이션에서 Redis가 캐시, 세션 상태, 검색 보조, 비동기 작업, 운영 제어 계층으로 쓰이는 방식을 정리합니다.
Consumer Lag은 건강 점수가 아니다: Kafka Consuming Pressure라는 관점
Kafka Consumer Lag을 절대값으로만 판단하지 않고, producer 유입량과 consumer group 처리 능력을 함께 보는 운영 관점을 정리합니다.
Redis에도 Consumer Group이 있다: Streams를 캐시 너머로 보기
Redis Streams를 key-value 캐시 너머의 append-only event log, consumer group, pending message 처리 관점에서 살펴봅니다.