🔥 오늘의 주요 소식
Spark 4.2 has a feature that could retire your vector database
Apache Spark 4.2가 지난주 출시되며 엔터프라이즈 데이터 워크로드 중심으로서 10년 넘게 이어온 Spark의 역할을 한층 확장했다. 이번 버전의 핵심은 네이티브 벡터 검색(vector search) 기능 추가로, 별도의 전용 벡터 데이터베이스 없이도 Spark 안에서 임베딩 검색을 수행할 수 있게 됐다. 거버넌스 관점에서는 '관리형 지표(governed metrics)' 기능이 새로 들어가 조직 전반에서 지표 정의를 일관되게 관리할 수 있도록 지원한다. 스트리밍 처리 파이프라인도 개선되어 실시간 데이터 처리 시나리오에서의 성능과 안정성이 강화됐다. Python 지원이 더 깊어지면서 PySpark 기반 AI/ML 워크플로 개발이 한층 수월해졌다. 저자 Amanda Caswell은 이런 변화들이 Spark를 단순 배치 처리 엔진에서 AI 서빙 레이어로 포지셔닝하는 흐름이라고 짚는다. 결과적으로 기업들은 벡터 검색을 위해 별도 인프라를 도입하는 대신 기존 Spark 클러스터를 확장하는 선택지를 검토할 수 있게 됐다.
💡 왜 중요한가: 벡터 검색을 이미 쓰는 Spark 클러스터 안으로 흡수하면 별도 벡터 DB 도입·운영 비용과 데이터 이중화를 줄일 수 있지만, 기존 벡터 DB 대비 지연시간·인덱싱 성능은 검증이 필요하다.
🔗 원문 보기 · The New Stack
DevOps & 인프라
Move code review before the code
The New Stack
저자 Ankit Jain과 Vanitha Kumar는 우리가 알고 있는 '풀 리퀘스트(PR)' 방식의 코드 리뷰가 약 20년 전에 정립된 프로세스라고 짚는다. AI 코딩 도구가 코드 생성 속도를 크게 높이면서, 완성된 코드 diff를 사후에 검토하는 전통적 PR 리뷰 방식이 병목이 되고 있다고 주장한다. 이들은 리뷰 시점을 코드가 다 작성된 이후가 아니라 개발자의 의도(intent)를 정의하는 더 이른 단계로 옮길 것을 제안한다. 즉 요구사항이나 설계 의도를 먼저 명확히 검토·합의한 뒤 AI가 그 의도에 따라 코드를 생성하도록 하는 흐름이다. 이렇게 하면 리뷰어가 방대한 diff를 한 줄씩 훑는 대신 방향성과 설계 결정에 집중할 수 있어 리뷰 병목이 줄어든다는 설명이다. 글은 이런 '상류(upstream) 리뷰' 전환이 엔지니어링 조직의 확장성과 시간 절약에 도움이 된다고 강조한다. 결국 AI 시대의 코드 리뷰는 '무엇이 만들어졌는가'가 아니라 '왜, 어떻게 만들 것인가'를 검토하는 방향으로 재설계돼야 한다는 것이 핵심 주장이다.
💡 PR 이후 검토에서 의도 단계 검토로 옮기면 AI가 대량 생성한 코드에 리뷰어가 압도되는 상황을 막을 수 있지만, 팀 프로세스와 도구 체인을 함께 바꿔야 하는 조직적 비용이 따른다.
Self-healing GPU nodes in Kubernetes: What we learned building the EKS node monitoring agent
The New Stack
저자 Sajjan Gundapuneedi는 Amazon EKS 규모로 Kubernetes를 운영하면 노드 장애가 끊임없이 발생한다고 말한다. 특히 GPU가 PCIe 버스에서 떨어져 나가는 등 GPU 관련 하드웨어 이상이 잦은 장애 유형으로 꼽힌다. 이런 문제에 대응하기 위해 팀은 'EKS 노드 모니터링 에이전트'를 직접 구축해 GPU 노드의 이상을 자동으로 감지하고 복구(self-healing)하는 체계를 만들었다. 글은 이 에이전트를 만들면서 얻은 6가지 핵심 아키텍처 교훈을 다룬다. 대규모 GPU 클러스터에서는 사람이 수작업으로 장애 노드를 찾아 격리·교체하는 방식이 확장성 한계에 부딪힌다는 문제의식이 바탕에 깔려 있다. 따라서 노드 상태를 지속적으로 감시하고, 이상이 감지되면 자동으로 격리·재부팅·교체까지 이어지는 파이프라인 설계가 핵심 주제다. GPU 인프라를 대규모로 운영하는 조직이라면 이 아키텍처 교훈을 참고해 자체 노드 자동 복구 체계를 설계하는 데 활용할 수 있다.
💡 GPU 노드 장애를 사람이 수동으로 대응하는 대신 자동 감지·격리·복구 파이프라인으로 전환하면 대규모 GPU 클러스터의 가동률과 온콜 부담을 동시에 개선할 수 있다.
이 다이제스트는 RSS 피드에서 수집한 뒤 AI(Claude)가 요약·정리했습니다. 자세한 내용은 원문 링크를 확인하세요.