[AI 인프라 혁신 3편] 사내 RAG 챗봇, 단 30분 만에 배포하기
사내에서 LLM을 위한 개발을 하려면 무엇을 준비해야 할까요? ChatGPT나 Gemini 등은 브라우저에서 사용자가 질문만 하면 바로 답을 하지만, 사내 데이터를 넣어 RAG 챗봇을 만들거나 외부에 데이터를 못 보내는 환경에서 자체 LLM을 구축하려면 이야기가 완전히 달라집니다. 최소한 누군가는 vLLM을 GPU 위에…
사내에서 LLM을 위한 개발을 하려면 무엇을 준비해야 할까요? ChatGPT나 Gemini 등은 브라우저에서 사용자가 질문만 하면 바로 답을 하지만, 사내 데이터를 넣어 RAG 챗봇을 만들거나 외부에 데이터를 못 보내는 환경에서 자체 LLM을 구축하려면 이야기가 완전히 달라집니다. 최소한 누군가는 vLLM을 GPU 위에…
AI 개발자와 운영자가 실무에서 가장 어려워하는 것은 무엇일까요? 보통 복잡한 알고리즘이나 모델 튜닝을 떠올리기 쉽지만, 현실의 병목은 전혀 다른 곳에 있습니다. 바로 '인프라 환경 구성'입니다. 새로운 모델 아이디어가 떠오른 개발자는 코드 한 줄을 쓰기 전에 먼저 험난한 인프라 준비 과정을…
최근 엔터프라이즈 환경에서 AI 도입 시도가 폭발적으로 증가하고 있습니다. 본 시리즈는 총 4편(1편 AI 인프라 구성의 어려움, 2편 카탈로그, 3편 RAG 실습, 4편 관찰성)에 걸쳐, 아코디언이 AI 개발 및 운영 조직의 업무 방식을 어떻게 혁신하는지 심도 있게 다룰 예정입니다. 단순한…
아코디언팀에서는 최신 클라우드 네이티브 기술과 안정성을 유지하기 위해 지속적으로 소프트웨어를 개발 및 업데이트하고 있습니다. 이번 아코디언 2.15 릴리스에서는 최신 Kubernetes 1.35.5 버전을 지원하며, 지속적인 인프라 환경 변화에 발맞춰 HAProxy 인그레스 컨트롤러 생성 지원 및 컨테이너 런타임(containerd v2) 업그레이드를 통해 플랫폼의…
최근 NGINX의 ngx_http_rewrite_module에서 18년간 잠재되어 있던 치명적인 힙 기반 버퍼 오버플로우 취약점(CVE-2026-42945, 일명 NGINX Rift)이 공개되었습니다. 특히 레거시 마이그레이션이나 API 라우팅 설정에서 흔히 쓰이는 패턴이 이번 취약점의 트리거 조건에 해당할 수 있어, 안전한 클러스터 환경 유지를 위한…
안녕하세요. 지난 4월 23일, 더욱 고도화된 클라우드 네이티브 및 AI 인프라 최적화를 위한 아코디언(Accordion) 3.0이 정식 출시되었습니다. 이번 3.0 버전은 AI 워크로드의 효율적인 운영과 한층 강력해진 쿠버네티스 플랫폼 환경을 지원하는 데 중점을 두고 개발되었습니다. 🎉 공식 홈페이지 전면 리뉴얼 및…
최근 기업의 IT 비즈니스 환경에서는 '신속한 업데이트'와 '안정적인 서비스 연속성'을 동시에 확보하는 것이 핵심 경쟁력으로 자리 잡았습니다. 현대의 사용자는 시간대와 관계없이 서비스 중단 상황을 원치 않으며, 이는 곧 기업의 신뢰도 및 비즈니스 성과와 직결됩니다. 서비스의 가용성을 완벽하게 유지하면서 새로운 기능을…
기업의 AI 도입이 본격화되면서 인프라 환경의 최적화가 핵심 과제로 떠오르고 있습니다. 특히, 대규모 연산이 요구되는 AI 워크로드의 특성상 클라우드와 온프레미스를 막론하고 자원이 무한하지 않은 엔터프라이즈 환경에서는 제한된 자원을 얼마나 효율적이고 흔들림 없이 운영하는지가 프로젝트의 성패를 가릅니다. 성공적인 AI 비즈니스를 뒷받침하는…
2026년 2월 3일, Kubernetes의 Ingress NGINX Controller에서 심각한 보안 취약점(CVE-2026-24512)이 보고되어 이를 해결한 보안 패치가 발표되었습니다. 해당 취약점은 공격자가 Ingress 리소스를 통해 NGINX 설정을 임의로 조작할 수 있는 문제로, 영향 받는 버전을 사용 중인 고객분들께서는 아래…
아코디언팀에서는 최신 기술과 안전성을 유지하기 위해 지속적으로 소프트웨어를 개발하며 업데이트하고 있습니다. 이에 맞춰 아코디언 또한 소프트웨어 품질을 높이기 위해 최선을 다하고 있습니다. 이번 아코디언 2.14 릴리즈에서는 최신 Kubernetes 1.34.2 지원을 비롯하여, 주요 오픈소스 컴포넌트의 대대적인 업그레이드, 그리고 설치 및 운영의…