김 범승

지금까지 본 시리즈를 통해 1편 인프라 구성의 현실적인 어려움부터 2편 아코디언 카탈로그를 통한 표준화, 그리고 3편 단 30분 만에 사내 RAG 챗봇을 배포하는 실전 과정까지 살펴보았습니다. 하지만 기업 환경에서 AI 서비스의 '진짜' 시작은 모델을 배포한 직후, 즉 '운영' 단계부터입니다. 모델을…

사내에서 LLM을 위한 개발을 하려면 무엇을 준비해야 할까요? ChatGPT나 Gemini 등은 브라우저에서 사용자가 질문만 하면 바로 답을 하지만, 사내 데이터를 넣어 RAG 챗봇을 만들거나 외부에 데이터를 못 보내는 환경에서 자체 LLM을 구축하려면 이야기가 완전히 달라집니다. 최소한 누군가는 vLLM을 GPU 위에…

AI 개발자와 운영자가 실무에서 가장 어려워하는 것은 무엇일까요? 보통 복잡한 알고리즘이나 모델 튜닝을 떠올리기 쉽지만, 현실의 병목은 전혀 다른 곳에 있습니다. 바로 '인프라 환경 구성'입니다. 새로운 모델 아이디어가 떠오른 개발자는 코드 한 줄을 쓰기 전에 먼저 험난한 인프라 준비 과정을…

최근 엔터프라이즈 환경에서 AI 도입 시도가 폭발적으로 증가하고 있습니다. 본 시리즈는 총 4편(1편 AI 인프라 구성의 어려움, 2편 카탈로그, 3편 RAG 실습, 4편 관찰성)에 걸쳐, 아코디언이 AI 개발 및 운영 조직의 업무 방식을 어떻게 혁신하는지 심도 있게 다룰 예정입니다. 단순한…