백엔드 개발자를 위한 RAG 설계: 청킹, 임베딩, 벡터 검색 쉽게 이해하기RAG가 문서를 찾는 순서부터 청킹 크기, 임베딩 모델, HNSW 설정, 검색 품질 평가까지 실무에 필요한 내용만 쉽게 정리했습니다.RAG는 LLM이 답변하기 전에 관련 문서를 찾아 주는 구조입니다. 사용자가 질문하면 사내 문서나 기술 문서에서 근거를 찾고, 그 내용을 LLM에 전달합니다. LLM은 전달받은 근거를 바탕으로 답변합니다.처음에는 문서를 잘라 벡터 DB에 넣고 가까운 내용을 검색하면 됩니다. 하지만 실제 서비스에서는 다른 문제가 생깁니다. 표현만 조금 바꿔도 검색 결과가 달라지고, 제품 코드나 오류 번호를 놓치기도 합니다. 수정 전 문서가 계속 검색되거나 권한이 없는 문서가 결과에 포함될 수도 있습니다. 벡터 DB부터..
AI 도입해야 한다는 건 아는데, 사내에서 어디부터 시작해야 할지 모르시는 분 있으세요?현장에서 AX가 막히는 지점은 딱 두 가지라고 해요.첫째, 복잡한 실무는 멀티에이전트 자동화가 필요한데 내부에서 구축하기가 어렵다는 것.둘째, AI가 잘 일하려면 비즈니스 데이터가 공급되어야 하는데, 어떻게 넣을지 모르거나 쌓아둔 데이터 자체가 없는 경우가 많다는 것.그래서 현장에서 효과적인 접근은 "가장 귀찮은 반복 업무 1개부터 AI에 연결하는 것"이에요.작은 효용을 한 번 경험하면, 사람들은 스스로 데이터를 더 넣으려 한다고 해요.AX는 거창한 선언이 아니에요. rich.legend.airichlegendai
AX 채용 시장을 직접 들여다보니 — 경력직 중심, 재설계 역량, 그리고 진짜 AX 인재의 조건최근 AX(AI Transformation) 채용 공고를 꽤 오래 살펴볼 기회가 있었습니다.포지션별 요건, 선호 경력, 도메인 분포까지 훑어보고 나니 하나의 흐름이 선명하게 보였습니다.AX는 지금, 신입 시장이 아닙니다.AX는 경력직 시장입니다 — 평균 4.3년, 중앙값 3년공고에서 확인한 요구 경력의 평균은 약 4.3년이었고, 중앙값은 3년 정도였습니다.신입 포지션이 아예 없는 건 아니었지만, 대부분은 인턴 또는 주니어에 가까운 수준이었습니다.이 숫자가 의미하는 건 단순하지 않습니다.기업들이 AI를 다룰 줄 아는 사람이 아니라, 현업의 일을 이해하고 그 구조를 바꿀 수 있는 사람을 찾고 있다는 뜻입니다.가장 ..
AI를 쓰고 있다고 말하기 어려운 이유"우리 조직은 AI를 제대로 쓰고 있는가?"에이전트, 자동화, AX 키워드가 쏟아지지만 이 질문에 자신 있게 답하는 리더는 많지 않다.데이터는 솔루션 안에 갇혀 있고, 꺼내려면 데이터 팀에 요청해야 하며, 보고서는 며칠 후에야 돌아온다.최근 한 B2B SaaS 기업의 사업개발 리드가 이 문제를 '극단적 경영 가시성' — 조직의 모든 부서와 계층에서 즉시·충분히 알 수 있는 상태 — 이라는 개념으로 풀어냈다.결론은 단순하다. 데이터가 흐르는 IT 인프라가 없으면 AI는 접근할 데이터 자체가 없다.데이터 주권 3조건과 일의 정의AI 활용의 출발점은 데이터 주권이다.자사가 데이터를 직접 보유할 것, 그 데이터로 어떤 의사결정을 내려야 하는지 알 것, 데이터 간 연결이 가능..
- Total