“기존 RAG로는 공공업무 한계”…베슬AI, 이해·판단형 AI 전략 제시

[테크월드뉴스=양승갑 기자] 공공기관의 인공지능(AI) 도입이 확산되는 가운데 기존 검색증강생성(RAG) 기술로는 법령 해석이나 적용 등 공공기관의 업무 생산성 향상에 한계가 있다는 지적이 제기됐다. 베슬AI는 이를 보완할 방안으로 문서 구조 이해를 강화한 ‘RAG+’와 역할 분담 기반의 ‘멀티 에이전트 오케스트레이션’을 제시했다.

11일 열린 ‘AI&빅데이터쇼’에서 주세환 베슬AI 영업대표는 ‘공공기관 RAG+ 전략’을 주제로 발표하며 기존 RAG의 한계를 짚었다. 이에 따르면 RAG는 문서를 벡터화해 단순 검색하는 데 그쳐 흩어진 문서 간의 의미 연결이나 복잡한 판단 과정을 수행하기 어렵다. 이 탓에 법령 해석이나 정책 판단 등 맥락 분석이 필요한 행정 업무에는 활용성이 떨어진다는 분석이다.

가령 “2021년 개정된 장애인 편의시설 기준이 시설에 어떻게 적용되는가”라는 질문이 들어올 경우, RAG는 단순 요약만 제공하고 해석·적용에 이르지 못하는 셈이다.

베슬AI는 이 같은 문제를 보완할 새로운 전략으로 RAG+를 설명했다. 이에 따르면 RAG+는 문서 구조와 조항 간 의미를 인식해 단순한 키워드 검색을 넘어 맥락을 이해한 응답을 가능케 한다.

주 영업대표는 “(RAG+)는 단순히 문서에서 키워드를 뽑는 게 아니라 문서 구조를 인덱싱해서 거대언어모델(LLM)이 실제로 이해한 내용을 기반으로 검색하는 방식이다”며 이를 통해 사용자의 질문 의도를 분석하고 정책 판단이나 시나리오 기반 응답까지 가능해진다고 설명했다.

멀티 에이전트 오케스트레이션도 소개했다. 이에 따르면 멀티 에이전트 오케스트레이션은 하나의 LLM이 모든 업무를 처리하는 대신, 역할별로 특화된 에이전트들이 협업하는 방식이다. 판단, 문서 해석, 보고서 작성 등 복잡한 요청에 대해 역할을 나눠 처리할 수 있다는 점에서 단일 LLM보다 유연한 대응이 가능하다는 설명이다.

예컨대 “육아휴직 연장이 가능한지 검토하고 결재 보고까지 작성해달라”는 요청이 들어오면 관련 법령을 검토하고 예외 조항 여부를 판단한 뒤 휴직 연장 여부를 자동으로 판단, 결재 보고서 초안까지 작성하는 방식이다.

주 영업대표는 “문서를 잘 읽는 친구, 이해하는 친구, 작성하는 친구가 여러 팀 형태로 존재하는 것”이라고 말했다.

한편 베슬AI는 이런 문제에 대응하기 위해 ‘그래픽처리장치(GPU)’, ‘모델’, ‘에이전트’ 등 세 가지 레이어 기반 솔루션을 제공하고 있다. 구체적으로 기관이 보유한 GPU 등 인프라 위에서 모델을 학습·배포할 수 있도록 MLOps를 구성하고 여기에 판단·이해·작성 등 역할별 에이전트들이 협업하는 ‘에이전트 레이어’를 통해 업무 효율화를 꾀한다는 설명이다.

출처: https://www.epnc.co.kr/news/articleView.html?idxno=317768