최근 생성형 AI 기술이 급격히 발전하면서, 단순히 질문에 답하는 수준을 넘어 방대한 기업 내부 데이터를 정확하게 참조하여 답변하는 RAG(Retrieval-Augmented Generation) 기술이 주목받고 있습니다. 하지만 기존의 벡터 기반 RAG는 텍스트를 단순한 조각으로 나누어 유사도를 측정하기 때문에, 데이터 간의 복잡한 관계나 전체적인 맥락을 파악하는 데 한계가 있습니다. 이러한 한계를 극복하고 데이터의 진정한 의미를 연결하기 위한 차세대 검색 전략으로 GraphRAG가 떠오르고 있습니다.
1. 기존 RAG의 한계와 새로운 대안의 등장
기존의 벡터 기반 RAG는 임베딩 모델을 통해 질문과 가장 유사한 의미를 가진 텍스트 조각(Chunk)을 찾아내는 방식입니다. 예를 들어 "A사의 작년 매출은 얼마인가?"라는 질문에는 관련 수치가 포함된 문단을 정확히 찾아낼 수 있습니다. 하지만 데이터가 파편화되어 있는 경우, 여러 문서에 흩어져 있는 정보를 종합하여 결론을 도출해야 하는 질문에는 매우 취약합니다.
이러한 방식의 가장 큰 문제는 맥락의 단절입니다. 정보가 단순히 유사도 기반으로 검색되다 보니, A라는 인물과 B라는 사건 사이의 숨겨진 연결 고리를 찾아내거나 전체 문서의 핵심 주제를 요약하는 작업에서는 성능이 급격히 저하됩니다. GraphRAG는 바로 이 지점에서 단순한 조각 찾기를 넘어, 데이터 사이의 관계를 구조화하여 검색의 질을 높이는 역할을 수행합니다.
2. GraphRAG: 지식 그래프로 구축하는 데이터의 지도
GraphRAG는 지식 그래프(Knowledge Graph) 기술을 RAG 프로세스에 결합한 형태입니다. 단순히 텍스트를 벡터화하는 것에 그치지 않고, 텍스트 내에서 핵심적인 개체(Entity)와 그들 사이의 관계(Relationship)를 추출하여 노드와 엣지로 구성된 네트워크를 만듭니다. 예를 들어 "이순신은 조선 시대의 장군이다"라는 문장에서 '이순신'과 '조선 시대', '장군'을 각각의 노드로 만들고, 이들 사이의 관계를 연결하는 식입니다.
이렇게 구축된 지식 그래프는 데이터의 구조적 맥rypt를 보존합니다. 검색 시에도 단순히 유사한 단어를 찾는 것이 아니라, 질문과 관련된 노드를 시작으로 연결된 다른 노드들을 따라가며 탐색할 수 있습니다. 이는 마치 흩어진 퍼즐 조각을 맞추는 것이 아니라, 이미 완성된 지도 위에서 경로를 찾아가는 것과 같은 정교함을 제공합니다.
3. Vector RAG와 GraphRAG의 결정적 차이
두 기술은 서로 대립하는 관계라기보다 상호 보완적인 성격을 가집니다. 구체적인 차이를 이해하기 위해 검색 유형에 따른 성능을 비교해 보겠습니다.
첫째, 검색의 범위입니다. 벡터 RAG는 특정 정보가 포함된 문단을 찾는 Point-to-Point 검색에 강점이 있습니다. 반면 GraphRAG는 여러 관계를 거쳐 정보를 찾아가는 Multi-hop 검색 및 전체 데이터를 관통하는 Global Summarization에 압도적인 성능을 보입니다.
둘째, 질문의 복잡성입니다. "A 기업의 공급망 리스크는 무엇인가?"와 같은 질문은 단순히 한 문단을 찾는 것으로는 부족합니다. 원자재 공급업체, 물류 경로, 지정학적 상황 등 여러 요소 간의 상관관계를 파악해야 합니다. 벡터 방식이 관련 문단들을 나열하는 데 그친다면, GraphRAG는 이 요소들이 어떻게 얽혀 리스크를 형성하는지 구조적으로 설명할 수 있습니다.
