🐫 CAMEL로 Mistral 모델과 그래프 RAG 수행하기

🐫 CAMEL로 Mistral 모델과 그래프 RAG 수행하기 (Using CAMEL to Do Graph RAG with Mistral Models)

CAMEL을 사용해 그래프 기반 RAG(Retrieval-Augmented Generation)를 수행하는 방법을 배우는 문서예요. Mistral Large 2 모델로 콘텐츠에서 지식을 추출·구조화해 Neo4j 그래프 데이터베이스에 저장하고, 벡터 검색과 지식 그래프 검색을 결합한 하이브리드 방식으로 쿼리합니다.

출처: 문서

본문

이 쿡북은 CAMEL을 사용해 그래프 기반 RAG를 수행하는 과정을 안내해요. 특히 Mistral Large 2 모델로 주어진 콘텐츠 소스에서 지식을 추출·구조화해 Neo4j 그래프 데이터베이스에 저장하고, 이후 벡터 검색과 지식 그래프 검색을 결합한 하이브리드 접근으로 저장된 지식을 쿼리·탐색할 수 있어요.

📦 설치 (Installation)

먼저 CAMEL 패키지를 모든 의존성과 함께 설치해요.

pip install camel-ai[all]==0.1.6.0

🔧 설정 (Setup)

CAMEL-AI에서 필요한 모듈을 임포트해요.

from camel.models import ModelFactory
from camel.types import ModelPlatformType, ModelType
from camel.configs import MistralConfig, OllamaConfig
from camel.loaders import UnstructuredIO
from camel.storages import Neo4jGraph
from camel.retrievers import AutoRetriever
from camel.embeddings import MistralEmbedding
from camel.types import StorageType, RoleType
from camel.agents import ChatAgent, KnowledgeGraphAgent
from camel.messages import BaseMessage

🔑 API 키 설정 (Setting Up API Keys)

Mistral AI 서비스에 안전하게 접근하기 위해 API 키를 프롬프트로 입력받아요.

import os
from getpass import getpass

# Prompt for the API key securely
mistral_api_key = getpass('Enter your API key: ')
os.environ["MISTRAL_API_KEY"] = mistral_api_key

🗄️ Neo4j 그래프 데이터베이스 설정

URL, 사용자 이름, 비밀번호를 제공해 Neo4j 인스턴스를 설정해요. [여기]에 안내가 있고, 다운로드한 .txt 파일에서 자격 증명을 확인하세요. 방금 인스턴스를 설정했다면 최대 60초를 기다려야 할 수 있어요.

# Set Neo4j instance
n4j = Neo4jGraph(
    url="Your_URI",
    username="Your_Username",
    password="Your_Password",
)

🧠 모델 생성 (Creating the Model)

CAMEL ModelFactory로 Mistral Large 2 모델을 설정해요.

# Set up model
mistral_large_2 = ModelFactory.create(
    model_platform=ModelPlatformType.MISTRAL,
    model_type=ModelType.MISTRAL_LARGE,
    model_config_dict=MistralConfig(temperature=0.2).__dict__,
)

# You can also set up model locally by using ollama
mistral_large_2_local = ModelFactory.create(
    model_platform=ModelPlatformType.OLLAMA,
    model_type="mistral-large",
    model_config_dict=OllamaConfig(temperature=0.2).__dict__,
)

🤖 CAMEL 에이전트로 지식 그래프 생성

지식 그래프 에이전트 인스턴스를 설정해요.

# Set instance
uio = UnstructuredIO()
kg_agent = KnowledgeGraphAgent(model=mistral_large_2)

지식 그래프 에이전트가 처리할 예시 텍스트 입력을 제공해요.

# Set example text input
text_example = """
CAMEL has developed a knowledge graph agent can run with Mistral AI's most
advanced model, the Mistral Large 2. This knowledge graph agent is capable
of extracting entities and relationships from given content and create knowledge
graphs automaticlly.
"""

텍스트에서 요소(element)를 만들고 지식 그래프 에이전트로 노드·관계 정보를 추출해요.

# Create an element from given text
element_example = uio.create_element_from_text(text=text_example)

# Let Knowledge Graph Agent extract node and relationship information
ans_element = kg_agent.run(element_example, parse_graph_elements=False)
print(ans_element)

# Check graph element
graph_elements = kg_agent.run(element_example, parse_graph_elements=True)
print(graph_elements)

추출된 그래프 요소를 Neo4j 데이터베이스에 추가해요.

# Add the element to neo4j database
n4j.add_graph_elements(graph_elements=[graph_elements])

🎉 이제 [여기]에서 CAMEL의 Knowledge Graph Agent와 Mistral AI의 Mistral Large 2 모델로 만든 지식 그래프를 확인할 수 있어요!

🗃️ CAMEL로 그래프 RAG 실행 (Running Graph RAG with CAMEL)

벡터 검색과 지식 그래프 검색을 결합한 하이브리드 방식으로 RAG를 실행하는 방법을 보여드릴게요. Mistral AI의 임베딩 모델과 로컬 스토리지를 사용하는 벡터 검색기를 설정해요.

# Set retriever
camel_retriever = AutoRetriever(
    vector_storage_local_path="local_data/embedding_storage",
    storage_type=StorageType.QDRANT,
    embedding_model=MistralEmbedding(),
)

예시 사용자 쿼리를 제공해요.

# Set one user query
query="what's the relationship between Mistral Large 2 and Mistral AI? What kind of feature does Mistral Large 2 has?"

벡터 검색기로 관련 콘텐츠를 검색해요. 여기서는 Mistral AI 웹사이트의 뉴스를 예시 콘텐츠로 사용하며, 로컬 파일 경로를 설정할 수도 있어요.

# Get related content by using vector retriever
vector_result = camel_retriever.run_vector_retriever(
    query=query,
    content_input_paths="https://mistral.ai/news/mistral-large-2407/",
)

# Show the result from vector search
print(vector_result)

지정된 URL에서 콘텐츠를 파싱하고 지식 그래프 데이터를 만들어요.

# Parse conetent from mistral website and create knowledge graph data by using
# the Knowledge Graph Agent, store the information into graph database.

elements = uio.parse_file_or_url(
    input_path="https://mistral.ai/news/mistral-large-2407/"
)
chunk_elements = uio.chunk_elements(
    chunk_type="chunk_by_title", elements=elements
)

graph_elements = []
for chunk in chunk_elements:
    graph_element = kg_agent.run(chunk, parse_graph_elements=True)
    n4j.add_graph_elements(graph_elements=[graph_element])
    graph_elements.append(graph_element)

사용자 쿼리에서 요소를 만들어요.

# Create an element from user query
query_element = uio.create_element_from_text(text=query)

# Let Knowledge Graph Agent extract node and relationship information from the qyery
ans_element = kg_agent.run(query_element, parse_graph_elements=True)

쿼리에서 얻은 엔티티를 지식 그래프 스토리지 콘텐츠에서 매칭해요. Neo4j의 Cypher 쿼리로 관련 노드와 관계를 조회해요.

# Match the enetity got from query in the knowledge graph storage content
kg_result = []
for node in ans_element.nodes:
    n4j_query = f"""
MATCH (n {{id: '{node.id}'}})-[r]->(m)
RETURN 'Node ' + n.id + ' (label: ' + labels(n)[0] + ') has relationship ' + type(r) + ' with Node ' + m.id + ' (label: ' + labels(m)[0] + ')' AS Description
UNION
MATCH (n)<-[r]-(m {{id: '{node.id}'}})
RETURN 'Node ' + m.id + ' (label: ' + labels(m)[0] + ') has relationship ' + type(r) + ' with Node ' + n.id + ' (label: ' + labels(n)[0] + ')' AS Description
"""
    result = n4j.query(query=n4j_query)
    kg_result.extend(result)

kg_result = [item['Description'] for item in kg_result]

# Show the result from knowledge graph database
print(kg_result)

벡터 검색과 지식 그래프 엔티티 검색의 결과를 결합해요.

# combine result from vector seach and knowledge graph entity search
comined_results = vector_result + "\n".join(kg_result)

검색된 컨텍스트를 바탕으로 질문에 답하는 어시스턴트 에이전트를 설정해요.

# Set agent
sys_msg = BaseMessage.make_assistant_message(
    role_name="CAMEL Agent",
    content="""You are a helpful assistant to answer question,
    I will give you the Original Query and Retrieved Context,
    answer the Original Query based on the Retrieved Context.""",
)

camel_agent = ChatAgent(system_message=sys_msg,
    model=mistral_large_2)

# Pass the retrieved infomation to agent
user_prompt=f"""
The Original Query is {query}
The Retrieved Context is {comined_results}
"""

user_msg = BaseMessage.make_user_message(
    role_name="CAMEL User", content=user_prompt
)

# Get response
agent_response = camel_agent.step(user_msg)

print(agent_response.msg.content)

🌟 하이라이트 (Highlights)

자동화된 지식 추출: Knowledge Graph Agent가 엔티티와 관계 추출을 자동화해 과정을 효율적이고 효과적으로 만듭니다.
Mistral AI 통합: Mistral AI의 고급 모델, 특히 Mistral Large 2를 CAMEL-AI와 통합해 강력한 지식 그래프 시스템을 구축하는 방법을 보여줍니다.
안전하고 확장 가능: CAMEL-AI의 견고한 아키텍처와 그래프 저장용 Neo4j를 사용해 안전하고 확장 가능한 솔루션을 보장합니다.

이 쿡북을 따르면 CAMEL AI와 Mistral AI의 최첨단 기능을 활용해 정교한 지식 그래프를 구축하고, 고급 데이터 분석과 검색 작업을 수행할 수 있어요.

🐫 CAMEL로 Mistral 모델과 그래프 RAG 수행하기