RAG
LlamaIndex」はツール/ライブラリの名前、
「RAG（Retrieval-Augmented Generation）」は手法やアプローチの名前
1. RAGとは
* 正式には Retrieval-Augmented Generation（検索拡張生成）。
* LLM（例：GPT、Llamaなど）に直接すべての情報を記憶させるのではなく、
必要に応じて外部の知識（ドキュメント、データベースなど）を検索し、その結果を使って回答を作成する仕組み。
* 一般的なRAGの流れ：
1. ユーザーから質問を受け取る
2. 質問に関連しそうな情報を検索（情報検索フェーズ）
3. 見つかった情報をもとにLLMが回答を生成（生成フェーズ）
→ RAGは「仕組み」や「考え方」
2. LlamaIndexとは
* RAGの「仕組み」を簡単に構築できるようにするためのPythonライブラリ。
* 役割：
* 文書やデータを「Index」（インデックス化＝検索しやすく加工）
* 質問に応じてそのIndexから「検索」
* 検索結果をもとに「LLMにプロンプトして回答生成」
* つまり、LlamaIndexは
* 「データを取り込みやすくする」
* 「賢く検索できるようにする」
* 「LLMにうまく渡して回答させる」
を手伝ってくれるツールです。
→ LlamaIndexは「RAGを実装するためのツール」
| 項目 | 内容 |
| :——— | :———————– |
| RAG | 検索＋生成を組み合わせた仕組み・手法 |
| LlamaIndex | RAGを作るためのPythonライブラリ・ツール |
コンセプトは
取扱説明書や契約書を電子化し、音声での質問に答えて、該当するページを表示したい。 また内容をわかりやすく説明する機能も欲しい
【あなたのゴール】
1. 取扱説明書や契約書を電子データ化しておく
2. 音声入力で質問できる
3. 質問に対して
* 該当するページやセクションを画面に表示
* 分かりやすく要約や解説もする
これは技術的には、 「RAG＋音声入出力＋画面UI」 を組み合わせることで実現できます！
なお
プロトタイプはmacbookairで動作し ページ表示もmacbookairだが 本番環境は画面にページ表示は指定したIPアドレスのラズパイディスプレイを想定。
なお以前動かしたものが
Ollama index チュートリアルを参考に
のメモに残っているので調べた
PDFファイルに関しては
touch test.py
でファイルを作成
PDFファイルに関しては
Dataフォルダに格納
wget https://www.mhlw.go.jp/content/001018385.pdf -O data/10k/001018385.pdf
でファイルを取得し保存している
なおパッケージインストールは
pip install llama-index-core llama-index-readers-file llama-index-llms-ollama llama-index-embeddings-huggingface
from llama_index.llms.ollama import Ollama
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex
from transformers import AutoTokenizer
# 使用モデルを選択します。
llm = Ollama(model="elyza:jp8b", request_timeout=40.0)
# HuggingFace Embedding モデルの初期化
embed_model = HuggingFaceEmbedding(model_name="all-MiniLM-L6-v2")
# Transformers tokenizerの設定
tokenizer = AutoTokenizer.from_pretrained("sentence-transformers/all-MiniLM-L6-v2", clean_up_tokenization_spaces=False)
# PDFファイルの読み込み
reader = SimpleDirectoryReader(input_files=["./data/001018385.pdf"])
data = reader.load_data()
index = VectorStoreIndex.from_documents(data, embed_model=embed_model)
# クエリエンジンの初期化
query_engine = index.as_query_engine(llm=llm, streaming=True, similarity_top_k=3)
# クエリの実行
response = query_engine.query("就業規則では休みは何日もらえますか？日本語で答えて。")
response.print_response_stream()
# ソースノードの確認
for node in response.source_nodes:
print(f"Text: {node.node.text[:100]}...")
print(f"Similarity score: {node.score}") # 'score'を使用
これで動いているのが確認できている
またテキストファイルの場合は
test_txt.py
として
from llama_index.llms.ollama import Ollama
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex
from transformers import AutoTokenizer
# 使用モデルを選択します。
llm = Ollama(model="elyza:jp8b", request_timeout=40.0)
# HuggingFace Embedding モデルの初期化
embed_model = HuggingFaceEmbedding(model_name="all-MiniLM-L6-v2")
# Transformers tokenizerの設定
tokenizer = AutoTokenizer.from_pretrained("sentence-transformers/all-MiniLM-L6-v2", clean_up_tokenization_spaces=True)
reader = SimpleDirectoryReader(input_files=["./data/10k/bocchi.txt"])
data = reader.load_data()
index = VectorStoreIndex.from_documents(data, embed_model=embed_model)
# クエリエンジンの初期化
query_engine = index.as_query_engine(llm=llm, streaming=True, similarity_top_k=3)
# ストリーミングでレスポンスを取得
response = query_engine.query(
"文化祭ライブはどうだったのか**日本語**で簡潔に説明してください。 "
" page reference after each statement."
)
response.print_response_stream()
で動作確認できている
あとはデータ保存について調べる
GPT、geminiともにデフォルトではメモリにあるため
プログラム終了するとデータは消えてしまう
このため保存先が必要になる
RAGのデータについて調べたが
Gemini GPTともに
メモリがデフォルトでプログラム終了後は内容は消えるため
自分で保存しないとだめ
保存しなければ → 一時的なRAM（セッション内のみ有効）
明示的に保存した場合 → index.save_to_disk() で指定したパス（通常ローカル）
外部ベクトルDB使用時 → 各サービスのストレージ領域（クラウド or DB）
用途により保存方法は異なるため
コンセプトの再確認
家庭内での利用。 妻や子供、ITに詳しくない両親たちが、家電の説明書や契約書の内容をわかりやすく説明するのに使う。
別の用途として、学校からのお知らせのPDFを随時読み込んで緊急時の対応などに対処できるようにしたい
これに対し
家庭内での用途（非技術ユーザーの利用、家電マニュアルや学校のお知らせPDFなどの理解補助）という条件であれば、
保存先は**「ローカルで簡単に使えるが、永続化されており、安定していて高速」**であることが重要
とのこと
GPTとgeminiによる提案はどちらも
家庭内利用に最適な保存先：Chroma（ローカル）
この場合必要なマシンスペックを調べることにする