第3回（実践編）
- 1.ガイダンス・前回の復習

ガイダンス

お集まりいただきありがとうございます。
三週目になりますが、引き続きよろしくお願いいたします。
今回、実践編のDay2、全体としてはDay3のLLMサービス開発講座を始めさせていただきます。
簡単なアジェンダになりますが、最初にガイダンスとして今回何を行うかを少し説明させていただき、前回同様、前回の復習をいたします。
その後、RAGの全体像の前半部分について解説し、休憩を挟んでRAGの実践ハンズオンに移ります。
ハンズオンで利用するGoogle ColaboratoryのURLは、事前にメールでお送りしております。
ご確認いただけていない方のために、チャット欄でも共有いたします。

RAGの実践では、実際にRAGが使われている「NotebookLM」というツールを体験していただくのと、弊社で作成した、RAGをフルスクラッチ気味に実装した演習資料をご用意しました。
これを皆様の手元で動かしていただきながら、RAGの中身の詳細な実装がどうなっているのか、その肌感覚を理解していただけたらと思います。
この肌感覚が分かってくると、「RAGとはこういうことか」と理解が深まりますし、第四回目の「RAGの精度向上」をテーマに扱う際にも、どこを改善できそうかという勘所が分かってくると思いますので、こちらをメインに進めていきます。

その後、後半部分ではRAGの全体像をさらに広げた形で解説します。
RAGは精度向上策の一部分に過ぎず、LLM自体のプロンプトの工夫やチューニング、あるいはツール活用といったアプローチもあります。
第一回で少し触れたその話を、さらに深掘りできればと思います。よろしくお願いいたします。
今回も少人数ですので、インタラクティブに進められればと思っております。

キリのいいところで一度止めますので、それまでにチャットでいただいたご質問などに適宜お答えしていきます。

まず、本講座の目的ですが、これは繰り返しになるので、さらっとご説明します。

最初にLLMを簡単に理解し、LLMでよくあるユースケースであるRAGを実際に書けるエンジニアになることを目指します。その過程で、昨今流行りのAI駆動開発にも触れていきます。
Day1ではAIエンジニアのロードマップとして、AIの歴史や一般論、必要なスキルといった全体像をお話ししました。Day2ではAI駆動開発をテーマに、AIを活用したツールがいかに開発の生産性を上げているか、どのようなツールがあり何ができるのかをお話ししました。そして今回Day3では、AIでよくあるユースケースであるLLM APIの使い方から、社内文書などを活用してLLMの精度を上げていく「RAG」について、解説とハンズオンを行っていきます。

今回の講義を終えた際に身についているスキルとしては、第一回でも軽く触れましたが、RAGが昨今なぜ求められているのかという背景や必要性をさらに深く理解できる状態を目指します。
また、RAGで使われるレトリバー、ベクトルDB、プロンプトといった各コンポーネントの構造や使い分けが分かるようになります。さらに、RAGが実務でどのようなユースケースで使われ、案件としてはどういうものが多いのか、といったお話もできればと思います。ハンズオンを通じてRAGの全体像を理解した上で、アルゴリズムの仕組みや、どうすれば精度が上がっていくのか、といった肌感覚もお伝えしていきます。