オーバーラップ
RAGチャンク文脈検索分割
オーバーラップは、おちつきAIラジオでは、文章などをチャンク分け(chunking)で分けるときに、上の文脈が切れないよう一部を重複させる手法として語られていた。該当箇所を聴く
番組での語られ方
しぶちょー/かねりんの会話では、RAG(検索拡張生成)に関わる文脈で「チャンク切るんだけどオーバーラップしてる」と説明され、単に文章を分割するだけではなく、分割された前後のつながりを残すために重複を持たせるものとして扱われていた。該当箇所を聴く
何を防ぐためのものとして語られたか
番組では、チャンクを分ける際に「上の文脈が切れないように」するための工夫としてオーバーラップが位置づけられていた。つまり、おちつきAIラジオでの説明では、分割によって前段の意味や流れが失われることを避けるために、あえて内容を重複させるという語られ方だった。該当箇所を聴く
ここにも登場
出典エピソード
- bd5151aff453c8ecfed943
各セクションの「該当箇所を聴く」リンクから、番組の発話そのものを確認できます。