プロンプト2回入力テクニック
プロンプト2回入力テクニックとは、おちつきAIラジオで紹介された、LLMに質問をするとき同じ質問を2回続けて入力するだけで回答精度が上がるという手法である。番組(ep.29の速報回)では、これを報告した論文として取り上げられ、推論能力を持たないLLMに限定した前提のもとで、シンキングより速く実用的なテクニックだと語られた。該当箇所を聴く
概要
番組では、LLMに質問をするとき、同じ質問を2回続けて入力するだけでLLMの回答精度が上がるという発見が報告されたと紹介された。該当箇所を聴く
この手法には前提があり、しぶちょー・かねりんは「まず前提としてはですね、推論能力を持たないLLMに限定してます」と説明していた。つまり、もともと高度な推論を行うモデルではなく、推論能力を持たないLLMに対象を絞った話として語られている。該当箇所を聴く
検証されたモデル
番組では、この手法が検証されたモデルとして、Gemini 2.0 Flash、GPT-4 Omni、Claude 3、Haiku、Sonnet 3.7、DeepSeek V3が挙げられた。具体的なモデル名を列挙する形で、複数のLLMで確かめられた発見として紹介されている。該当箇所を聴く
効きかたの説明
番組では、同じ質問を2回聞かれると、結局は高度な推論を行うようなモデルと同じ動きをするらしい、と語られた。推論能力を持たないLLMでも、2回入力されることで推論モデルに近い挙動になる、という説明である。該当箇所を聴く
そのうえで、この手法は「シンキングよりも回答が早い」と話され、推論(シンキング)を回すよりも応答が速い点が利点として挙げられた。該当箇所を聴く
コストパフォーマンスへの評価
一方で番組では、効果の大きさには留保もつけられた。しぶちょー・かねりんは、シンキングを2回回しても1回で多分回答精度は超高いから、「98点を99点にするぐらいの効果はあるかもしれんけど、あんまりコストパフォーマンスは良くなさそうだね」と話している。手法としての効果は認めつつ、コストパフォーマンスの面ではそれほど良くなさそうだ、という見方である。該当箇所を聴く
そのうえで番組は、この論文を「プロンプトを2回繰り返すだけで応答速度を落とさずにLLMが賢くなるっていう実用的かつコストパフォーマンスの高いテクニックを紹介したという論文ですね」とまとめている。論文側の主張としては、応答速度を落とさずにLLMが賢くなる、実用的かつコスパの高いテクニックとして紹介された、という整理になっている。該当箇所を聴く
番組での受け止め方
番組内でのこのテクニックの語られ方は、二つの面を持っている。論文の主張としては「応答速度を落とさずにLLMが賢くなる、実用的かつコスパの高いテクニック」とまとめられている 該当箇所を聴く。一方で、しぶちょー・かねりんの実感としては、もともと回答精度が高いモデルでは「98点を99点にするぐらい」で、コストパフォーマンスはあまり良くなさそうだ、という醒めた見方も同時に示されている 該当箇所を聴く。論文の評価と番組パーソナリティの体感が並んで語られているのがこの話題の特徴である。
なお、同じep.29の速報回では、ChatGPTについても「2回同じことを入力すればすごく良い回答が来る」と驚かれている、という形でこの話題が触れられており、プロンプトを2回入れるという発想が個別サービスの使い勝手の話ともつながって語られている。
ここにも登場
出典エピソード
- d5187e1d8e2a17839ee14f
各セクションの「該当箇所を聴く」リンクから、番組の発話そのものを確認できます。