2024-09-10

LLMをガッツリ調べて使っている人だけが分かること

プロンプトエンジニアリングなんて全く必要ない

プロンプトエンジニアリングってのは1回の回答で正解を得ようとする手法

例えばサッカー戦略を考えて貰おうとしたとき

あなたサッカーチームのコンサルタントです。

 最近サッカートレンドに詳しく適切なアドバイスができます

 このチームにはFWに優秀な選手がいて〜〜〜」

みたいなプロンプトを書いて良い感じの答えを貰おうとしている

こういう使い方をする人はGPT-4oでトークン量が増えたときプロンプトに大量にテキストを貼り付けて質問してる

過去試合データとか全部載せたりしてる

残念ながらLLMでそういう使い方をしても精度は一切上がらない

なぜなら1回の回答で正解は出ないからだ

ChatGPTの正しい使い方としては、いきなり

「来週に攻撃力が強いチームとサッカー試合があるんだけどどうすればいいかな」

って聞けばいい

そうするとなんか適当な答えが返ってくるから

「でも向こうのFW武田って奴がこぼれ球狙ってくるんだよね」

ハイプレスを続けると体力的に厳しくない?」

とか追加の情報質問提示すればいいし、散々会話した後で

「分かった。明日トレーニングメニューも考えて」

みたいなこともできる

会話の往復を続けることで自分の本当の要望を伝えられるだけでなく、自分の中で本当の課題要望を整理することができる

で、こういう感じで会話を長く続けるにはトークン量が必要になる

次の会話を作るためにはそれまでの会話を全部プロンプトとして投入しなければならなくて、トークン消費量雪だるま式に増える

GPT-4oでトークンが増えたことで、会話量を増やしたり前のスレッドの続きで質問したりできるようになったのが一番の違い

あと、GPT-4oと会話していて「最初に言ったことが無視されてるな」と思うことはあっても「今言ったことが無視されてるな」と思ったことはない

なのでプロンプトの後半を見ていないというのは全くの嘘だしLLMの特性でもなんでもない

最初に言ったことが無視されているような時でも

最初に言った武田って奴はマジで要注意だから忘れないで」

って言えばちゃんと加味して回答してくれる

LLMも所詮プログラムなのでメモリ量(アテンション)に限界があるから、どれに注意を払って回答してもらうかは質問する側がコントロールしないとダメ

まぁその辺も4oはかなり優秀なので意識することは少なくなったけど全く意識しなくて良いわけじゃないな

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん