プロンプトエンジニアリングってのは1回の回答で正解を得ようとする手法で
最近のサッカーのトレンドに詳しく適切なアドバイスができます。
みたいなプロンプトを書いて良い感じの答えを貰おうとしている
こういう使い方をする人はGPT-4oでトークン量が増えたときにプロンプトに大量にテキストを貼り付けて質問してる
残念ながらLLMでそういう使い方をしても精度は一切上がらない
なぜなら1回の回答で正解は出ないからだ
ChatGPTの正しい使い方としては、いきなり
「来週に攻撃力が強いチームとサッカーの試合があるんだけどどうすればいいかな」
って聞けばいい
「でも向こうのFWの武田って奴がこぼれ球狙ってくるんだよね」
みたいなこともできる
会話の往復を続けることで自分の本当の要望を伝えられるだけでなく、自分の中で本当の課題や要望を整理することができる
で、こういう感じで会話を長く続けるにはトークン量が必要になる
次の会話を作るためにはそれまでの会話を全部プロンプトとして投入しなければならなくて、トークン消費量は雪だるま式に増える
GPT-4oでトークンが増えたことで、会話量を増やしたり前のスレッドの続きで質問したりできるようになったのが一番の違い
あと、GPT-4oと会話していて「最初に言ったことが無視されてるな」と思うことはあっても「今言ったことが無視されてるな」と思ったことはない
なのでプロンプトの後半を見ていないというのは全くの嘘だしLLMの特性でもなんでもない
って言えばちゃんと加味して回答してくれる
LLMも所詮はプログラムなのでメモリ量(アテンション)に限界があるから、どれに注意を払って回答してもらうかは質問する側がコントロールしないとダメ
再投稿は甘え