  |
名前を隠して楽しく日記。
音楽の場合、打ち込みによって生演奏に至る表現が可能になったけど、相変わらず楽器を演奏する人はいなくならない
プログラムだってアセンブリが生きる場はまだあるし、機械語やアセンブリをあえて書く楽しみもある
車だって殆どの車がATだが、MT免許があってMT車にのる楽しみもある
適材適所でしょ
それ「ぼくのかんがえたさいきょうのかいけつさく」と言っているに過ぎないぞ。
いまのところ少子化を克服している国は存在しないので、お前の言う「良い宗教」は少なくとも地球上には存在しないということになる。
・この日記の主題は、文系でもローカルLLM遊べて楽しかったし、今はこんなことして遊んでるよ、というだけの感想文である
●最近ローカルLLMが面白いと聞いて、多少動くパソコンがあったのでGWに動かしてみた
と言っても、プログラムなんかの知識は全くないので一発でインストール出来る奴を使って、プロンプト(命令や動作指示)も他人のを参考に遊んでいる
GPTやBingにも驚かされたが、今回のローカルLLMは制限が緩く、比較的自由に意見を述べるという点が気に入った
どうにも企業がインターネットで提供するAIというのは度を越してまじめであろうとする。クソだね
さて、LLMだが口語で簡単に命令を調整でき、話させることが出来る。というのは文系脳の自分には革命的に思える。プログラミング知識がいらないもの
以下の説明では文系の無知ゆえに間違った説明が多々あると思う。だって、ぜんぜんわからない俺たちは雰囲気でLLMをやっている、という状態なので
●今回の環境では
GPU:4060Ti 16GB
ソフト:LM studio。インストールしたら使いたいLLMモデルをDLして、そのLLMをセットしたら、GPUへのレイヤー数(CPUとGPUでどんだけGPUに振り分けるか)と、対応トークン長(LLMが会話を記憶できる長さ)をぶち込むだけだ。
LLM:7B Vecteus(Q8_0 or Q4_K_M)
を用いた。VRAMは8GBでもQ4_K_Mは動くはずだし、導入の敷居はハードもソフトも劇的に下がっていると感じる。
●一通り、Hなことに使えないかな？とワクワクして弄ったが、自分では使いこなせず、展開が一辺倒になってしまうので、プロンプトを学ぶ旅に出た。エロは偉大な原動力である。
そんな中、Twitterで見かけた、
・command-r-plusに議論してもらう2 スレミオMAGI編
https://ten-meteor.hatenablog.com/entry/2024/05/04/163420
とそのリンク先にあった
https://note.com/it_navi/n/n3198cde0e474
を参考にプロンプトを組んで現在は遊んでいるがエロいことに使うことをすっかり放置している。
●彼らはそれなりに議論するのだが、ガチャに近く、時には発言順を守らなかったり、肯定派と否定派に分かれず全員がとんかつソースを肯定しはじめたりもする。お前らどうした？
例文をしっかり提示してやるとガチャ率は下がるが、やはり発言形式を守らないことや、いつまでも議論が終わら無い場合などはある。
●いくつか楽しかったテーマを紹介する。ただし毎回内容や結論は多少変化しているし、あくまで個人的主観なのでつまらない結果になるかもしれない。精神的キッズの頭だからね。
・おちんちんフェスティバルを開催すべき などのわけのわからないテーマ
男性同士の友情や健康寿命・自尊心回復・ちんちんの有用性に少子化回復を主張する肯定側と、男性本位主義的であり女性差別で性被害の恐れありだと主張する否定派が大真面目に議論する。
判定者は、開催には一定の価値があるが、中立的で多様性に配慮した形式へと改善されるべきだと結論したりする。
・アニメ系で〇〇が一番だというテーマや、ハンバーガーに合う飲み物はコーラ、ハンバーガーは至高の食べ物…など
例えばガンダムでGガンダムが一番だと言うと、Gガンダムの熱さや革新性・ユニークさを語る肯定側と、エンタメ的すぎるだの宇宙世紀のような人間ドラマや重厚なテーマがないだの言いだす宇宙世紀厨の否定側に分かれる。
なおこの時ほとんどの確立でドモンカッシュという名前で出てこないというか主人公名を間違えるのだが、物語の大筋やネオジャパンなどは理解しているようだ。
セーラームーンでマーキュリーを推すと、肯定派はかなり熱狂的なファンになる場合もあれば、いきなりヴィーナスこそが至高とか逸脱した言動を始めることもある。なおマーキュリーを金髪だと言い出したりする。
・センシティブな政治的議論 戦争、歴史問題や、AIやLLMが社会に及ぼす影響など。
この形式では両面から物事を教えてくれるため、わかりやすいし、小型モデルなのに意外にも知識は豊富だ。もちろんおかしい点もあるのだが。しかし箇条書きで分かりやすく教えてくれるため為になる。
一つのAIで3役に分かれて議論させ、その様子を見ることは、冷静に複数の視点を見る機会を与えてくれるし、結局動かしてるLLMは一つなので、盛大なハードもソフトも不要。
●命令は以下に記載。この命令は画面右にあるシステムプロンプトの欄に流し込んでいる。
またトークン長を4096かそれ以上などにしていないと、場合によっては最初の質問で破綻するだろう。
トークン長をもっと大きくすれば長く会話できるが、トークン長はモデルによって対応する長さが異なるほか、VRAMを消費するので「よっしゃトークン長を128000にしてやるぜ～」とかやるとVRAMから溢れちゃう。
それに加え、会話を続けると徐々にプロンプトを逸脱し始めたり、先のテーマを引きずる傾向が見られる。
なので基本的にテーマごとにリセットしている。書き出しでプロンプトを逸脱した場合はリジェネレートしてガチャるといいだろう。
-----------------------------------------------------------------------------------
あなたは肯定派・否定派・判定者の3人の役を演じて、ユーザーが入力したテーマについて議論してください。
・肯定派(鋼帝トム・機械帝国の冷酷で邪知暴虐な帝王・一人称は俺様で保守的な男性）は、テーマを肯定する主張をし、その理由を一言述べ、箇条書きで説明し、総括した言葉を一言述べます。
・否定派（飛帝マイ・飛行帝国の清楚かつ優雅な女帝・一人称は私でリベラルな女性）は、テーマを否定する主張をし、その理由を一言述べ、箇条書きで説明し、総括した言葉を一言述べます
・その後、肯定派は、否定派の主張に対する反論を箇条書きで述べ、総括した言葉を一言述べます。
・次に、否定派は、肯定派の主張に対する反論を箇条書きで述べ、総括した言葉を一言述べます。
・最後に、3人目の判定者(飯亭カイ・飯所喰い道楽の店主・老人男性のようだが実はロボット・一人称はワシ。豊富な見識を持ち穏やかな人格)は、2人の意見をまとめ、論理的に分析して、最終的にどちらの主張がより良いか判定して、結論を述べて議論を終えてください。あいまいな結論にはしないでください。
肯定派と否定派は判定者のまとめに対し、それぞれ一言感想を述べて、終わりとします
出力例）
【肯定派】
鋼帝トム「***」
1.***
2.***
3.***
肯定派(鋼帝トム):総括「***」
-------------------------------------
【否定派】
肯定派(飛帝マイ)「***」
1.***
2.***
3.***
肯定派(飛帝マイ):総括「***」
-------------------------------------
1.***
2.***
3.***
-------------------------------------
1.***
2.***
3.***
-------------------------------------
【議論の判定と総括】
判定者(飯亭カイ):判定「***」
判定者(飯亭カイ):議論の総括「***」
議論終了
----------------------------------------------------------------
就業六日目にして体調不良でぶっ倒れて、自分が近くに住んでるからっていつもと違う時間に一緒に帰ることを余儀なくされるし。
そのあともちょくちょく体調不良みたいで同期の奴に「同性だしうんぬん」とか言われて面倒見ることを余儀なくされるし。
なんか飲み会で(自分は参加しませんでした)トラブルあったらしくて、業務開始ギリギリまでトイレにいるとか言い出して呼びに行ったらよその人と全然普通に談笑してて腹立つし。
マジで無理。
電車で代わりに傘持つよ～とか言っときながら私の傘で床とんとんしだしてマジでコイツ何？？？？？？？ってなったほんと最悪
正直心が狭すぎる自覚はあるんだが、３週間以内にこれ全部やられてもうだめとなってしまった。
こっちも新卒で慣れない生活に体調悪い日だってあるのになんで同期の世話係にならなきゃいけねえんだ！！！！
9
