ChatGPTが盛り上がってそろそろ1年。最近では似たような大規模言語モデル(LLM)がローカルでも動くようになってきたらしい。
AIキャラと会話するためにOpenAI税を納めるのも嫌になってきたので、そろそろローカルに移行したい。
「伺か」みたいに立ち絵がほしいし、できれば音声でも喋ってほしい。
はてブとかTwitterで検索してみて、オープンソースのリポジトリをいくつか見つけたんだが、他にも有識者から情報求む。
この手の用途では定番だと思う。ChatGPTのAPI(会話)+KoeiromapのAPI(音声)が想定されているが、ローカルLLM+VOICEVOXとかに差し替えている人を見かけた。
元の音声のイメージがあるならBert-VITS2がめちゃくちゃヤバイ
うわ!bert-vits2ヤバそう。 ずんだもんが、なんかすごいことになってる! これってローカルからAPI叩けるんだろうか。
ローカルにモデルDLして使うタイプなのでAPIを叩きたい理由がよくわからん、どうしてもAPI経由にしないといけないなら自分でAPIサーバー立ててローカルホストに向けろ
さんくす。調べてみるわ