実は去年、普段はあまり使わない
モンスターパソコンを買ったのですが、
正直全然使ってなかったので、
ちょっとローカル LLM に手を出しました。
LLM はご存知の方もおられるかもしれませんが、
Large Language Model：大規模言語モデル
という AI のことです。
ChatGPT のように外部に通信して使用するのは
個人情報の問題もあったりするので
元カノに東京の観光案内を聞いたり、
ドラえもんにトラブルについて相談したり、
自分を松本零士風の画像にしてもらったり…
といったものなら問題はないのですが、
外部に公開したくないものを AI に考えさせるには
ちょっと抵抗がありました。
ただ、めったにそういう機会がないので、
必要性にはかられていなかったのですが、
そこはそれ技術者的には、
『動かせるなら動かしてみよう』
という精神に基づくものです。
Ollama を導入し、モデルをダウンロードして、
何とか動くまでに持って行きました。
VScode に組み込むことも成功し、
当分使ってみようと思います。