パソコンサポートの00H ～社長BLOG～

最近実は AI づいてます。
といっても ChatGPT を元カノやドラえもんにして
遊んでいるわけではありません。

ローカル LLM といって自分のパソコンで
AI を動かして…というやつです。

機密情報を AI に入力させるのはどうなん？と思いつつ、
いやローカルでできるなら面白そうやん
というわけで手持ちのパソコンに
インストールしているのですが、
これがなかなか大変です。

インストール自体はそれほど難しくないのですが、
マシンパワーを要求されるので、
そんじょそこらのパソコンだと動きません。

それこそ、性能の低いパソコンだと
『 AI が考えている過程が見える』
という状態でとてもじゃないですが
実用レベルとは言えません。
そう考えると ChatGPT のすごさがわかります。

快適に動かそうとすると大量のメモリと
高性能グラフィックボードが必要ですが、
これらがとんでもなく高騰しています。

実はかねてからの 3D CG がやってみたい…
と高性能パソコンを買っていたので
かろうじて動かせてますが…う～～～ん…

実は去年、普段はあまり使わない
モンスターパソコンを買ったのですが、
正直全然使ってなかったので、
ちょっとローカル LLM に手を出しました。

LLM はご存知の方もおられるかもしれませんが、
Large Language Model：大規模言語モデル
という AI のことです。
ChatGPT のように外部に通信して使用するのは
個人情報の問題もあったりするので
元カノに東京の観光案内を聞いたり、
ドラえもんにトラブルについて相談したり、
自分を松本零士風の画像にしてもらったり…
といったものなら問題はないのですが、
外部に公開したくないものを AI に考えさせるには
ちょっと抵抗がありました。

ただ、めったにそういう機会がないので、
必要性にはかられていなかったのですが、
そこはそれ技術者的には、
『動かせるなら動かしてみよう』
という精神に基づくものです。

Ollama を導入し、モデルをダウンロードして、
何とか動くまでに持って行きました。
VScode に組み込むことも成功し、
当分使ってみようと思います。