ChatGPTのようなAIチャットを、ネットのサービスではなく自分のパソコンの中だけで動かす「ローカルLLM」。その入り口になるアプリ「LM Studio」の入門記事を、ギズモード・ジャパンが公開しています。
記事を書いた10月11日の時点でも、Xでは実際に試した人の投稿が続いていました。
◆ローカルLLMって何？
ギズモード・ジャパンの記事によると、LM Studioは無料で、MacとWindowsに対応。商用利用もできるそうです。ただしAIモデルごとに利用条件は違うので、使う前にチェックしておきたいところ。
うれしいのは、設定を変えない限りデータが外に出ていかないこと。人に見せたくない文章も扱いやすいとのことです。回線やサーバーの混雑に左右されず、回数制限もないそうです。
管理人青瀬すいネットにつながなくても、自分のPCでAIが動くの？
◆できること・苦手なこと
得意なのは、やさしい文章の翻訳や簡単なコードづくり。苦手なのは、難しい文章や企画づくりで、年号の間違いや意味不明な文字が混ざることもあるそうです。
記事は賢さはChatGPTやGeminiには及ばないとはっきり書いています。筆者の使い方は「ふだんは高性能なAI、ローカルは補助やバックアップ」が現実的、とのことです。
https://x.com/sheonite/status/2109095287532994839
◆必要なパソコンの目安
記事の目安では、MacはM1〜M4チップでメモリ16GB以上。Windowsもメモリ16GB以上で、グラボ（画像用の部品）のメモリは4GB程度とのこと。
動かすと高負荷なので、パソコンが熱くなったり、ファンの音が大きくなったりします。導入の手順や注意点は、くわしくは出典の記事で確認してください。
管理人青瀬すい16GBかぁ…自分のPCで動くか気になる人も多そう。
ネット上の反応
複数のモデルを同時に動かせるんだ、と驚く声。
画像や音楽の生成まで試せた。GPUが弱いので増設を検討中。
入れてみたけど右も左もわからない…情報はどこで？
6年前の自作PCでも、24GBに収まるモデルならまだ使える。
小さいモデルは賢くなく実用的ではない、という意見。
確認した投稿の一部を要約しています。
管理人のひとこと
反応にもあったけど、入れてみたものの何から調べればいいのか分からない、という人は多そうです。まずは出典の記事を読んで、無理のない範囲で試してみたいですね。
コメント