ブログ日記／その他
ローカルでAIを動かそうと思った原因
★★★★★
マシンパワー問題(画像はNPUのみでGemma 4 E4Bを動かしてる様子)
Intel入ってるパソコンで動かす？
ならAMDしかない
まとめ
✅ 良かった点
- ローカルでAIを実用的に動かせられるところかと。
- あるとなしでは大きく違う。
⚠️ 気になった点
- そこそこの知識がないと使えない。
- 前までは消費電力も気にはなっていましたが、NPUのおかげで気にならなくなった。
評価
5
★★★★★
総合評価
性能
5 / 5
デザイン
5 / 5
使いやすさ
5 / 5
サイズ・重量
5 / 5
コスパ
5 / 5
商品情報
- メーカー
- AMD
- 製品名
- Lemonade server/Jan/LM studio
この記事の連載・特集リスト
Microsoftのマスカキで始まったCopilot+PCには、40TOPS以上のNPUが積まれています。
正直いらないですが、あるからには有効活用使用ということで、NPUでLLMを動かしてみようと思いました。
一つ注意して欲しいのは、これは50tops以上のNPUを積んだAMD機でしかまだできないということです。
Intel機だったり、初期のRyzen AIはできないと思われます。
コメント （0件）
まだコメントはありません。最初のコメントを書いてみましょう！