ブログ日記/その他

こんにちは😀 ひろきです
なんとR36SでLocalAIを動かすことに成功しました!
まあ実用性は無いのですが、せっかくなので紹介します!
AIモデル
今回使ったモデルは↑のLFM2.5-1.2Bです!
これは日本語もほどほどに使えて、めちゃくちゃ軽いということで何かしら使えそうだな〜
と思っていたのですが、まさかのR36Sで動かせるとは思っていませんでした!
もともと使う予定だったモデル
もともとは英語モデルの350Mと
翻訳モデルを合わせて、使用する予定でした
ただ、なぜか回答の質が落ちてしまいます
350Mということで、そこまで頭が良くないのですが、それどころではないぐらい頭がわるいです...
あと、スペックの関係で一度モデルをメモリから消すため、再ロードに時間がかかる問題もあります
(まあこの問題は結局解決していませんが...)
実用性は?
ないですw
残念ながら生成に4分ぐらいかかるので実用性皆無です
(実際やったら6分かかって草)
ただこれを成し遂げた嬉しさはあります!!
こんなただのゲーム機にAIが入ってるっていうのは夢がありませんか?

まあ最初から実用性求めてはやっていませんw
こんなことが可能かが知りたかっただけです!
こんなのやる人がいるかわかりませんが、導入方法は省きますが下のリンクに書いてあるので
もしやりたかったらどうぞ
ソースコード
もちろんソースコードも用意しています!
煮るなり焼くなりしてあげてください!
雑談
あんまりR36SをAmazonで買うのは推奨できません
偽物が来る確率が高くて、高いです
まとめ
こういう実験たのし〜
- 動いた!
- 意外と頭が良い
- まあ実用性は...


コメント (0件)
まだコメントはありません。最初のコメントを書いてみましょう!