Dimeiza
banner
dimeiza.bsky.social
Dimeiza
@dimeiza.bsky.social
Programmer, and hobbyist.

著作『技術士(情報工学部門)攻略ガイドブック』(https://x.gd/7a23E)
共著『エンベデッドシステムスペシャリスト 合格論文の書き方、事例集』

全ての発言は所属組織とは無関係の個人的見解です。
http://twpf.jp/dimeiza
Intel CPUを1つゲットしたので、これでサブマシン上でIPEX LLMベースのOllamaサーバを常駐させることができそうです。
4万のGPUでこの速度が出せるLLMサーバ、ってのは割とお買い得じゃないかしら。

後はGemma3を動かしたいところですが、こっちのOllamaだとまだ未対応かもしれないですね。
March 15, 2025 at 4:48 AM