服部励起
@srvhat09.bsky.social
個人事業主：主にAI系研究開発
旧）株式会社情報スペース 代表取締役
JSバックアップシリーズ等 設計＆開発＆運用＆保守等
特許２件権利化済
松尾研LLMコミュニティメンバー
https://twitter.com/srvhat09
旧）株式会社情報スペース 代表取締役
JSバックアップシリーズ等 設計＆開発＆運用＆保守等
特許２件権利化済
松尾研LLMコミュニティメンバー
https://twitter.com/srvhat09
Xがタヒんでいる。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
May 24, 2025 at 12:51 PM
Xがタヒんでいる。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
機動戦士 Gundam GQuuuuuuX -Beginning-
今晩見るようにイオンシネマ予約してみた。
行こうとは思っていたが、ネットで煽るし・・ｗ
今晩見るようにイオンシネマ予約してみた。
行こうとは思っていたが、ネットで煽るし・・ｗ
January 19, 2025 at 7:23 AM
機動戦士 Gundam GQuuuuuuX -Beginning-
今晩見るようにイオンシネマ予約してみた。
行こうとは思っていたが、ネットで煽るし・・ｗ
今晩見るようにイオンシネマ予約してみた。
行こうとは思っていたが、ネットで煽るし・・ｗ
gigazine.net/news/2025010...
価格:3000ドル(約47万円)
ARM CPUコア数は20個、128GBのDDR5Xメモリ、4TBのSSD
最大でパラメーター数200B LLM実行可能。
これならDeepseek V3は動きそう。
処理能力はFP4で1PFLOPSって書いてあるぐらいなので、200Bが動くのがFP4かもしれない。
5090の比較でやっていたみたいなだし。
LLM開発じゃないなら、Project DIGITSは有り。
開発ならFP16として50Bが実行出来そうなので、それも有りだろう。
これで実験しつつ、本格的に学習時にはクラウドって手がある。
価格:3000ドル(約47万円)
ARM CPUコア数は20個、128GBのDDR5Xメモリ、4TBのSSD
最大でパラメーター数200B LLM実行可能。
これならDeepseek V3は動きそう。
処理能力はFP4で1PFLOPSって書いてあるぐらいなので、200Bが動くのがFP4かもしれない。
5090の比較でやっていたみたいなだし。
LLM開発じゃないなら、Project DIGITSは有り。
開発ならFP16として50Bが実行出来そうなので、それも有りだろう。
これで実験しつつ、本格的に学習時にはクラウドって手がある。
NVIDIAが小型AIスパコン「Project DIGITS」を発表、1台当たり3000ドルで2台組み合わせて4050億パラメーターのAIモデルを実行可能
NVIDIAが小型のAIスーパーコンピューター「GB10」を発表しました。GB10ではLinuxベースの「NVIDIA DGX OS」が動作し、2台のGB10を組み合わせることでパラメーター数4050億のAIモデルをローカルで動作させられます。また、NVIDIAの自動運転エコシステムにトヨタが加わることやAIロボットの仮想テスト環境「Mega」の提供開始なども発表されています。
gigazine.net
January 7, 2025 at 7:03 AM
gigazine.net/news/2025010...
価格:3000ドル(約47万円)
ARM CPUコア数は20個、128GBのDDR5Xメモリ、4TBのSSD
最大でパラメーター数200B LLM実行可能。
これならDeepseek V3は動きそう。
処理能力はFP4で1PFLOPSって書いてあるぐらいなので、200Bが動くのがFP4かもしれない。
5090の比較でやっていたみたいなだし。
LLM開発じゃないなら、Project DIGITSは有り。
開発ならFP16として50Bが実行出来そうなので、それも有りだろう。
これで実験しつつ、本格的に学習時にはクラウドって手がある。
価格:3000ドル(約47万円)
ARM CPUコア数は20個、128GBのDDR5Xメモリ、4TBのSSD
最大でパラメーター数200B LLM実行可能。
これならDeepseek V3は動きそう。
処理能力はFP4で1PFLOPSって書いてあるぐらいなので、200Bが動くのがFP4かもしれない。
5090の比較でやっていたみたいなだし。
LLM開発じゃないなら、Project DIGITSは有り。
開発ならFP16として50Bが実行出来そうなので、それも有りだろう。
これで実験しつつ、本格的に学習時にはクラウドって手がある。
年賀状デザインのダウンロードを考えていたが、Stable Diffusion 3.5で作成してみた。
水彩画風をリクエストしてもやや濃い感じしかできない点がやや残念。プロンプトでできるのか？
作った中でまぁまぁ人に見せれそうなのをアップしてみる。ｗ
水彩画風をリクエストしてもやや濃い感じしかできない点がやや残念。プロンプトでできるのか？
作った中でまぁまぁ人に見せれそうなのをアップしてみる。ｗ
December 30, 2024 at 2:31 AM
年賀状デザインのダウンロードを考えていたが、Stable Diffusion 3.5で作成してみた。
水彩画風をリクエストしてもやや濃い感じしかできない点がやや残念。プロンプトでできるのか？
作った中でまぁまぁ人に見せれそうなのをアップしてみる。ｗ
水彩画風をリクエストしてもやや濃い感じしかできない点がやや残念。プロンプトでできるのか？
作った中でまぁまぁ人に見せれそうなのをアップしてみる。ｗ
youtu.be/n3S8eVHkzvY?...
PIVOTの安野さんと今井さんの対談を見ました。
SNSが選挙の操作ができるみたいな話は、考えされました。
AIの国産化もそうだけど、SNSの国産化も必要なのかもとか考えさせられる。
System1の方が多くなっているのもねぇ・・・
PIVOTの安野さんと今井さんの対談を見ました。
SNSが選挙の操作ができるみたいな話は、考えされました。
AIの国産化もそうだけど、SNSの国産化も必要なのかもとか考えさせられる。
System1の方が多くなっているのもねぇ・・・
【2025年超予測：生成AI】松尾研OBたち／AIエージェント元年／自分専用AIが広がる/学ぶデータの限界／イーロン・マスクの策略／正義のAI vs 悪のAI／AIが人間を洗脳【安野貴博×今井翔太】
YouTube video by PIVOT 公式チャンネル
youtu.be
December 27, 2024 at 2:03 AM
youtu.be/n3S8eVHkzvY?...
PIVOTの安野さんと今井さんの対談を見ました。
SNSが選挙の操作ができるみたいな話は、考えされました。
AIの国産化もそうだけど、SNSの国産化も必要なのかもとか考えさせられる。
System1の方が多くなっているのもねぇ・・・
PIVOTの安野さんと今井さんの対談を見ました。
SNSが選挙の操作ができるみたいな話は、考えされました。
AIの国産化もそうだけど、SNSの国産化も必要なのかもとか考えさせられる。
System1の方が多くなっているのもねぇ・・・
開発用途専用のFacebookアカウントを作りたくて、新規作成しビジネスアカウントを作成するためにページ作成を実行した。
結果、ページ作成は許されず、アカウントが虚偽と思われているのかと思い、プロフィール画像のイラストをstability diffusion3.5でイラストを作成し登録。
この直後から、本人じゃ無いから駄目っていう警告から開始され、結局アカウント凍結された。
調査目的でFacebookとInstagramのGraph APIを色々やりたかったのだけれど、本アカウントでやりたくない（調査依頼元に本アカウントを公開したくない）ので作った理由なのだが。
結果、ページ作成は許されず、アカウントが虚偽と思われているのかと思い、プロフィール画像のイラストをstability diffusion3.5でイラストを作成し登録。
この直後から、本人じゃ無いから駄目っていう警告から開始され、結局アカウント凍結された。
調査目的でFacebookとInstagramのGraph APIを色々やりたかったのだけれど、本アカウントでやりたくない（調査依頼元に本アカウントを公開したくない）ので作った理由なのだが。
December 6, 2024 at 6:20 AM
開発用途専用のFacebookアカウントを作りたくて、新規作成しビジネスアカウントを作成するためにページ作成を実行した。
結果、ページ作成は許されず、アカウントが虚偽と思われているのかと思い、プロフィール画像のイラストをstability diffusion3.5でイラストを作成し登録。
この直後から、本人じゃ無いから駄目っていう警告から開始され、結局アカウント凍結された。
調査目的でFacebookとInstagramのGraph APIを色々やりたかったのだけれど、本アカウントでやりたくない（調査依頼元に本アカウントを公開したくない）ので作った理由なのだが。
結果、ページ作成は許されず、アカウントが虚偽と思われているのかと思い、プロフィール画像のイラストをstability diffusion3.5でイラストを作成し登録。
この直後から、本人じゃ無いから駄目っていう警告から開始され、結局アカウント凍結された。
調査目的でFacebookとInstagramのGraph APIを色々やりたかったのだけれど、本アカウントでやりたくない（調査依頼元に本アカウントを公開したくない）ので作った理由なのだが。
youtu.be/syB9PjUr0WE?...
登大遊氏は流石に面白い。
世界超大手のクラウドプラットフォーマーに依存した状態では問題があると指摘。
どこのクラウドプラットフォーマーに、何時でも入れ替え可能な状態にしなければ、勝手に不利な契約にされる危険性があると説く。
まぁ当然なことを言っているのだが、例えが面白い。
いつもの「けしからん」が無かったのが残念。
登大遊氏は流石に面白い。
世界超大手のクラウドプラットフォーマーに依存した状態では問題があると指摘。
どこのクラウドプラットフォーマーに、何時でも入れ替え可能な状態にしなければ、勝手に不利な契約にされる危険性があると説く。
まぁ当然なことを言っているのだが、例えが面白い。
いつもの「けしからん」が無かったのが残念。
登大遊氏と語る「クラウド時代の落とし穴！ なぜ日本のIT人材は育たないのか」
YouTube video by ネクストモード株式会社
youtu.be
December 1, 2024 at 12:05 AM
youtu.be/syB9PjUr0WE?...
登大遊氏は流石に面白い。
世界超大手のクラウドプラットフォーマーに依存した状態では問題があると指摘。
どこのクラウドプラットフォーマーに、何時でも入れ替え可能な状態にしなければ、勝手に不利な契約にされる危険性があると説く。
まぁ当然なことを言っているのだが、例えが面白い。
いつもの「けしからん」が無かったのが残念。
登大遊氏は流石に面白い。
世界超大手のクラウドプラットフォーマーに依存した状態では問題があると指摘。
どこのクラウドプラットフォーマーに、何時でも入れ替え可能な状態にしなければ、勝手に不利な契約にされる危険性があると説く。
まぁ当然なことを言っているのだが、例えが面白い。
いつもの「けしからん」が無かったのが残念。
賃貸部屋のエアコンが故障。
室内機のファン又はファンモータの故障とセルフチェックで分かった。
大家にはメールで伝えたけど、寒いなぁ。リモートワークで部屋が寒いと仕事にならない。
グスン
室内機のファン又はファンモータの故障とセルフチェックで分かった。
大家にはメールで伝えたけど、寒いなぁ。リモートワークで部屋が寒いと仕事にならない。
グスン
November 20, 2024 at 12:08 PM
賃貸部屋のエアコンが故障。
室内機のファン又はファンモータの故障とセルフチェックで分かった。
大家にはメールで伝えたけど、寒いなぁ。リモートワークで部屋が寒いと仕事にならない。
グスン
室内機のファン又はファンモータの故障とセルフチェックで分かった。
大家にはメールで伝えたけど、寒いなぁ。リモートワークで部屋が寒いと仕事にならない。
グスン
qwen2.5 coderがリリースされたとollamaのDiscord通知があったので、WSL2 Docker版ollamaに入れて実験。
とりあえず試験的に日本語で質問しながら実装サンプルを見ている。
coderはコードしか出来ないのかと思ったがちゃんと会話してくれる。
ラップトップでは2.52tok/s程度
サーバPC側に運用方向としてラップトップq4_kmをq8_0でダウンロード中。
同じリクエストでClaude 3.5 sonnetと比較したいが、流石にsonnetの方良いと勝手に思っている。
機密系を処理するなら、ローカルで動くqwen2.5は意味がある。
とりあえず試験的に日本語で質問しながら実装サンプルを見ている。
coderはコードしか出来ないのかと思ったがちゃんと会話してくれる。
ラップトップでは2.52tok/s程度
サーバPC側に運用方向としてラップトップq4_kmをq8_0でダウンロード中。
同じリクエストでClaude 3.5 sonnetと比較したいが、流石にsonnetの方良いと勝手に思っている。
機密系を処理するなら、ローカルで動くqwen2.5は意味がある。
November 12, 2024 at 2:36 AM
qwen2.5 coderがリリースされたとollamaのDiscord通知があったので、WSL2 Docker版ollamaに入れて実験。
とりあえず試験的に日本語で質問しながら実装サンプルを見ている。
coderはコードしか出来ないのかと思ったがちゃんと会話してくれる。
ラップトップでは2.52tok/s程度
サーバPC側に運用方向としてラップトップq4_kmをq8_0でダウンロード中。
同じリクエストでClaude 3.5 sonnetと比較したいが、流石にsonnetの方良いと勝手に思っている。
機密系を処理するなら、ローカルで動くqwen2.5は意味がある。
とりあえず試験的に日本語で質問しながら実装サンプルを見ている。
coderはコードしか出来ないのかと思ったがちゃんと会話してくれる。
ラップトップでは2.52tok/s程度
サーバPC側に運用方向としてラップトップq4_kmをq8_0でダウンロード中。
同じリクエストでClaude 3.5 sonnetと比較したいが、流石にsonnetの方良いと勝手に思っている。
機密系を処理するなら、ローカルで動くqwen2.5は意味がある。
youtu.be/TtFm9n3NVzE?...
Mac mini。
一番低価格モデルは10万円未満だが、16GBメモリに256GB SSDでは私の最低限スペックに遠く及ばない。
メモリが据え置きなら128GBは欲しいしSSDは最低が2TB欲しい。
M4 Proでないとね。メモリが64GBまでしかないが、これでも50万弱に。この価格はちょっと無い。
100万出したらM2Ultra Mac Studioの128GBモデルが買える。M4 ProがいくらなんでもM2 Ultraを超えることは無いと思うので。
まぁ、LLM推論しか使わないならMac Studio一択なんだけどねぇ。
Mac mini。
一番低価格モデルは10万円未満だが、16GBメモリに256GB SSDでは私の最低限スペックに遠く及ばない。
メモリが据え置きなら128GBは欲しいしSSDは最低が2TB欲しい。
M4 Proでないとね。メモリが64GBまでしかないが、これでも50万弱に。この価格はちょっと無い。
100万出したらM2Ultra Mac Studioの128GBモデルが買える。M4 ProがいくらなんでもM2 Ultraを超えることは無いと思うので。
まぁ、LLM推論しか使わないならMac Studio一択なんだけどねぇ。
Mac mini Announcement - October 29
YouTube video by Apple
youtu.be
October 30, 2024 at 7:15 AM
youtu.be/TtFm9n3NVzE?...
Mac mini。
一番低価格モデルは10万円未満だが、16GBメモリに256GB SSDでは私の最低限スペックに遠く及ばない。
メモリが据え置きなら128GBは欲しいしSSDは最低が2TB欲しい。
M4 Proでないとね。メモリが64GBまでしかないが、これでも50万弱に。この価格はちょっと無い。
100万出したらM2Ultra Mac Studioの128GBモデルが買える。M4 ProがいくらなんでもM2 Ultraを超えることは無いと思うので。
まぁ、LLM推論しか使わないならMac Studio一択なんだけどねぇ。
Mac mini。
一番低価格モデルは10万円未満だが、16GBメモリに256GB SSDでは私の最低限スペックに遠く及ばない。
メモリが据え置きなら128GBは欲しいしSSDは最低が2TB欲しい。
M4 Proでないとね。メモリが64GBまでしかないが、これでも50万弱に。この価格はちょっと無い。
100万出したらM2Ultra Mac Studioの128GBモデルが買える。M4 ProがいくらなんでもM2 Ultraを超えることは無いと思うので。
まぁ、LLM推論しか使わないならMac Studio一択なんだけどねぇ。
ネイティブUbuntu、Windows WSL2にollamaを導入しローカルLLMを構築する最新版。
今年7月前後にNVIDIA Container Toolkit周りに変更になっているため。
note.com/srvhat09/n/n...
今年7月前後にNVIDIA Container Toolkit周りに変更になっているため。
note.com/srvhat09/n/n...
Road to ollama.cpp for Ubuntu: 2024｜Reiki Hattori＠ワクチン接種四回済
ローカルLLMへの誘惑 ローカルPCにLLMがインストールできると、いろいろ楽しいと思いませんか？ なぜChatGPT-4o、Claude 3.5 sonnet、Gemini 1.5 Proなどのクラウドサービスがあるにも関わらずローカルPCに・・・って方もいるかもですね。 （そんな方は見ていないかも・・・） ローカルLLMの魅力 ローカルLLM（今ではローカルPCで動かすのでSLM[Sm...
note.com
October 29, 2024 at 2:12 PM
ネイティブUbuntu、Windows WSL2にollamaを導入しローカルLLMを構築する最新版。
今年7月前後にNVIDIA Container Toolkit周りに変更になっているため。
note.com/srvhat09/n/n...
今年7月前後にNVIDIA Container Toolkit周りに変更になっているため。
note.com/srvhat09/n/n...
とある機会があり、Windows11上のWSL(Ubuntu 24.04.1 LTS)にDocker版ollamaをインストール。
nvidiaドライバは不要とnvidiaサイトにあったので無視して、dockerとcuda、コンテナツールキットを入れたら動いた。
記事はnoteに記載予定で途中まで記載済。
ネイティブUbuntu OS版も含め記載中
nvidiaドライバは不要とnvidiaサイトにあったので無視して、dockerとcuda、コンテナツールキットを入れたら動いた。
記事はnoteに記載予定で途中まで記載済。
ネイティブUbuntu OS版も含め記載中
October 25, 2024 at 12:32 PM
とある機会があり、Windows11上のWSL(Ubuntu 24.04.1 LTS)にDocker版ollamaをインストール。
nvidiaドライバは不要とnvidiaサイトにあったので無視して、dockerとcuda、コンテナツールキットを入れたら動いた。
記事はnoteに記載予定で途中まで記載済。
ネイティブUbuntu OS版も含め記載中
nvidiaドライバは不要とnvidiaサイトにあったので無視して、dockerとcuda、コンテナツールキットを入れたら動いた。
記事はnoteに記載予定で途中まで記載済。
ネイティブUbuntu OS版も含め記載中
夜の9時過ぎに、Amazon埼玉川島FCと表示された電話が掛かって来て、日本語自動音声で何らや商品が届いて云々と。
(docomoによると仙台からの電話らしく)
まぁ切った訳だが、Amazon商品は予定は数日先と先日到着したばかり。
そもそも地区名も異なるし・・・
不審な電話が掛かるので注意！！
(docomoによると仙台からの電話らしく)
まぁ切った訳だが、Amazon商品は予定は数日先と先日到着したばかり。
そもそも地区名も異なるし・・・
不審な電話が掛かるので注意！！
October 19, 2024 at 12:20 PM
夜の9時過ぎに、Amazon埼玉川島FCと表示された電話が掛かって来て、日本語自動音声で何らや商品が届いて云々と。
(docomoによると仙台からの電話らしく)
まぁ切った訳だが、Amazon商品は予定は数日先と先日到着したばかり。
そもそも地区名も異なるし・・・
不審な電話が掛かるので注意！！
(docomoによると仙台からの電話らしく)
まぁ切った訳だが、Amazon商品は予定は数日先と先日到着したばかり。
そもそも地区名も異なるし・・・
不審な電話が掛かるので注意！！
pc.watch.impress.co.jp/docs/news/16...
これ、ディスプレイは眼鏡って方にピッタリかも知れない。
XREAR Airが眠っているので、気になる。OSがネイティブUbuntuが動いてBruetooth接続でNebulaが動くきならって思うけど、Ubuntu版のNebula無い。
BT接続はUbuntuの鬼門なので、カニチップしかサポートされず、しかもマウスぐらいしか。
この辺りが解決しないと。残念。
これ、ディスプレイは眼鏡って方にピッタリかも知れない。
XREAR Airが眠っているので、気になる。OSがネイティブUbuntuが動いてBruetooth接続でNebulaが動くきならって思うけど、Ubuntu版のNebula無い。
BT接続はUbuntuの鬼門なので、カニチップしかサポートされず、しかもマウスぐらいしか。
この辺りが解決しないと。残念。
折りたたみ式キーボード型のミニPCが登場。Ryzen 7 8840U搭載
クラウドファンディングサイトのKickstarterにて、Ryzen 7 8840Uを搭載した折りたたみ式キーボード型ミニPC「Lunar」の出資を募っている。製品入手に必要な出資額は4,499香港ドル(日本店で約8万5,847円)から。
pc.watch.impress.co.jp
October 16, 2024 at 2:49 AM
pc.watch.impress.co.jp/docs/news/16...
これ、ディスプレイは眼鏡って方にピッタリかも知れない。
XREAR Airが眠っているので、気になる。OSがネイティブUbuntuが動いてBruetooth接続でNebulaが動くきならって思うけど、Ubuntu版のNebula無い。
BT接続はUbuntuの鬼門なので、カニチップしかサポートされず、しかもマウスぐらいしか。
この辺りが解決しないと。残念。
これ、ディスプレイは眼鏡って方にピッタリかも知れない。
XREAR Airが眠っているので、気になる。OSがネイティブUbuntuが動いてBruetooth接続でNebulaが動くきならって思うけど、Ubuntu版のNebula無い。
BT接続はUbuntuの鬼門なので、カニチップしかサポートされず、しかもマウスぐらいしか。
この辺りが解決しないと。残念。
私の実家は電波の受信状況があまり良くない。
しかし、Pixel 8 Pro（Pixel 6も同じ）とXperia 1 IIとでは受信電波強度が異なる。
左（Pixel 8 Pro）は4本中2本。6.9Mbps
右（Xperi 1 II）は4本中3本。8.0Mbps
テザリングしても速度が異なっているのでアンテナ数は正しい感じがする。
要は、Xoeriaのアンテナかモデルの性能が高いってだけの話。
まぁ受信強度が高い地域はあまり関係ないんだけど、過疎地だと差が出る。
因みに同じキャリアでIIJmioで同一。
しかし、Pixel 8 Pro（Pixel 6も同じ）とXperia 1 IIとでは受信電波強度が異なる。
左（Pixel 8 Pro）は4本中2本。6.9Mbps
右（Xperi 1 II）は4本中3本。8.0Mbps
テザリングしても速度が異なっているのでアンテナ数は正しい感じがする。
要は、Xoeriaのアンテナかモデルの性能が高いってだけの話。
まぁ受信強度が高い地域はあまり関係ないんだけど、過疎地だと差が出る。
因みに同じキャリアでIIJmioで同一。
October 12, 2024 at 7:56 AM
私の実家は電波の受信状況があまり良くない。
しかし、Pixel 8 Pro（Pixel 6も同じ）とXperia 1 IIとでは受信電波強度が異なる。
左（Pixel 8 Pro）は4本中2本。6.9Mbps
右（Xperi 1 II）は4本中3本。8.0Mbps
テザリングしても速度が異なっているのでアンテナ数は正しい感じがする。
要は、Xoeriaのアンテナかモデルの性能が高いってだけの話。
まぁ受信強度が高い地域はあまり関係ないんだけど、過疎地だと差が出る。
因みに同じキャリアでIIJmioで同一。
しかし、Pixel 8 Pro（Pixel 6も同じ）とXperia 1 IIとでは受信電波強度が異なる。
左（Pixel 8 Pro）は4本中2本。6.9Mbps
右（Xperi 1 II）は4本中3本。8.0Mbps
テザリングしても速度が異なっているのでアンテナ数は正しい感じがする。
要は、Xoeriaのアンテナかモデルの性能が高いってだけの話。
まぁ受信強度が高い地域はあまり関係ないんだけど、過疎地だと差が出る。
因みに同じキャリアでIIJmioで同一。
政治とかの話を人としたくないので、ollama上のgemma 2 27B Q4とやってみた。
なかなか素晴らしい回答ですね。
やはりローカルPCで動くSLMはいいものですね。
非常に勉強になる。
なかなか素晴らしい回答ですね。
やはりローカルPCで動くSLMはいいものですね。
非常に勉強になる。
October 8, 2024 at 8:05 AM
政治とかの話を人としたくないので、ollama上のgemma 2 27B Q4とやってみた。
なかなか素晴らしい回答ですね。
やはりローカルPCで動くSLMはいいものですね。
非常に勉強になる。
なかなか素晴らしい回答ですね。
やはりローカルPCで動くSLMはいいものですね。
非常に勉強になる。
Gemma 2 2Bの日本語ファインチューニング版。
標準でも普通に日本語で会話できるのですが、どのように進化しているのか気になる。
ローカルSLM系ではGemma 2 2B Q8と 27B Q4を主に使っている。
2Bもそこそこコードを吐くが27Bがお気に入り。結構賢いのとノートPCでも1.6 tok/s程度出る。（ASUS Zephyrus G16 2021版でメモリを40GBにアップグレード済でUbuntu 22.04LTS）
実家で父の介護兼仕事をしている環境では、テザリング環境しか無いためダウンロードが非常に遅い。
blog.google/intl/ja-jp/c...
標準でも普通に日本語で会話できるのですが、どのように進化しているのか気になる。
ローカルSLM系ではGemma 2 2B Q8と 27B Q4を主に使っている。
2Bもそこそこコードを吐くが27Bがお気に入り。結構賢いのとノートPCでも1.6 tok/s程度出る。（ASUS Zephyrus G16 2021版でメモリを40GBにアップグレード済でUbuntu 22.04LTS）
実家で父の介護兼仕事をしている環境では、テザリング環境しか無いためダウンロードが非常に遅い。
blog.google/intl/ja-jp/c...
日本語版 Gemma 2 2B を公開
Google は、AI をあらゆる人にとって役立つものにすることを目指し、開発者コミュニティが独自の言語や文化に合わせて AI を活用し実装できることを目指しています。その一環として、今年の I/O では、インドの開発者が Gemma をファイン チューニングして、12 のインド言語でテキストを理解し生成することに成功した Navara…
blog.google
October 3, 2024 at 12:32 PM
Gemma 2 2Bの日本語ファインチューニング版。
標準でも普通に日本語で会話できるのですが、どのように進化しているのか気になる。
ローカルSLM系ではGemma 2 2B Q8と 27B Q4を主に使っている。
2Bもそこそこコードを吐くが27Bがお気に入り。結構賢いのとノートPCでも1.6 tok/s程度出る。（ASUS Zephyrus G16 2021版でメモリを40GBにアップグレード済でUbuntu 22.04LTS）
実家で父の介護兼仕事をしている環境では、テザリング環境しか無いためダウンロードが非常に遅い。
blog.google/intl/ja-jp/c...
標準でも普通に日本語で会話できるのですが、どのように進化しているのか気になる。
ローカルSLM系ではGemma 2 2B Q8と 27B Q4を主に使っている。
2Bもそこそこコードを吐くが27Bがお気に入り。結構賢いのとノートPCでも1.6 tok/s程度出る。（ASUS Zephyrus G16 2021版でメモリを40GBにアップグレード済でUbuntu 22.04LTS）
実家で父の介護兼仕事をしている環境では、テザリング環境しか無いためダウンロードが非常に遅い。
blog.google/intl/ja-jp/c...
