Katsuo in the sky
katsuointhesky.bsky.social
Katsuo in the sky
@katsuointhesky.bsky.social
自分は組織の中では比較的、技術の新陳代謝を促進する方だとは思います。
しかし、生成AIには規制が必要だと考えるに至りました。
生成AI問題が解決するまでの情報収集用です。

今後、考えはnoteの方でまとめていこうと思います。
http://note.com/katsuo_inthesky

ついった
https://twitter.com/KasuointheSky
Pinned
ブルースカイにも、固定用。
自分にとっての、生成AI問題マインドマップ。
(問題点を網羅する目的の図ではなく、自分が争点として現状どこに重きを置いているかの図です)
あけましておめでとうございます。
今年もよろしくお願いします。

今年は去年より忙しくなることが分かっていますので、SNSでの発信率は落ちる可能性が高いと思いますが、SNSに現れなくてもパブコメなどはしっかり対応していくつもりでいます。
January 1, 2025 at 7:41 AM
大空スバルさんのDetroitBecomeHuman配信、ありそうなテック側の言い訳にキレキレのツッコミ入れてて面白い…!
January 1, 2025 at 5:30 AM
Reposted by Katsuo in the sky
AIに関する内閣府の新たなパブコメ募集が開始されました。提出期限は2025/1/23(木) 23:59です。
添付画像は「中間とりまとめ(案)」より。

AI戦略会議・AI制度研究会中間とりまとめ(案)に関する御意見の募集について
public-comment.e-gov.go.jp/servlet/Publ...
December 27, 2024 at 11:25 AM
Reposted by Katsuo in the sky
『プライバシーは侵害され、個人の可能性は偏ったアルゴリズムに左右され、最も弱い立場にある人たちの安全が脅かされます。何も知らないうちに、です。
これを私は「目に見えない累積的な弊害」と呼んでいます。バックグラウンドで運用されているAIの影響は、その姿を見せずに壊滅的な結果をもたらす可能性があります。』

AIの脅威ってどんなもの? 専門家が考える悪影響とその対策
www.gizmodo.jp/2024/12/how-...
AIの脅威ってどんなもの? 専門家が考える悪影響とその対策
ソーシャルメディア(SNS)のタイムラインを眺めていると、お気に入りの音楽アプリがプレイリストを提案してくれたりします。これだけみると、人工知能(AI)が好みを学んで必要なものを提供してくれて、私たちの生活を向上させてくれる存在のように感じるかもしれません。しかし、その便利さの裏には「アルゴリズムによる弊害」という深刻な問題が潜んでいます。その弊害は、目に見えるものでも、すぐに影響が表れるもので
www.gizmodo.jp
December 27, 2024 at 12:32 PM
Reposted by Katsuo in the sky
『韓国や米国ではディープフェイクを直接規制する法律の整備が進むが、日本では明確に規制する法律はないのが現状だ。』

広がるAI使った性的偽画像被害、狙われる卒アルの個人写真 載せない学校増える可能性も
www.sankei.com/article/2024...
広がるAI使った性的偽画像被害、狙われる卒アルの個人写真 載せない学校増える可能性も
卒業アルバム(卒アル)の写真などを生成人工知能(AI)で性的な画像や動画に加工する「ディープフェイクポルノ」の被害が国内外で広がっている。特に卒アルに掲載され…
www.sankei.com
December 27, 2024 at 11:53 AM
ただのアルゴリズムでもAI(人工知能)と呼ぶようになってしまったから本来のAIをAGIと呼ぶことになっていたのに、
自分達が達成の印象(インパクト)欲しさに、都合よくゴールをズラしていくテック…
(今後、本来の人工知能は何と呼べば良いのか…)
December 29, 2024 at 3:50 AM
Reposted by Katsuo in the sky
文科省 法制度に関するワーキングチーム(第2回)
参考資料2 「文化芸術活動に関する法律相談窓口」に寄せられた御相談
www.bunka.go.jp/seisaku/bunk...
イラストレーターからの相談事例が複数紹介されています。
法制度に関するワーキングチーム(第2回) | 文化庁
法制度に関するワーキングチーム(第2回)の議事次第・配布資料等を掲載しています。
www.bunka.go.jp
December 25, 2024 at 2:52 PM
Reposted by Katsuo in the sky
学習されないための対策を追加しましたが、クリエイターではなく、消費者を対象にしているので、クリスタノイズなどは書いていません。
【2024/12/25追記】生成AIのディープフェイク、ポルノ被害に関心がある方のための情報ガイド

#NOMORE無断生成AI #ディープフェイク
xfolio.jp/portfolio/se...
December 25, 2024 at 10:23 AM
Reposted by Katsuo in the sky
本日(12/20)期限のパブコメ・意見案を公開しました。
docs.google.com/document/d/1...

Xの方に、参考資料をぶら下げました。
x.com/info_kvaluat...
x.com
x.com
December 19, 2024 at 4:37 PM
Reposted by Katsuo in the sky
#NOMORE無断生成AI
本日締め切りです
今回の件は該当項目を選択して
それにあわせた意見を提出するやり方です(自分は4通(4分野)になりました)
生成AI関連のどれか一項目だけでもいいので
一筆よろしくおねがいします
public-comment.e-gov.go.jp/pcm/detail?C...
「知的財産推進計画2025」の策定に向けた意見募集|e-Govパブリック・コメント
パブリックコメントの「「知的財産推進計画2025」の策定に向けた意見募集」に関する意見募集の実施についての詳細です。
public-comment.e-gov.go.jp
December 20, 2024 at 12:09 AM
本日のクローズアップ現代、「被害者の生まれる技術であることを放置してこのまま未来に進んで良いのか?」と問う姿勢の、良い内容でしたね。

見れなかった方は、内容の一部が以下に掲載されています。
www3.nhk.or.jp/news/html/20...
卒業アルバムの同級生を裸に 子どもも加害者?画像加工の実態 | NHK | WEB特集
【NHK】「何これっ。気持ち悪い。軽いパニックみたいな」15歳の少女のもとに送りつけられてきたのは、自分が裸になった画像。SNSに…
www3.nhk.or.jp
December 18, 2024 at 1:07 PM
Reposted by Katsuo in the sky
クロ現 、日本も韓国と同じような状況だな…

【時視各角】韓国の10代に広がるディープフェイク性犯罪
japanese.joins.com/JArticle/322...

なお、番組でも伝えている通り、韓国は関連法案が可決されている。

韓国「ディープフェイク」問題 さらなる対策強化の法案を可決
www3.nhk.or.jp/news/html/20...
December 18, 2024 at 11:00 AM
Reposted by Katsuo in the sky
《リッチな絵柄に便乗しその付加価値を享受することが目的であること。》

ここ、僕もぼんやり考えてました。
「画像が欲しい」のではなく、「売れたり欲求を満たしたりできる完成品が欲しい(世の中で完成品として出回っているものと同等・同価値のものを享受したい)」というフリーライド欲求が可視化された気がします。

何かしら「欲しい絵」があって、そのために『特定の完成品』を学習させているというか。

その欲求自体は否定しませんが、だったら制限規定から外れると考えて、許諾(場合によっては対価も)が必要だろう、と思います。
ミツアの認知が広がると、
1・他の画像生成AIが「無許可で集めないと出来ない」と言っていることはテックの怠惰に過ぎなかったこと。
2・ミツア以外の利用を選ぶということは、いらすとや利用の理由の「絵は描けないけど、絵の力で伝わりやすくしたい」ではなく、リッチな絵柄に便乗しその付加価値を享受することが目的であること。

この2つの証明になることが大きいですね。

個人的にはまず「画像を使わない技術」のものが画像識別AIとして台頭して欲しかったですが…
(その理由はスレッドにでも書いておきます。)
『発表されたMitsua Likesの最大の特徴は、学習データの透明性とデータの権利への配慮がある。開発にあたり既存の基盤モデルを一切使用しないことで、クリーンなオリジナルのモデルを開発。学習データは、明示的な許諾を得たデータ、パブリックドメインやオープンライセンスのデータのみを使用しているという。』

「日本初」団体認定の“無許可で学習しない”画像生成AIで登場 学習元データはすべて「明示的な許諾済み」
0115765.com/archives/104...
December 18, 2024 at 7:34 AM
ミツアの認知が広がると、
1・他の画像生成AIが「無許可で集めないと出来ない」と言っていることはテックの怠惰に過ぎなかったこと。
2・ミツア以外の利用を選ぶということは、いらすとや利用の理由の「絵は描けないけど、絵の力で伝わりやすくしたい」ではなく、リッチな絵柄に便乗しその付加価値を享受することが目的であること。

この2つの証明になることが大きいですね。

個人的にはまず「画像を使わない技術」のものが画像識別AIとして台頭して欲しかったですが…
(その理由はスレッドにでも書いておきます。)
『発表されたMitsua Likesの最大の特徴は、学習データの透明性とデータの権利への配慮がある。開発にあたり既存の基盤モデルを一切使用しないことで、クリーンなオリジナルのモデルを開発。学習データは、明示的な許諾を得たデータ、パブリックドメインやオープンライセンスのデータのみを使用しているという。』

「日本初」団体認定の“無許可で学習しない”画像生成AIで登場 学習元データはすべて「明示的な許諾済み」
0115765.com/archives/104...
「日本初」団体認定の“無許可で学習しない”画像生成AIで登場 学習元データはすべて「明示的な許諾済み」 | オタク総研
基盤モデルを使用せず、権利的に問題のないデータのみを学習した画像生成AIモデル「Mitsua Likes」を株式会社アブストラクトエンジンが公開した。同社のAI VTuber「絵藍ミツア」プロジェクト...
0115765.com
December 18, 2024 at 6:47 AM
Reposted by Katsuo in the sky
シンプルにこれで良いのよ。著作権者の拒否する権利、そして、それが使用されていないかを明示する義務!
ブラジル上院でAI法案が承認(下院はこれから)とのこと。
・AI開発者は、トレーニングするに著作権保護された素材を公開する義務
・クリエイターは、自らの作品をAIトレーニングに使用することを禁止する権利を持つことが可能
などの内容が盛り込まれている。
www.cisac.org/Newsroom/soc...
Creators Celebrate Brazil's Senate Approval of AI Bill but Prepare for Tougher Battle in the Lower House
www.cisac.org
December 13, 2024 at 3:14 AM
Reposted by Katsuo in the sky
『テイルズ オブ』シリーズや『ブレンパワード』などの作品で知られるいのまたむつみ氏のミニ展示会「少女とネコ展」が2025年1月10日から開催決定。大の猫好きであったいのまた氏による生前の“ネコ愛”イラスト原画を展示
https://news.denfaminicogamer.jp/news/2412122n
December 12, 2024 at 2:59 PM
これは酷い…
複数のキャラクター制御ができる漫画生成AIとのこと。
jianzongwu.github.io/projects/dif...

このタスク用のデータセット「MangaZero」も公開されており、43,264ページの漫画が含まれている…😨
huggingface.co/datasets/jia...
DiffSensei: Bridging Multi-Modal LLMs and Diffusion Models for Customized Manga Generation
DiffSensei: Bridging Multi-Modal LLMs and Diffusion Models for Customized Manga Generation
jianzongwu.github.io
December 12, 2024 at 1:22 PM
洋介犬さん、凄い…!
少し前に自分もこのテーマの表現にチャレンジしたけれど、ずっと端的で分かりやすいです。
さすがですね…!
December 12, 2024 at 1:04 PM
Reposted by Katsuo in the sky
そして、あなたも被害者候補の時代へ
December 12, 2024 at 10:13 AM
Xで新しい生成画像の悪用手段が登場している…

自分の言う通りにならないライバーに対し、
ファンアートタグで生成画像を連投し氾濫させることで、Xのアルゴリズムの何かでそのタグの付いたファンアートが検索しても表示されなくなっている様子…
December 12, 2024 at 4:49 AM
Reposted by Katsuo in the sky
いつの間にかProcreate公式アカウントが来ていたみたい
Hello, Bluesky 🦋
We've started a custom feed to bring our Procreate artist community together! Share your human made artworks by tagging #ProcreateArtist to join ✨

bsky.app/profile/did:...
December 12, 2024 at 4:25 AM