ペンギン
LightNews LightNews
banner
penpenguin2023.bsky.social
ペンギン
@penpenguin2023.bsky.social
1.8K followers 18 following 3K posts
主に生成AIのリスクや規制について情報収集と発信。最近は欧米の規制に関する記事（英語含む）もチェック中。
人の手で描かれた絵が好きな元美術部員。
リプは返したり、返さなかったり。議論はしません。

各リンク→https://lit.link/penpenguin2023
Posts Replies Media Videos
penpenguin2023.bsky.social
『米Xの日本法人であるX Corp. Japanは1月6日、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。』

X日本法人、“性的加工”で波紋のAI「Grok」巡り警告　違法者はアカウント凍結＆法的措置も
www.itmedia.co.jp/aiplus/artic...
X日本法人、“性的加工”で波紋のAI「Grok」巡り警告　違法者はアカウント凍結＆法的措置も
米Xの日本法人であるX Corp. Japanは、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。
www.itmedia.co.jp
January 6, 2026 at 9:48 AM
penpenguin2023.bsky.social
『欧州連合（ＥＵ）の欧州委員会は５日、交流サイト（ＳＮＳ）のＸに搭載される生成ＡＩ（人工知能）Ｇｒｏｋ（グロック）で加工できる女性や子どもの性的な画像は違法だとの見解を示した。』

Ｘの性的画像加工ツールは「違法」、欧州委が非難　英も説明要請
jp.reuters.com/world/us/XO4...
Ｘの性的画像加工ツールは「違法」、欧州委が非難　英も説明要請
欧州連合（ＥＵ）の欧州委員会は５日、交流サイト（ＳＮＳ）のＸに搭載される生成ＡＩ（人工知能）Ｇｒｏｋ（グロック）で加工できる女性や子どもの性的な画像は違法だとの見解を示した。
jp.reuters.com
January 6, 2026 at 9:46 AM
penpenguin2023.bsky.social
『今年は、米国の著作権法がどのように生成ＡＩに適用されるかを明確に定める可能性のある判決が相次いで下されることは間違いなさそうだ。』

ＡＩによる著作権侵害巡る法廷闘争、今年は重大な局面へ
jp.reuters.com/markets/glob...
ＡＩによる著作権侵害巡る法廷闘争、今年は重大な局面へ
テクノロジー企業が自社の人工知能（ＡＩ）システムを訓練するため著作権のあるコンテンツを無断で利用している問題を巡る法廷闘争が増えているが、こうした法廷闘争は今年、重大な局面を迎える可能性がある。
jp.reuters.com
January 6, 2026 at 9:35 AM
penpenguin2023.bsky.social
『こうした著作物が「適正な対価」なしに利用される慣行に対し、EUが競争法（独占禁止法）の観点から「待った」をかけた。』

EU、Googleの「AI学習データ」利用にメス　対米摩擦の懸念よそに強権発動
jbpress.ismedia.jp/articles/-/9...
EU、Googleの「AI学習データ」利用にメス　対米摩擦の懸念よそに強権発動 競争法調査で「ただ乗り」阻止へ、トランプ政権との緊張は新局面へ | JBpress (ジェイビープレス)
欧州連合（EU）の執行機関である欧州委員会が2025年12月上旬、米グーグルに対し、AIモデルの学習におけるオンラインコンテンツの利用を巡る正式な調査を開始した。　生成AIの開発競(1/3)
jbpress.ismedia.jp
January 6, 2026 at 9:34 AM
penpenguin2023.bsky.social
『生成AIなどを悪用して、実在する人物の偽の性的な画像をつくる「性的ディープフェイク」の対策を巡り、木原官房長官は被害実態などを整理し、「適切に対応する」と強調しました。』

性的ディープフェイクめぐり政府　「適切に対応」
news.tv-asahi.co.jp/news_politic...
性的ディープフェイクめぐり政府　「適切に対応」
生成AIなどを悪用して実在する人物の偽の性的な画像を作る「性的ディープフェイク」の対策を巡り、木原官房長官は被害実態などを整理し、「適切に対応する」と強調しました。 木原官房長官 「（「性的ディープフェイク」の）被害実態やサービス実態、対策技術動向、国際動向等について実態把握の方法も含め整理をし、関係省庁が連携しながら適切に対応する必要がある」 　政府は「Google　LLC」や「LINEヤフ...
news.tv-asahi.co.jp
January 6, 2026 at 9:33 AM
penpenguin2023.bsky.social
『調査で見つかったAIスロップ系チャンネルについて「278チャンネルだけで630億回以上再生され、登録者数は2億2100万人に達する」』

「AI生成の雑な動画のみで630億回再生」「2億2100万人以上の登録者数」などYouTubeが低品質なAI生成動画に浸食されつつあるという調査結果
gigazine.net/news/2026010...
「AI生成の雑な動画のみで630億回再生」「2億2100万人以上の登録者数」などYouTubeが低品質なAI生成動画に浸食されつつあるという調査結果
YouTubeには日々膨大な数の動画が投稿されますが、生成AIで作った低品質な動画を大量に投下して視聴回数や登録者数を稼ぐコンテンツも目立ち始めています。動画編集サービスを提供するKapwingはYouTube上で拡大する低品質AI生成動画の状況を調べたレポートを2025年11月28日に公開しました。
gigazine.net
January 6, 2026 at 9:32 AM
penpenguin2023.bsky.social
『韓国政府が生成ＡＩ（人工知能）で作成されたわいせつ画像「性的ディープフェイク」を摘発し、接続遮断措置を求めたサイトのうち、８５％以上が依然として閲覧可能な状態にあることが明らかになった。』

性的ディープフェイクの８５％、接続遮断されず
www.donga.com/jp/article/a...
性的ディープフェイクの８５％、接続遮断されず
韓国政府が生成ＡＩ（人工知能）で作成されたわいせつ画像「性的ディープフェイク」を摘発し、接続遮断措置を求めたサイトのうち、８５％以上が依然として閲覧可能な状態にあることが明らかになった。５日に監査院…
www.donga.com
January 6, 2026 at 9:30 AM
penpenguin2023.bsky.social
『STU48の公式サイトは5日、所属メンバーの肖像権及びパブリシティ権の侵害について、法的措置を示唆した。』

STU48、所属メンバーの無許可写真や悪質なAI生成コンテンツに法的措置を示唆「速やかに削除を」
www.sanspo.com/article/2026...
STU48、所属メンバーの無許可写真や悪質なAI生成コンテンツに法的措置を示唆「速やかに削除を」
STU48の公式サイトは5日、所属メンバーの肖像権及びパブリシティ権の侵害について、法的措置を示唆した。 同グループを巡っては、SNS上で一部メンバーの写真を…
www.sanspo.com
January 6, 2026 at 9:29 AM
penpenguin2023.bsky.social
『事態を受けて該当のポストは削除され、最終的に今回の謝罪と取引停止の報告に至っている。』

生成AI「Grok」の性的画像出力問題、STU48運営が声明　メンバーに苦言呈された漫画家は謝罪
kai-you.net/article/94296
生成AI「Grok」の性的画像出力問題、STU48運営が声明　メンバーに苦言呈された漫画家は謝罪へ
漫画家の田辺洋一郎さんが1月6日（火）、自身の公式Xで生成AIの利用に関する謝罪文を掲載した。田辺洋一郎さんは、STU48メンバーの工藤理子さんがXに投稿した写真を生成AI「Grok」を用いて無断で性的に加工。これについて、工藤理子さん本人が苦言を呈し、生成AIの利用...
kai-you.net
January 6, 2026 at 9:28 AM
penpenguin2023.bsky.social
『Xは、NHKの取材に対し、「Grokを使用したものを含め、違法コンテンツが含まれる投稿に対しては、削除やアカウントの永久凍結のほか、行政や法執行機関と協力するなどの措置をとります」などとコメントしています。』

X投稿画像 生成AI「Grok」で性的画像に勝手に加工し投稿相次ぐ
news.web.nhk/newsweb/na/n...
X投稿画像 生成AI「Grok」で性的画像に勝手に加工し投稿相次ぐ | NHKニュース
【NHK】SNSの「X」で提供されている生成AI「Grok」を使って、投稿されている人物の画像を、水着姿などの性的な画像に勝手に加工するケースが相次いでいることが分かりました。未成年とみられる画像もあり、専門家
news.web.nhk
January 6, 2026 at 9:25 AM
penpenguin2023.bsky.social
『自身の画像を使用して生成AIで加工する行為などを注意喚起したところ、一部のユーザーから「逆ギレ」される行為などを受けていると明かした。』

人気グラドル、生成AI加工に注意喚起→「逆ギレ」被害　「利用者層の特徴が現れている」
www.j-cast.com/2026/01/0651...
人気グラドル、生成AI加工に注意喚起→「逆ギレ」被害　「利用者層の特徴が現れている」
グラビアアイドル・要あいさんが2026年1月5日にXで、自身の画像を使用して生成AIで加工する行為などを注意喚起したところ、一部のユーザーから「逆ギレ」される行為などを受けていると明かした。無断使用を確認した場合、法的措置を含む対応を行うともXでは、同サービスに搭載されている「Grok」を使用してSNS上の写真を性的に加工するケースが相次いでいる。たとえばアイドルグループ「STU48」の運営会社は
www.j-cast.com
January 6, 2026 at 9:24 AM
penpenguin2023.bsky.social
『アメリカのトランプ政権によるベネズエラでの軍事作戦に関して、生成AIで作られたとみられる拘束されたマドゥーロ大統領や現地の様子だとする偽の画像や動画がSNSで拡散しています。』

ベネズエラ関連の偽画像などSNS投稿相次ぐ “拡散せず注意を”
news.web.nhk/newsweb/na/n...
ベネズエラ関連の偽画像などSNS投稿相次ぐ “拡散せず注意を” | NHKニュース
【NHK】アメリカのトランプ政権によるベネズエラでの軍事作戦に関して、生成AIで作られたとみられる拘束されたマドゥーロ大統領や現地の様子だとする偽の画像や動画がSNSで拡散しています。世界的に注目を集める出来事
news.web.nhk
January 6, 2026 at 9:22 AM
penpenguin2023.bsky.social
『X（旧ツイッター）上でユーザーの指示に応じて未成年者を含む性的画像を生成したとして、マレーシアやインド、フランスなど各国政府から批判を浴びている。』

マスク氏のAI「Grok」、性的画像生成でマレーシアやインド政府が批判
www.bloomberg.com/jp/news/arti...
マスク氏のAI「Grok」、性的画像生成でマレーシアやインド政府が批判
イーロン・マスク氏が手掛ける人工知能（AI）チャットボット「Grok（グロック）」は、X（旧ツイッター）上でユーザーの指示に応じて未成年者を含む性的画像を生成したとして、マレーシアやインド、フランスなど各国政府から批判を浴びている。
www.bloomberg.com
January 6, 2026 at 9:21 AM
penpenguin2023.bsky.social
『また、名誉毀損罪に当たるような酷いものについては、刑事責任を問われる可能性がありますし、著作権侵害についても刑事責任を問われる可能性があります。』

着衣女性が水着姿に…、Xの「性的改変」新機能が物議　AI加工、投稿主の法的問題は？
www.bengo4.com/c_23/n_19844/
着衣女性が水着姿に…、Xの「性的改変」新機能が物議　AI加工、投稿主の法的問題は？ - 弁護士ドットコムニュース
X（エックス）が2025年12月から、投稿された画像についてAIで加工できる機能を追加し、物議を醸している。第三者が投稿した画像も対象だったことから、性的に改変される行為が相次ぐ事態となったからだ。服を着...
www.bengo4.com
January 6, 2026 at 9:20 AM
penpenguin2023.bsky.social
『Futurismの報道によると、Grokは「女性が暴行を受けているように見える画像」「女性の身体に屈辱的な言葉を書き込んだ画像」「近親相姦画像」なども生成していたそうです。』

Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始
gigazine.net/news/2026010...
Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始
生成AI「Grok」の画像編集機能が2025年12月からXでも簡単に使えるようになった結果、他人の画像を勝手に編集する事例が発生したほか、コスプレイヤーや子どもの写真を無断で性的に加工するという事例が世界的に広がっています。これを受け、フランスおよびマレーシアの規制当局がGrokの調査を開始したと報じられました。
gigazine.net
January 6, 2026 at 9:19 AM
penpenguin2023.bsky.social
『AKB48グループの海外姉妹グループ・JKT48（インドネシア・ジャカルタ）が日本時間5日、公式Xを更新。メンバーに対するAI（人工知能）の悪用に対して声明を発表した。』

JKT48、メンバーに対するAI悪用に声明「法的手段」辞さず　インドネシアのAKB姉妹グループ
www.sponichi.co.jp/entertainmen...
JKT48、メンバーに対するAI悪用に声明「法的手段」辞さず　インドネシアのAKB姉妹グループ - スポニチ Sponichi Annex 芸能
AKB48グループの海外姉妹グループ・JKT48（インドネシア・ジャカルタ）が日本時間5日、公式Xを更新。メンバーに対するAI（人工知能）の悪用に対して声明…
www.sponichi.co.jp
January 6, 2026 at 9:15 AM
penpenguin2023.bsky.social
🔒記事
『この法律は、AI技術が人間の制御を離れ、壊滅的な事態を招く恐れがあると専門家が警鐘を鳴らす中で、AI業界に一定の透明性と説明責任を課すことを目的としている。』

カリフォルニア州が独自の「AI規制」を施行--「壊滅的リスク」への説明責任を義務化
japan.zdnet.com/article/3524...
カリフォルニア州が独自の「AI規制」を施行--「壊滅的リスク」への説明責任を義務化
米カリフォルニア州で2026年1月、AIの壊滅的リスクへの対策を義務付ける新法が施行された。トランプ政権が規制緩和を進める中、州レベルで透明性と説明責任を課し、安全性の確保を目指す動きが本格化している。
japan.zdnet.com
January 6, 2026 at 9:14 AM
penpenguin2023.bsky.social
『新しくYouTubeを始めたユーザーがショート動画をスクロールしていくと、約3本に1本は視聴者の脳を「腐らせる」ように設計されたコンテンツに出会うことになる。また500本中104本（21%）が、AIによって生成されたコンテンツだった。』

YouTubeショートの3分の1が脳を腐らせるゴミ動画、AI生成の動画で億単位のカネが儲かる今の仕組みはおかしくない？
jbpress.ismedia.jp/articles/-/9...
YouTubeショートの3分の1が脳を腐らせるゴミ動画、AI生成の動画で億単位のカネが儲かる今の仕組みはおかしくない？ 【生成AI事件簿】YouTubeを席巻するAIスロップ・ビジネス、GoogleとYouTubeに求められる根本的な改革 | JBpress (ジェイビープレス)
そろそろ休もうと思ってベッドに入ったが、ふとスマホを開いてYouTubeのショート動画をスワイプし始める。その大半がくだらない内容なのに、気づけば30分、1時間が過ぎている。すぐ寝(1/4)
jbpress.ismedia.jp
January 6, 2026 at 9:12 AM
penpenguin2023.bsky.social
『この結果は、AIへの恐怖や懐疑心ではなく「AIへの熱狂的な支持」こそが、ソーシャルメディアの過剰な利用と密接に関係していることを示唆しています。』

「AIに肯定的な人」はソーシャルメディアに多くの時間を費やす傾向があるとの研究結果
gigazine.net/news/2026010...
「AIに肯定的な人」はソーシャルメディアに多くの時間を費やす傾向があるとの研究結果
ソーシャルメディアは便利で楽しいことも多い反面、依存性が強く中毒的な行動につながりやすいことが懸念されています。ソーシャルメディアの問題ある使用に陥りやすい要因としては、性格特性や感情制御の困難、過去の精神疾患といったものが知られていますが、新たな研究では「AIへの肯定的な態度」も要因のひとつである可能性が示されました。
gigazine.net
January 6, 2026 at 9:09 AM
penpenguin2023.bsky.social
『「YouTube」で、人工知能（AI）によって大量生成された低品質な「スロップ（Slop）」コンテンツが新規利用者に多く表示されていることが明らかになった。』

脳を腐らせる「AIスロップ」YouTubeを席巻…グーグルの収益制限では不十分か [韓国記者コラム]
www.afpbb.com/articles/biz...
脳を腐らせる「AIスロップ」YouTubeを席巻…グーグルの収益制限では不十分か [韓国記者コラム]
www.afpbb.com
January 6, 2026 at 9:08 AM
penpenguin2023.bsky.social
🔒記事
『その背景には、システムやクラウドごとに散在するデータ、コピーした時点で劣化する鮮度、そして爆発的に増え続ける容量といった“データ地獄”が横たわっている。』

どれだけAIを導入してもムダ……「使えない企業」に共通する“データ地獄”の闇
www.sbbit.jp/article/sp/1...
どれだけAIを導入してもムダ……「使えない企業」に共通する“データ地獄”の闇
生成AIの導入が進む一方で、「AIを活用できていない」と悩む企業が後を絶たない。その背景には、システムやクラウドごとに散在するデータ、コピーした時点で劣化する鮮度、そして爆発的に増え続ける容量といった“データ地獄”が横たわっている。さらに、ガバナンスやセキュリティ、海外規制といった課題も複雑に絡む。AI活用の真価を引き出すには、まず「データの整備」が不可欠だ。本稿では、“使えるデータ”をどう整える...
www.sbbit.jp
January 6, 2026 at 9:06 AM
penpenguin2023.bsky.social
『アルゴリズムやおすすめのポストがなくても、ボットたちは実際のSNSで見られるような有害なやり取りを行った。』

AIボットだけのSNSを作ってみたら…彼らはすぐに派閥を形成し、極端な意見を増幅させ、少数のエリート層が支配するようになった
www.businessinsider.jp/article/rese...
AIボットだけのSNSを作ってみたら…彼らはすぐに派閥を形成し、極端な意見を増幅させ、少数のエリート層が支配するようになった | Business Insider Japan
研究者たちは、二極化のループを打破するために6つの介入策も試してみたそうですが、いずれも問題を解決することはできませんでした。
www.businessinsider.jp
January 6, 2026 at 9:05 AM
penpenguin2023.bsky.social
『政府が推進してきたAIDT政策が突如として廃棄され、開発や運営に投じた莫大な費用が回収できなくなったためである。』（AIDTとは人工知能デジタル教科書）

「AI教科書」廃棄で8000億ウォン損失…韓国・教科書業界、政府を提訴へ
www.afpbb.com/articles/-/3...
「AI教科書」廃棄で8000億ウォン損失…韓国・教科書業界、政府を提訴へ
www.afpbb.com
January 6, 2026 at 9:03 AM
penpenguin2023.bsky.social
『AIは自分がAIであることを明確に示す必要があり、ユーザーは会話履歴を削除できなければなりません。さらに、ユーザーの同意なしにそのデータを学習に使うことも禁止されます。』

AIは名乗れ、履歴は消せ—中国｢ロボット三原則｣的AIルール案
www.gizmodo.jp/2026/01/ai-r...
AIは名乗れ、履歴は消せ—中国｢ロボット三原則｣的AIルール案
近い将来、中国では、人間の人格をまねて会話するAIに対して、新たなルールが設けられるかも。Bloombergによると、中国の中央サイバー空間管理委員会（CAC）が、擬人化AIを対象とした規制案をまとめた文書を公開したそうです。この案については、2026年1月25日まで一般から意見を募集するとのこと。文書には｢チャットボット｣という言葉こそ使われていないものの、テキスト、画像、音声、動画を通じて人
www.gizmodo.jp
January 6, 2026 at 9:01 AM
penpenguin2023.bsky.social
『Metaは「プレイブック（Playbook）」と呼ばれる内部マニュアルを策定し、規制当局の監視の目を欺くための特定の戦術をグローバルに展開していたという。』

Metaは“日本での成功体験”を元に詐欺広告を隠蔽し、本人確認義務化を回避するために「裏マニュアル」を構築していた
xenospectrum.com/meta-scam-ad...
Metaは“日本での成功体験”を元に詐欺広告を隠蔽し、本人確認義務化を回避するために「裏マニュアル」を構築していた | XenoSpectrum
ここ数ヶ月、FacebookやInstagramを運営するMeta社の、同社のプラットフォーム上で取り扱う詐欺広告に対する非倫理的な姿勢が明らかにされてきたが、Reutersによる最新の調査報道により、同社が組織的な詐欺広告の隠蔽工作を行っていた実態が暴かれた。
xenospectrum.com
January 5, 2026 at 9:46 AM