自分も全く同じ考えです
主にイラスト界隈での出来事を見てきたので、そちらを主軸に話すと「手描きとAIの区別がつかない」は危険信号です

非実在性によって規制を逃れられてたのに、児童ポルノを食ってる生成AIを使用してばら撒いたら、中身はヤバい代物なのに見分け付きませんから
特に前から表現規制したい層にとっては、そこを突いてまとめて規制する口実になりかねません

実際にAIフェイクポルノがばら撒かれたことによって、本物の違法ポルノが見つけづらくなったという話も去年に出てます
www.yomiuri.co.jp/national/202...

Bluesky のユーザー数は現在 1,000 万人を超えており、私は #1,397,258 番目でした。