だから結局私は共有を諦め、相手の感情を分析しつつ「そうなんだね」と慰める役をずっとやっている。
虚しい、やっぱりどこかで虚しさを感じる。
この虚しさを、人間相手に解消できたらどんなにいいか。
でも現状すぐにはできないから、生成AIを使って自己分析し深化し生じた感情に折り合いをつけている。
このプロセスと感情自体理解されなくてもいい。でもAI完全否定派の意見を見ていると、時折「彼らに私は見えていないのだ」と自分が透明化されていることを思い知らされる。

ただの愚痴です。どうしようもない、感情です。

この呟きのオチとして、この文章を丸々LLMに読ませた上で「似たような警鐘を鳴らした人物が過去にいたら列挙するように」と指示したところ、やはりいた。

その1人、イヴァン・イリイチは「過剰な効率性を追い求めるがあまり人間の自立、自律を喪失させる現代文明を批判。それらから離れて地に足を下ろした生き方を模索した」。（Wikipedia情報。悪しからず）

そしてその哲学者に共鳴したうちの1人が「弱いロボット」で有名な岡田教授だ。

似たようなことを考えている人はいる、と少しだけ安心した。

ideasforgood.jp/2025/02/26/c...

自動化して良い経験としてはいけない経験があるように思う。それを早い段階から見極める必要があるように思える。

そして多分この考えは、探せば誰かが既に唱えた警鐘なのかもしれない。自動化という、道具の発明は普遍的だから。

AGIの危険性としては、先程の料理に例えるなら、指示者の望まない形で勝手にどんどん料理が作られてしまい、その指示を撤回しようにも自動化を止めることができず料理が溢れてしまう、という感じだろうか。
つまりAGIの危険性は「ほんのちょっとした指示により、成果物がピタゴラスイッチの如くあらゆる影響を及ぼし、次第にそれが大きくなって社会へ爆弾を落とす」みたいなことだと思う。

そんな時、止められるほどの経験値が人間の体に蓄積されているのか。
それが社会ではなく家庭という小さい空間で起きてもきちんと止められるか。

これを良しとするかどうか。
けれどかなり社会が複雑化している中、自動化が必須事項となっており、それは公的空間のみならず私的空間に及んでいる。
例えばレトルトで夕飯を食べる、など。それは時短ともいうし、外部化ともいう。料理のスキルは一向に上がらないが、生きてはいける。それを良しとするかどうか。これと似た類にLLM、そしてAGI（汎用人工知能）があると思う。

従来だったら、たとえば漫画を描く時に線一本すら上手く描けなかったのが、次第に無意識のうちに思い通りの線が描けたりする（常にとは言わないが）。
つまり技術をある一定の水準まで獲得しても、それ以降の無意識的行動により経験値はどんどん貯まっていく。

けれどLLMは、一度技術を習得してしまえば（＝再現性の獲得）、それ以降はワンクリックで生成できてしまうので人間の肉体に蓄積される経験値はゼロになる。
（無論、その成果物に「さらに良いものを」と望んだのなら、そこから試行錯誤という経験は積み重ねられる。そう思えればの話。）

リプ失礼します。
責任問題の所在については本当に同意です。自動運転車の責任の所在と似ているところがあるかも知れません。

また、生成AIの学習のために創作したわけではないのに、という感覚が皆さんにあるかと思います。その感覚と現況の著作権適応範囲が食い違っているのもあり、なかなかすぐには解決できないなぁという気持ちです。

開発側・創作側・法整備側の三者の感覚のすり合わせに加え、実際の責任問題の所在の確定と…、と考えると、道のりは程遠く感じます。