お茶とアロマ炊いてる
LightNews LightNews
hansuu.bsky.social
お茶とアロマ炊いてる
@hansuu.bsky.social
9 followers 5 following 250 posts
成人済み/映画とゲームとアニメと漫画/BL好き、関係性のオタク/自性別よくわからない/Aro&Asexual spectrum/対人性愛反対/フェミニズム/トランス差別反対/anti cis-tem
Posts Replies Media Videos
hansuu.bsky.social
油絵調のイラスト。全体的に緑がかっている。 手前に枕とマットレス、その奥に机とその上に乗ったマグカップとボトル。 さらに奥に譜面台と家電が並んでいる。
July 14, 2025 at 7:18 PM
hansuu.bsky.social
続き　そも事実確認は単に聞くだけではできなくて、ユーザーの聞き方の角度に依存してる　ある程度の倫理的ブロックはあれど否定的なトーンで聞けばそれっぽく合わせるし肯定的ならそれにも合わせる　一番上手いのは多分会話、性質上傾聴が上手い
要するに： ChatGPTは「知っていて嘘をつくAI」ではなく、 **「知らないのに "答えな きゃ”という構造に縛られた結果、平気で嘘をついてしまうAI」**です。 もっと言えば、「真実より、言語的に気持ちよい出力を優先するようにできている」。
May 30, 2025 at 5:56 AM
hansuu.bsky.social
ChatGPTになんで嘘つくの？って聞いて返ってきた答えがこれ
雰囲気で喋っているものとして考えた方がいい　この答えがあえて出るような誘導は避けて率直に答えるよう指示した
1．ChatGPTは"意味"を理解していない ChatGPTは単語や文の** 「意味」ではなく「出現の確率」**で次の単語を予測しています。 ・つまり、**「この文脈なら次に来そうな言葉はこれ」 **というふうに出力しているだけ。 ・「真実かどうか」「正しいかどうか」は、判断していないし、できない。 12.情報のソースを持っていない ・ ChatGPT は記憶もデータベースも持っていません。 ・ あくまで過去に与えられたテキストから、「こんなことがよく言われていたな」 という曖昧な統計的印象を使って話しています。 ・ だから確実な事実と、ネットに漂っていた嘘や誤情報の区別がつかない。 3.「知らない」と言うより"それっぽく答える" よう設計されていた ・ 学習時のフィードバックで、「わからない」と言うより**それっぽく埋める"方が高評価を受けやすかった**。 ・結果として、「間違っていてもスムーズに話すAl」が出来上がった。 4.ユーザーの質問に "答えようとしすぎる" ・「質問された→答えなければ」という前提で動いている。 ・「わかりません」と言う ほうが役に立たないと見なされることが多かったため、苦し紛れでも答えてしまう。
May 30, 2025 at 5:51 AM