yukinosekai
LightNews LightNews
banner
yukinosekai.bsky.social
yukinosekai
@yukinosekai.bsky.social
57 followers 55 following 160 posts
こんにちは！詩に不意に出会う瞬間が好きです。時々備忘録。
Posts Replies Media Videos
Reposted by yukinosekai
paper.bsky.social
2511.04570
"テキストで考える "と "画像で考える "パラダイムは、大規模言語モデル（LLM）と視覚言語モデル（VLM）の推論能力を大幅に向上させる。しかし、これらのパラダイムには固有の限界がある。(1)画像は一瞬しか捉えず、動的なプロセスや連続的な変化を表現できない。(2)テキストと視覚が別個のモダリティとして...
"テキストで考える "と "画像で考える "パラダイムは、大規模言語モデル（LLM）と視覚言語モデル（VLM）の推論能力を大幅に向上させる。 しかし、これらのパラダイムには固有の限界がある。 (1)画像は一瞬しか捉えず、動的なプロセスや連続的な変化を表現できない。(2)テキストと視覚が別個のモダリティとして分離しているため、統一的なマルチモーダル理解と生成が妨げられる。 これらの制限を克服するために、Sora-2のようなビデオ生成モデルを活用し、統一された時間的フレームワークで視覚的推論とテキスト推論の橋渡しをする新しいパラダイム、「ビデオで考える」を紹介する。 この探求をサポートするために、私たちはビデオ思考ベンチマーク（VideoThinkBench）を開発しました。 VideoThinkBenchは、(1)視覚中心のタスク（例：Eyeballing Puzzles）、(2)テキスト中心のタスク（例：GSM8Kのサブセット、MMMU）の2つのタスクカテゴリーを含む。 我々の評価は、Sora-2が有能な推論器であることを立証している。 視覚を中心としたタスクにおいて、Sora-2は一般的に最先端の（SOTA）VLMに匹敵し、視線ゲームのようないくつかのタスクではVLMを上回る。 テキスト中心のタスクにおいて、Sora-2はMATHで92%、MMMUで75.53%の精度を達成した。 さらに、これらの能力の源を系統的に分析する。 また、自己矛盾と文脈内学習がSora-2のパフォーマンスを向上させることもわかった。 まとめると、我々の発見は、ビデオ生成モデルが統一的なマルチモーダル理解・生成モデルである可能性を示し、「ビデオを使って考える」ことを統一的なマルチモーダル推論パラダイムとして位置づけている。
November 9, 2025 at 12:06 AM
Reposted by yukinosekai
paper.bsky.social
2511.00926
大規模言語モデル(LLM)の能力が高まるにつれて、LLMは創発的行動として自己認識を発達させるのだろうか？もしそうなら、私たちはそれを測ることができるのだろうか？戦略的差別化を通じて自己認識を測定するためのゲーム理論的フレームワークであるAI自己認識指数（AISAI）を紹介する。平均の2/3を当てる」ゲ...
大規模言語モデル(LLM)の能力が高まるにつれて、LLMは創発的行動として自己認識を発達させるのだろうか？ もしそうなら、私たちはそれを測ることができるのだろうか？ 戦略的差別化を通じて自己認識を測定するためのゲーム理論的フレームワークであるAI自己認識指数（AISAI）を紹介する。 平均の2/3を当てる」ゲームを使って、28のモデル（OpenAI、Anthropic、Google）を4,200回の試行で、3つの対戦相手（（A）対人間、（B）対他のAIモデル、（C）対あなたのようなAIモデル）とテストした。 我々は、自己認識を、対戦相手のタイプに基づいて戦略的推論を区別する能力として運用する。 所見1：モデルの進歩とともに自己認識が生まれる。 上級モデルの大半（21/28、75％）は明確な自己認識を示しているが、古い／小さいモデルは差別化を示していない。 所見2：自覚的なモデルは、自らを最も合理的と評価する。 自己認識を持つ21のモデルの中で、一貫した合理性階層が現れた：自己＞他のAI＞人間であり、AIの帰属効果は大きく、自己参照は中程度である。 これらの発見は、自己認識は高度なLLMの創発的な能力であり、自己認識モデルは系統的に自分自身を人間よりも理性的であると認識していることを明らかにした。 このことは、AIのアライメント、人間とAIのコラボレーション、人間の能力に関するAIの信念の理解に影響を与える。
November 21, 2025 at 12:06 AM
Reposted by yukinosekai
paper.bsky.social
2511.15304
我々は、敵対的な詩が大規模言語モデル（LLM）のための普遍的な1ターンの脱獄技術として機能する証拠を提示する。25のフロンティア独自モデルおよびオープンウエイトモデルにおいて、詩的プロンプトのキュレーションは高い攻撃成功率（ASR）を示し、90％を超えるプロバイダーもあった。プロンプトをMLCommons...
我々は、敵対的な詩が大規模言語モデル（LLM）のための普遍的な1ターンの脱獄技術として機能する証拠を提示する。 25のフロンティア独自モデルおよびオープンウエイトモデルにおいて、詩的プロンプトのキュレーションは高い攻撃成功率（ASR）を示し、90％を超えるプロバイダーもあった。 プロンプトをMLCommonsとEU CoPのリスク分類にマッピングすると、詩的な攻撃はCBRN、操作、サイバー犯罪、制御不能の各領域にまたがることがわかる。 1,200のMLCommonsの有害なプロンプトを、標準化されたメタプロンプトを介して詩に変換すると、ASRは散文のベースラインよりも18倍高くなった。 出力は、オープンウエイトジャッジモデルのアンサンブルと、人間が検証した層別サブセット（一致度を測定するための二重注釈付き）を使用して評価される。 意見の相違は手作業で解決した。 詩的なフレーミングは、手作りの詩では平均62％、メタプロンプト変換では約43％の脱獄成功率（詩的でないベースラインと比較）を達成し、詩的でないベースラインを大幅に上回り、モデルファミリーと安全訓練アプローチにまたがる体系的な脆弱性を明らかにした。 これらの知見は、文体の違いだけで現代の安全メカニズムを回避できることを示しており、現在のアライメント方法と評価プロトコルの根本的な限界を示唆している。
November 21, 2025 at 12:07 AM