> 超知能にたいしては新たなアライメント技術(=AIシステムを制御、誘導、信頼できるようにする方法)が必要。
> これまでのアライメント技術(例:RLHF)は人間より劣る知能に対する技術。人間がAIのアウトプットに対して賞罰を与えるが、AIのアウトプットが高度になればなるほど人間で評価できなくなる。
> 実際に、今のOpenAIのラベラーの時間当たりの報酬は、数年前の数ドルから現在100ドル程度まで上がってる。
> 超知能にたいしては新たなアライメント技術(=AIシステムを制御、誘導、信頼できるようにする方法)が必要。
> これまでのアライメント技術(例:RLHF)は人間より劣る知能に対する技術。人間がAIのアウトプットに対して賞罰を与えるが、AIのアウトプットが高度になればなるほど人間で評価できなくなる。
> 実際に、今のOpenAIのラベラーの時間当たりの報酬は、数年前の数ドルから現在100ドル程度まで上がってる。
> これまでの進化のスピードが続くとすれば、現在の高校生・大学生レベルの応答性能が、27年には研究者レベルになるだろう。研究者レベルまで進化すれば、AI研究が自動化される。それによりさらに進化の速度が速まる。結果、人間の能力を超える知能(超知能)が実現するだろう。
> AI研究の自動化により進歩したAI技術は、物理的な実態を持つ分野(ロボット、産業、軍事)の研究開発の自動化へと波及。さらにその結果、進化の連鎖反応(個々のAIが影響し合ってより急速に進化ということ?)が起きる。
> これまでの進化のスピードが続くとすれば、現在の高校生・大学生レベルの応答性能が、27年には研究者レベルになるだろう。研究者レベルまで進化すれば、AI研究が自動化される。それによりさらに進化の速度が速まる。結果、人間の能力を超える知能(超知能)が実現するだろう。
> AI研究の自動化により進歩したAI技術は、物理的な実態を持つ分野(ロボット、産業、軍事)の研究開発の自動化へと波及。さらにその結果、進化の連鎖反応(個々のAIが影響し合ってより急速に進化ということ?)が起きる。
昨日僕も買ったので思わずコメントしました😁
昨日僕も買ったので思わずコメントしました😁