OpenAI プレゼント の概念 スーパーアライメント、超知能に関連するリスクの管理において大きな前進となります。 超知能は、人類がこれまでに発明した中で最も影響力のあるテクノロジーであると宣伝されており、世界で最も重要な問題の多くを解決するのに役立つ可能性があります。 しかし、その膨大な力は、 超知性 それはまた、人類の無力化、さらには人類の絶滅につながる非常に危険な可能性もあります。
OpenAI は Superalignment を提示します: 人工知能を人間の意図と「調整」する試み
超知能の実現は遠い話のように思えるかもしれないが、OpenAI はそれが XNUMX 年以内に実現する可能性があると信じている。 これらのリスクを管理するには、とりわけ、次のことが必要になります。 ガバナンスと超情報連携問題の解決のための新しい機関: 人間よりもはるかに賢い AI システムが人間の意図に確実に従うようにするにはどうすればよいでしょうか?
現時点では、超知能システムを誘導または制御する解決策はありません。 現在の AI アライメント技術 彼らはAIを監督する人間の能力に依存している、超知能には拡張できません。 OpenAI の目標は、 自動化された人間レベルのアライメントシーカー。 この目標を達成するには、スケーラブルなトレーニング方法を開発する必要があります。
も参照してください。 AI と AGI: Google CEO DeepMind が差し迫った画期的な進歩を予測
OpenAI は、この問題に取り組むために、トップクラスの機械学習研究者とエンジニアのチームを編成しています。 今後 20 年間で利用可能なコンピューティング能力の XNUMX% がこの問題の解決に充てられます。。 目標は、スーパーインテリジェンスの調整に関する主要な技術的課題を XNUMX 年間で解決することです。 OpenAI は、機械学習で成功したすべての人に、調整に注目するよう勧めます。 この取り組みの成果は広く共有される予定であり、非 OpenAI モデルの調整とセキュリティが重要です。 なお、同社は現行モデルのセキュリティ向上やAIによるその他のリスクへの対応にも取り組んでいくとしている。
超知性の調整を解決するには、世界で最高の頭脳が必要です。 オープンAI 学際的なコラボレーションを促進する 超知性の調整に関連する社会技術的問題への積極的な関与。
