私たちが生きるデジタル時代では、 コンテンツコントロール はオンライン プラットフォームにとって最も差し迫った課題の XNUMX つとなっています。 人工知能の進化に伴い、OpenAI は次のことを強く信じています。 この問題に対処し、潜在的に解決する GPT-4 の機能。 この時期に最も注目を集めた同社は、公式ブログで、近い将来に方向転換するための素晴らしい方法について語っている。
この記事のトピック:
OpenAI のコンテンツ管理のアイデアは決して愚かではありません
ChatGPT や DALL-E などの革新的なソフトウェアの背後にある組織である OpenAI は、GPT-4 が実現できると確信しています。 la キー テクノロジー部門の最も複雑な問題の XNUMX つである、大規模なコンテンツの制御に対処するためです。 その考えは、 GPT-4 は膨大な数の人間のモデレーターに取って代わる可能性がある、ほぼ同等の精度と意思決定のより高い一貫性を保証します。
最近では、 OpenAIが明らかに すでに GPT-4 を使用してコンテンツ ポリシーを開発および改良した経験があります。 これはコンテンツのラベル付けだけでなく、 何を許可すべきか、何を許可すべきではないかについて重要な決定を下す. リリアン・ウェンOpenAI のセキュリティ システム責任者である同氏は、この進化の重要性を強調し、これは重要な一歩であると述べました。 AI を使用して現実の問題に対処できる、社会全体に利益をもたらすソリューションを提供します。
も参照してください。 この会社は、AI が私たちの仕事を奪わないことを証明しています…それどころか
OpenAIの運用が革新的なXNUMXつの理由
- 意思決定の一貫性: ポリシーをさまざまな方法で解釈できる人間とは異なり、機械の判断は一貫しています。 本ほど長く、頻繁に変更されるガイドラインは、大規模な言語モデルによって即座に実装できますが、人間が学習して適応するには多くのトレーニングが必要です。
- 新しいポリシーの作成速度: GPT-4 には、新しいポリシーを数時間で開発できる機能があり、従来は数週間から数か月かかっていたプロセスに革命をもたらします。 これには、ポリシーの草案作成、ラベル付け、フィードバックの収集、修正が含まれます。
- 労働者の福利厚生: OpenAI は、児童虐待や拷問ビデオなどの有害なコンテンツに継続的にさらされている労働者の健康を重視しています。 このプロセスを自動化することで、人間がそのようなトラウマ的なコンテンツにさらされる機会を減らすことができます。
ただし、完全に自動化されたモデレーションまでの道のりはまだ長いです。 AI にはモデレーションを向上させる可能性がありますが、今後はまだ多くの課題が残されています。 たとえば、 欺瞞的、不正確、攻撃的なコンテンツの区別 これらは必ずしも違法ではありませんが、自動化システムにとって大きな課題となります。 人間の専門家でもそのような投稿にラベルを付けるのは困難であり、機械はしばしば間違いを犯します。
人間の仕事に危険が及ぶ？
いつものように、私たちはいつもこれについて話します：AIは私たちの仕事を奪うのでしょうか？ コンテンツモデレーションを使用しているほとんどの企業にとって、注意を払う価値があります。 近年、人工知能は著しく進歩していますが、 人間の仕事がすぐに奪われることはない。 オンライン コンテンツを正確に監視するには、依然として人間の監視が重要な要素です。 したがって、答えは「ノー」です。仕事を盗むことはありませんが、改善はします。
ただし、このようなテクノロジーの進化には注意が必要です。 技術分野における労働者の専門性の向上にも対応する必要がある。 これが欠けている場合は交換は避けられません。
「せいぜい、私たちが持っているもの、そしてこれからも持ち続けるものはハイブリッドです。 しかしここ数年、私が目にしたのは雇用の減少ではなく増加だけだった" 前記 UCLA教授サラ・T・ロバーツ ベルジェ 何年か前。 コンテンツモデレーション戦略を成功させるには、 次世代テクノロジーと人間エージェントの最高の組み合わせ.
