人工知能研究のスタートアップである OpenAI は火曜日、テキストが人間によって書かれたものかコンピューターによって書かれたものかを判断するツールを発表した。
ChatGPT の作成者である OpenAI は、AI によって生成されたテキストを検出するツールを起動します
人間のようなテキストを生成できるチャットボットである ChatGPT の背後にある企業である OpenAI は、XNUMX か月前にリリースされてから急速に広まりました。 Microsoft は先週、OpenAI への数十億ドルの投資を発表し、スタートアップの AI モデルを消費者向けおよびビジネス向け製品に組み込むと述べた。
ChatGPT が XNUMX 月に登場して以来、ニューヨーク市を含む米国最大の学区のいくつかは、生徒がテキスト ジェネレーターを使用してカンニングや盗作を行うことを恐れて、AI チャットボットを禁止しました。
OpenAI の CEO である Sam Altman 氏は、電卓やその他の技術の出現により、教育は過去に変化したと述べましたが、同社には、教師が AI から書かれたテキストを発見するのを支援する方法があるかもしれないとも示唆しています。
OpenAI の新しいツールは完璧ではなく、同社によると、これはまだ開発中の作業であり、使用中にエラーが発生する可能性があります。 「私たちの英語テキストの「チャレンジ セット」の評価では、分類器は AI によって書かれたテキスト (真陽性) の 26% を「おそらく AI によって書かれた」と正しく識別しましたが、人間が書いたテキストの 9% はテキストは AI によって書かれたものとして誤ってラベル付けされていました (誤検知)」と OpenAI の従業員は書いています。
この新しいツールは、1000 文字未満の記事の解析では信頼性が低く、OpenAI は英語以外の言語での使用を推奨していません。 また、AIテキストは、分類器が人間の仕事ではないと正しく判断できないほどわずかに更新される場合があります。
OpenAI は、ChatGPT の機能と制限について話し合うために教育者に連絡を取り、AI によって生成されたテキストの検出に引き続き取り組むと述べています。
