最近では、 アマゾンが立ち上げた 同社の AI チャットボット Amazon Q は、企業からの関心を集めていますが、深刻な精度とプライバシーの問題について従業員の間でも懸念を抱いています。 Q は「」を持っていたと報告されました。そうでない幻覚 poco アカウント」と機密データを公開し、企業情報の安全性が疑問視されている。 が明らかにした詳細はこちら プラット.
Amazon Q のセキュリティ警告: 機密データと誤った回答について
Amazon 彼は紹介しました Q と呼ばれる AI チャットボットを XNUMX 日前に導入しましたが、すべてが計画通りに進んでいるわけではないようです。 一部の従業員は精度とプライバシーの問題について警鐘を鳴らしている：Amazon Qは「幻覚」を発現させ、暴露した可能性がある 情報 機密、AWS データセンターの場所、社内割引プログラム、まだリリースされていない機能など。
この情報は、漏洩して入手した文書から明らかになりました。 プラットを強調表示します。 レベル2のセキュリティ問題、エンジニアによる緊急の介入が必要な深刻な状況です。
それにもかかわらず、アマゾンはこうした内部議論の重要性を軽視してきた。 広報担当者は、 内部チャネルを通じたフィードバック これは Amazon の標準的な慣行であり、このフィードバックの結果としてセキュリティ上の問題は確認されていません。 同社は、受け取ったフィードバックの重要性と継続的な要望を強調しました。 プレビューから一般提供に移行する際に Amazon Q を改良する.
現在無料プレビューで利用できる Amazon Q は、 エンタープライズ ソフトウェア バージョン チャットボットの初期機能は、AWS に関する開発者の質問に答え、ソースコードを変更し、出典を引用することを目的としています。 AmazonはQのセキュリティとプライバシーを強調し、ChatGPTのような消費者向けツールと対比させてきた。
しかし、内部文書により、Q が「幻覚」を起こし、次のような有害または不適切な応答を行う可能性があることが明らかになりました。 古いセキュリティ情報 これにより、顧客のアカウントが危険にさらされる可能性があります。 これらのリスクは大規模な言語モデルに典型的なものであり、そのすべてが少なくとも場合によっては不正確または不適切な応答を返す傾向があります。
|経由 スラッシュドット
