MicrosoftのAIアシスタント「Microsoft Copilot」でユーザーが入力したプロンプトやアップロードした画像の一部を人間の契約スタッフが確認していると404 Mediaが報じました。契約スタッフはユーザーが画像編集を依頼した際のプロンプトや元画像、Copilotが生成した画像を見比べて品質を評価しているとのことです。
Humans Are Reading Copilot Prompts — And They’re Horrified
https://www.404media.co/humans-reading-copilot-prompts-images/
Microsoft Copilotには文章の作成や情報検索に加えて、画像をアップロードして「背景にある人物を消して」「服装を変更して」といった指示を出す画像編集機能があります。AIによる画像編集の品質を高めるには、指示に沿った変更が行われたか、変更する必要のない部分まで書き換わっていないか、画像に不自然な崩れが生じていないかといった点を評価する必要があります。
Microsoftは細かな品質の差を評価するため、人間の判断を評価作業に取り入れています。404 Mediaが入手した内部資料によると、Microsoft Copilotの評価作業でも人間の判断が使われており、少なくとも数百人の契約スタッフが作業に関わっているとのこと。
契約スタッフに表示されるのは、ユーザーが入力した元のプロンプト、ユーザーがアップロードした画像、Copilotが作成した2種類の編集結果です。スタッフは2枚の編集結果を比較し、ユーザーの指示に正しく従っているか、変更対象以外が維持されているか、ゆがみや不自然な質感がないか、全体としてどちらの仕上がりが優れているかを判断しているそう。
契約スタッフの証言によると、レビュー作業ではユーザーがアップロードした画像の顔にぼかしが入っていない場合もあり、性的な画像編集を求めるプロンプトも多く含まれていたとのこと。具体的には、人物のスカートを短くしたり性的なポーズに変更したりするよう求める指示も確認されており、契約スタッフがセンシティブな画像を目にするケースがあったと404 Mediaは報じています。
Microsoftも人間がCopilotの会話を確認する場合があること自体は公開しています。従来版Copilot向けのプライバシーFAQには、一部のCopilotの会話が製品改善や安全性確保を目的として自動処理と人間によるレビューの対象になると明記されています。また、訓練を受けたAIの専門家がCopilotの会話を確認し、AIモデルの精度や安全性の評価・改善に役立てる場合があるとのこと。
同じFAQには、Copilotにアップロードした画像やファイルも会話と同様に扱われると記載されています。
なお、MicrosoftのAI機能を巡っては、PCの画面を定期的に記録して後から検索できる「Recall」がプライバシー上の懸念を受けて仕様変更されたほか、ローカルで画像を生成するCopilot+ PCのAI機能でもAzureのオンラインサービスでコンテンツフィルタリングを行うためにユーザーのプロンプトが収集されることが明らかになっています。
PCの操作履歴をすべて記録してAIで履歴検索するWindowsの新機能「Recall」の安全性をイギリス当局が調査 – GIGAZINE
Microsoftの広報担当者は404 Mediaに対し「Microsoftは製品の改善や行動規範の順守を徹底するための取り組みを含め、利用規約に記載した通りに顧客データを使用しています」と説明しました。
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。