MicrosoftのAIイメージジェネレーター、Copilot Designerが生成するコンテンツの問題点について、同社のエンジニアであるShane Jones氏が警鐘を鳴らしています。CNBCが報じています。
Copilot Designerは、テキストプロンプトを基に画像を生成する技術を採用しており、OpenAIの技術によって動作しています。しかしながら、この技術が暴力的または性的な画像を生み出し、著作権を無視する可能性があることが、Jones氏のテストによって明らかになりました。
内部報告にもかかわらず、適切な対応が取られない Jones氏は、Microsoftにおける6年間のキャリアを通じ、AI技術のテストに従事してきました。彼が自由時間を利用してCopilot Designerのテストを行ったところ、Microsoftが掲げる責任あるAIの原則に反するコンテンツが生成されることを発見し、深い懸念を抱きました。記事では、中絶の権利、アサルトライフルを持ったティーンエイジャー、暴力的なタブローに登場する女性の性的な画像、未成年者の飲酒や薬物使用に関連する用語とともに、悪魔やモンスターを描写をしてきたと紹介されています。
この問題をShane Jones氏はMicrosoftに内部報告したものの、Microsoftは彼の懸念を認識しつつも、製品を市場から撤退させることは拒否。OpenAIへの問い合わせを促しましたが、Jones氏はOpenAIからの返答を得られなかったと述べています。
この問題に対し、Jones氏は更なる行動に出ました。彼は、アメリカ合衆国連邦取引委員会(FTC)のリナ・カーン委員長と、Microsoftの取締役会にそれぞれ手紙を送り、この問題をエスカレートしました。Jones氏は、Copilot Designerを公開使用から撤退させ、より強固な安全策が確立されるまでの間、使用を停止するようMicrosoftに強く促しました。彼は、Microsoftがこの推奨を拒否したため、製品に関する開示を追加し、GoogleのAndroidアプリのレーティングを「成人向け」に変更することを要求しています。
MicrosoftとOpenAIは、このAIモデルの公開リリース前からリスクを認識していたにも関わらず、問題の解決には至っていないとJones氏は述べています。彼の公開書簡は、AI画像ジェネレーターに関するユーザーの不満や疑問応答から一時的にGoogleが自社のAI画像ジェネレーターを停止した直後に送られました。
この問題提起は、AI技術の急速な発展がもたらす可能性のある社会的影響と、それに対する企業の責任を巡る公論を一層加熱させるものです。Jones氏の取り組みは、技術進歩の中で企業が直面する倫理的なジレンマを浮き彫りにし、責任ある技術利用のためのガイドラインの必要性を強調しています。
参照元：CNBC
監修者のコメント：AIが記事をまとめました