以下は、記事の執筆例です。参考にしてください。
AIがより高度で広く使われるようになるにつれて、AIがどのように振る舞うべきかを決める際に、公衆の意見を取り入れることが不可欠になってきます。オープンAIは、AIシステムのルールを民主的な方法で決めるためのアイデアやツールをデザインする10のチームに10万ドルの助成金を提供しました。この記事では、オープンAIのブログに掲載された内容をもとに、各チームがどのようなイノベーションを生み出したか、どのような教訓を得たかを紹介します。
オープンAIは、AIの民主的なガバナンスを目指すプロジェクトに助成金を提供するプログラムを5月に発表しました。その後、113カ国から約1000件の応募の中から、オープンAIの社員と民主的なガバナンスの専門家の共同委員会が、背景やアプローチが多様な10のチームを選びました。選ばれたチームは、法律、ジャーナリズム、平和構築、機械学習、社会科学研究などの分野の専門家で構成されており、12カ国のメンバーが参加しています。
ここでは、教訓とともに、10のチームが行った作業の簡単な要約を紹介します。
- AIのインタラクションシナリオに関するロバストなケースリポジトリを作成し、ケース法に触発された判断を行うためのプロセスを、専門家、一般人、主要な利害関係者を民主的に関与させる方法で開発した。
- 集団対話を用いて、民主的な審議を効率的にスケールし、合意の領域を見つけることで、情報に基づいた公衆の意志を反映した方針を策定した。
- AIを介したビデオ通話で行われる小グループの会話において、民主的な審議を可能にした。
- チャット対話で参加者の価値観を引き出し、モデルのファインチューニングに使える価値観のモラルグラフを作成した。
- ライブで大規模な参加を反映するAIモデルのガイドラインを開発し、「コミュニティノート」というアルゴリズムを提案した。
- 多数の自由記述の意見を、社会選択理論の数学的な議論を用いて、公正な代表性を保証する簡潔なスレートに集約した。
- AIに関する意思決定プロセスを、弱い立場のグループに権限を与える分散型のガバナンスメカニズム（例えばDAO）を備えたプラットフォームを使って促進した。
- 複雑で対立的なトピックに関する参加者の意見や理解を深めるために、オフラインとオンラインのプロセスを連携させた。
- 価値を創出する人々に価値を還元しながら、LLMの開発を促進し、アフリカの創造的な作品に関する包括的な知識を確保した。
- AIに関する再帰的でつながった参加型プロセスを、vTaiwanの手法を応用して作成した。
この研究では、AIの行動を民主的に決めるためのアイデアやツールを設計した10チームを支援しました。具体的な教訓は以下のようにまとめられます。
- 意見の多様性と共通点の探求: 一つの決定や結果を表すときに、合意形成と意見の多様性を表現するという緊張関係が生じる可能性がある。数理的な理論を用いて、このバランスをナビゲートする方法を探ることができる。
- 参加者のリーチとインセンティブ: デジタルや文化的な隔たりを越えて関連する参加者に届くためには、より良いアウトリーチやツールを開発する必要がある。参加者に価値を還元することで、インセンティブを提供することもできる。
- 意見の変化と頻度: 公衆の意見は頻繁に変化することが多く、入力収集プロセスの頻度に影響を与える可能性がある。根本的な価値観を捉えるとともに、意見の変化に敏感であるか、十分に頻繁に繰り返すプロセスを設計する必要がある。
- AIの役割と透明性: AI自体が民主的なプロセスを改善する役割を果たす可能性があるが、同時に、これらのシステムと開発者にどれだけの権力や影響力を与えるべきかについては慎重である必要がある。AIを含む決定プロセスには、非AIの決定ステップを組み合わせることで、効率性と信頼性・正当性の両立を図ることができる。
具体な教訓として得られた内容の原文の次の内容は、民主的な合意形成の難しさをそのまま反映していると感じました。
二極化したグループ内での合意の発見
小さなグループが特定の問題について強い意見を持っている場合、妥協点を見つけるのは難しい場合があります。
- Collective Dialoguesチームは、各セッションには常に、AIアシスタントが特定の質問に答えることを制限することは何があっても間違っていると強く感じている少人数のグループが含まれていることを発見しました。このケースでは、グループが少人数であったため、多数決の結果、彼らは強く反対する結果をもたらしました。
- 集団対話、Energize.AI、再帰的公開チームのプロセスは、二極化したグループ全体で強力に支持される政策提案を見つけるために設計されました。例えば、米国の参加者との集団対話プロセスで作成されたすべての政策ガイドラインは、分裂の原因として知られているワクチン情報を含め、民主党、無党派層、共和党全体で72%以上の支持を得ました。
コンセンサスを得ることと多様性を表現すること
1つの成果を出そうとしたり、グループを代表して1つの決断を下そうとしたりすると、コンセンサスを得ようとすることと、さまざまな意見の多様性を適切に表現することとの間に緊張関係が生じることがあります。それは、多数派の味方をするだけでなく、異なる視点にプラットフォームを与えることでもあります。
- ジェネレーティブ・ソーシャル・チョイス・チームは、いくつかの重要な立場を強調し、さまざまな意見を紹介しながら、いくつかの共通点を見つける方法を考案しました。彼らは、このバランスをナビゲートするために数学的理論を使用しました。
- 一方、Inclusive.AI チームは、さまざまな投票メカニズムと、それらがどのように認識されているかを調査しました。その結果、人々が自分の選択についてどれだけ強く感じているかを示し、誰もが平等な発言権を持つようにする方法は、より民主的で公正であると認識されていることがわかった。
これらの研究は、AIによる政治参加や政策調整を担うという可能性も踏まえているのではないなと考えました。もちろん、他の研究はAIガバナンスを受け入れるかどうかそのものに対する研究も行われており、様々な視点で研究が行われています。
なお、発表の最後は次のように〆られています。
私たちは、多様な技術的バックグラウンドを持つ優秀なリサーチエンジニアを募集し、私たちと一緒にこの研究を構築しています。私たちの活動に興味を持ち、応募したいと思っている方は、ぜひご参加ください!
https://openai.com/blog/democratic-inputs-to-ai-grant-program-update
監修者によるコメント：AIによる複数回の要約と人間の手による編集を元に公開しています。