公開日: 2024 年 9 月 16 日
生成 AI はあらゆる場面で活用されており、デベロッパーが新しいコンテンツや新しいエクスペリエンスを作成できる機会は無限に広がっています。そのため、倫理を念頭に置いて構築し、ユーザーにとって安全なエクスペリエンスを構築することが重要です。Google は、ウェブ エコシステムとユーザー エクスペリエンスを改善し、すべての人にとって役立つ AI を構築することを目指しています。
責任あるウェブサイト、ウェブアプリ、拡張機能を構築する
Google は、責任ある AI への取り組みに取り組んでいます。どのような決定を下すにしても、今後のために実践したことを必ず記録してください。結果とベスト プラクティスを記録しておくと、自分や同僚が既存のアプリケーションや今後のアプリケーションの維持と改善を継続できます。
AI を使用してコンテンツを生成するサイト、アプリ、拡張機能は、次のことを考慮する必要があります。
- AI ツールとモデルを厳密にテストする。
- 既存の安全性ツールと設定を使用する。
- ユーザーが不適切なコンテンツを報告または報告できる方法を提供し、それらの報告に対処します。
- 商品を責任を持って宣伝する。
AI ツールとモデルを厳密にテストする
アプリの操作性については、開発者または開発元の会社が責任を負うため、基盤となる AI モデルとテクノロジーを理解することが重要です。さまざまなユースケースをテストし、有害または不適切なコンテンツを生成する可能性があるプロンプトから保護することが重要です。
既存の安全メカニズムを使用する
Vertex AI などの一部の API には、安全フィルタ用のツールと構成オプションがあります。保護フィルタは障壁として機能し、有害な出力を防ぎますが、モデルの動作を直接変更することはありません。これらのフィルタを確認して、適切と思われるレベルに設定することをおすすめします。
不適切なコンテンツの報告を有効にする
テストと安全フィルタを使用していても、不適切なコンテンツと見なされるコンテンツがユーザーに表示される可能性があります。生成 AI 機能に関するユーザー フィードバックをモニタリングして優先順位を付け、可能な限り最適なエクスペリエンスを構築します。不適切なコンテンツの報告に対応するプロセスを確立します。
不適切なコンテンツを軽減するには、次のいずれかまたは複数の操作を行います。
- 不適切なコンテンツにつながった類似の入力をブロックする
- モデルの出力を除去する
- モデルをファインチューニングする
- モデルを完全に切り替える
ブラウザ拡張機能を作成する場合は、必ず関連するポリシーに準拠してください。Chrome ウェブストアで拡張機能を公開する Chrome 拡張機能のデベロッパーは、Chrome ウェブストアのポリシーに準拠する必要があります。AI で生成されたコンテンツを公開する場合は、有用で信頼性の高い、ユーザー第一のコンテンツを作成するようにしてください。
責任ある広告掲載
広告を掲載する際は、ユーザーの安全を守り、ユーザーを尊重する方法で行うことが重要です。マーケティング資料を確認して、広告にサイトまたはアプリの実際の機能が正確に反映されていることを確認します。
未来を見据えて
Google は、デベロッパーが革新的で責任あるアプリを構築できるよう、人間と AI に関するガイドブックなどのベスト プラクティスとリソースを引き続き提供していきます。
X の@ChromiumDev または LinkedIn のデベロッパー向け Chrome でフィードバックを共有してください。また、AI に関するコンテンツもご覧ください。