運用生成式 AI 打造負責任的網頁體驗

Alexandra Klepper

發布日期：2024 年 9 月 16 日

生成式 AI 無所不在，開發人員可以利用這項技術創造新內容和新體驗，機會無窮無盡。因此，我們在開發時務必顧及倫理，並為使用者打造安全的體驗。我們希望 AI 能造福所有人，改善網路生態系統和使用者體驗。

建構負責任的網站、網頁應用程式和擴充功能

Google 致力於實踐負責任的 AI 技術做法。無論您做出什麼決定，都請記錄日後的做法。記錄結果和最佳做法，以便您和同事持續維護及改善現有和未來的應用程式。

使用 AI 產生內容的網站、應用程式和擴充功能應考量以下事項：

  • 嚴格測試 AI 工具和模型。
  • 使用現有的安全工具和設定。
  • 提供讓使用者回報/檢舉令人反感內容的管道，然後處理這些回報。
  • 以負責任的方式宣傳產品。

嚴格測試 AI 工具和模型

您或貴公司需為應用程式提供的體驗負責，因此必須清楚瞭解基礎 AI 模型和技術。因此，請務必測試各種用途，並防範可能產生有害或令人反感內容的提示。

使用現有的安全機制

有些 API (例如 Vertex AI) 提供安全篩選器的工具和設定選項。安全篩選器可做為防火牆，防止有害的輸出內容，但不會直接變更模型的行為。建議您查看並設定這些篩選條件，以便達到您認為適合的程度。

啟用不當內容檢舉功能

即使有測試和安全防護功能，仍有可能有令人反感的內容傳送給使用者。監控並優先處理使用者對生成式 AI 功能的意見回饋，確保您提供最佳體驗。建立處理不當內容檢舉案件的程序。

如要減少可能的冒犯性內容，您可以執行下列一或多項操作：

  • 封鎖導致不當內容的類似輸入內容
  • 遮蓋模型輸出內容
  • 微調模型
  • 完全切換模型

如果您建構瀏覽器擴充功能，請務必遵守相關政策。Chrome 擴充功能開發人員如要發布擴充功能至 Chrome 線上應用程式商店，應遵循 Chrome 線上應用程式商店政策。如果您發布 AI 產生的內容，請務必提供實用、可靠且以使用者為優先的內容。

請務必以安全可靠且尊重使用者的方式宣傳。請檢查行銷素材資源，確保廣告準確呈現網站或應用程式的實際功能。

展望未來

我們會持續提供最佳做法和相關資源，例如「人類 + AI」手冊，協助開發人員打造創新且負責任的應用程式。

歡迎前往 X 上的@ChromiumDev 或 LinkedIn 上的 Chrome 開發人員版，與我們分享意見，並探索我們提供的所有 AI 內容。