Opublikowano: 16 września 2024 r.
Generatywne AI jest wszędzie, a możliwości tworzenia nowych treści i doświadczeń przez deweloperów są nieograniczone. Dlatego tak ważne jest, abyśmy pamiętali o etycznych aspektach i zapewniali użytkownikom bezpieczne środowisko. Chcemy, aby AI była przydatna dla wszystkich, a także aby ulepszała ekosystem internetowy i wygodę użytkowników.
Tworzenie odpowiedzialnych witryn, aplikacji internetowych i rozszerzeń
Google jest zaangażowane w odpowiedzialne praktyki w zakresie AI. Niezależnie od tego, jakie podejmiesz decyzje, pamiętaj, aby udokumentować swoje działania na przyszłość. Zapisz wyniki i sprawdzone metody, aby wspólnie z kolegami mogliście nadal utrzymywać i ulepszać dotychczasowe oraz przyszłe aplikacje.
W przypadku witryn, aplikacji i rozszerzeń, które generują treści za pomocą AI, należy wziąć pod uwagę te kwestie:
- Dbajcie o rygorystyczne testowanie narzędzi i modeli AI.
- Użyj istniejących narzędzi i ustawień bezpieczeństwa.
- Daj użytkownikom możliwość zgłaszania obraźliwych treści. Następnie zajmij się tymi zgłoszeniami.
- Reklamuj produkt odpowiedzialnie.
Dokładnie testuj narzędzia i modele AI
Ty lub Twoja firma ponosicie odpowiedzialność za działanie aplikacji, dlatego ważne jest, abyś rozumiał modele AI i podstawową technologię. Ważne jest, aby przetestować różne przypadki użycia i zabezpieczyć się przed promptami, które mogą tworzyć szkodliwe lub obraźliwe treści.
Korzystanie z dotychczasowych mechanizmów bezpieczeństwa
Niektóre interfejsy API, takie jak Vertex AI, mają narzędzia i opcje konfiguracji filtrów bezpieczeństwa. Filtry bezpieczeństwa stanowią barierę zapobiegającą szkodliwym wynikom, ale nie zmieniają bezpośrednio zachowania modelu. Zalecamy sprawdzenie tych filtrów i ustawienie ich na odpowiedni dla siebie poziom.
Włączanie zgłaszania obraźliwych treści
Nawet pomimo testowania i filtrów bezpieczeństwa może się zdarzyć, że obraźliwe treści dotrą do użytkowników. Monitoruj i nadawaj priorytety opiniom użytkowników na temat funkcji generatywnej AI, aby zapewnić jak najlepsze wrażenia. Stworzyć proces reagowania na zgłoszenia obraźliwych treści.
Aby ograniczyć potencjalnie obraźliwe treści, możesz wykonać co najmniej 1 z tych działań:
- blokować podobne dane wejściowe, które doprowadziły do wyświetlenia treści obraźliwych.
- Redagowanie danych wyjściowych modelu
- Dostrój model
- Całkowicie przełącz model
Jeśli tworzysz rozszerzenia do przeglądarki, zawsze przestrzegaj odpowiednich zasad. Deweloperzy rozszerzeń do Chrome, którzy chcą opublikować swoje rozszerzenie w Chrome Web Store, powinni przestrzegać zasad Chrome Web Store. Jeśli publikujesz treści wygenerowane za pomocą AI, staraj się tworzyć przydatne, rzetelne i ukierunkowane na użytkowników.
Odpowiedzialne reklamowanie
Pamiętaj, aby reklamy były bezpieczne i szanowały użytkowników. Sprawdź swoje materiały marketingowe, aby upewnić się, że reklamy rzetelnie przedstawiają rzeczywiste możliwości Twojej witryny lub aplikacji.
Co dalej?
Nadal będziemy udostępniać sprawdzone metody i zasoby, takie jak poradnik dotyczący AI i ludzi, aby wspierać deweloperów w tworzeniu innowacyjnych i odpowiedzialnych aplikacji.
Przesyłaj opinie na temat AI na Twitterze pod adresem@ChromiumDev lub na LinkedIn na koncie Chrome for developers. Zapoznaj się też z naszą ofertą treści na temat AI.