תאריך פרסום: 16 בספטמבר 2024
בינה מלאכותית גנרטיבית נמצאת בכל מקום, והזדמנויות למפתחים ליצור תוכן חדש וחוויות חדשות הן אינסופיות. לכן חשוב לנו מאוד לפתח את המוצרים שלנו תוך התחשבות באתיקה וליצור חוויות שימוש בטוחות למשתמשים. אנחנו מתכוונים להפוך את הבינה המלאכותית לשימושית לכולם, ולשפר את הסביבה העסקית באינטרנט ואת חוויית המשתמש.
פיתוח אתרים, אפליקציות אינטרנט ותוספים אחראיים
Google מחויבת לשיטות לשימוש אחראי ב-AI. לא משנה מה ההחלטות שתקבלו, חשוב לתעד את השיטות שלכם לעתיד. כדאי לתעד את התוצאות ואת השיטות המומלצות כדי שתוכלו להמשיך לתחזק ולשפר את האפליקציות הקיימות והעתידיות.
באתרים, באפליקציות ובתוספים שמאפשרים ליצור תוכן באמצעות AI, צריך להביא בחשבון את הנושאים הבאים:
- בדיקה קפדנית של מודלים וכלים של AI.
- להשתמש בכלים ובהגדרות הבטיחות הקיימים.
- נותנים למשתמשים דרך לדווח או לסמן תוכן פוגעני, ואז מטפלים בדיווח.
- לפרסם את המוצר באופן אחראי.
בדיקה קפדנית של מודלים וכלים של AI
אתם או החברה שלכם אחראים לחוויית השימוש באפליקציות, ולכן חשוב מאוד להבין את הטכנולוגיה והמודלים של ה-AI שעומדים בבסיס. חשוב לבדוק מגוון תרחישים לדוגמה ולהימנע מהצגת הנחיות שעלולות לגרום ליצירת תוכן מזיק או פוגעני.
שימוש במנגנוני בטיחות קיימים
בחלק מ-API, כמו Vertex AI, יש כלים ואפשרויות תצורה למסנני בטיחות. מסנני הבטיחות משמשים כמחסום למניעת פלט מזיק, אבל הם לא משנים באופן ישיר את התנהגות המודל. מומלץ לבדוק את המסננים האלה ולהגדיר אותם לרמה שמתאימה לכם.
הפעלת דוחות על תוכן פוגעני
גם אחרי בדיקות ומסנני בטיחות, יכול להיות שתוכן שנחשב לתוכן פוגעני יגיע למשתמשים. כדאי לעקוב אחרי המשוב מהמשתמשים לגבי התכונות של ה-AI הגנרטיבי ולתת עדיפות למשוב הזה, כדי לוודא שאתם מספקים את חוויית המשתמש הטובה ביותר. להגדיר תהליך לטיפול בדיווח על תוכן פוגעני.
כדי לצמצם את התוכן הפוגעני הפוטנציאלי, תוכלו לבצע אחת או יותר מהפעולות הבאות:
- לחסום קלט דומה שהוביל לתוכן הפוגעני
- עריכה של הפלט מהמודל
- כוונון עדין של המודל
- החלפת המודל לגמרי
אם אתם יוצרים תוספים לדפדפנים, תמיד הקפידו לפעול בהתאם למדיניות הרלוונטית. מפתחי תוספים ל-Chrome שרוצים לפרסם את התוסף שלהם בחנות האינטרנט של Chrome צריכים לפעול בהתאם למדיניות של חנות האינטרנט של Chrome. אם אתם מפרסמים תוכן שנוצר באמצעות AI, כדאי ליצור תוכן מועיל ואמין שמתעדף אנשים אמיתיים.
פרסום אחראי
כשמפרסמים, חשוב לעשות זאת באופן בטוח ומכבד את המשתמשים. בודקים את חומרי השיווק כדי לוודא שהמודעות מייצגות במדויק את היכולות בפועל של האתר או האפליקציה.
מבט לעתיד
אנחנו נמשיך לספק שיטות מומלצות ולשתף משאבים, כמו המדריך 'אנשים ו-AI', כדי לתמוך במפתחים בפיתוח אפליקציות חדשניות ואחראיות.
אתם יכולים לשלוח לנו משוב בכתובת @ChromiumDev on X או בקבוצה Chrome למפתחים ב-LinkedIn, ולעיין בכל התוכן שלנו בנושא AI.