ניו יורק / RankWire.AI / – האו"ם קורא להגנות חזקות יותר לילדים ובני נוער, כאשר פלטפורמות דיגיטליות מעצבות מחדש את האופן שבו הן מקבלות מידע. דו"ח חדש של האו"ם מדגיש סיכונים הנובעים מדיסאינפורמציה, דברי שטנה, הטרדה, בינה מלאכותית ומערכות מקוונות מונעות תשומת לב. הדו"ח מצביע גם על חששות הקשורים למידע אישי, פרסום התנהגותי והפצה אלגוריתמית. הדו"ח קובע כי משתמשים צעירים זקוקים לאמצעי הגנה חזקים יותר, תוך שמירה על גישה לחינוך, תקשורת והשתתפות ציבורית מקוונת.
משרד התקשורת הגלובלית פרסם את הסיכום לקראת יום הנוער הבינלאומי ב-12 באוגוסט. על פי הדו"ח, יותר מ-82% מהאנשים בגילאי 15 עד 24 משתמשים באינטרנט ברחבי העולם. גישה דיגיטלית יכולה להרחיב הזדמנויות ללמידה, מעורבות אזרחית והשתתפות כלכלית. במקביל, משתמשים צעירים עלולים להיתקל בחומר מזיק ועדיין לפתח מיומנויות לשיפוט מידע. הסיכום קובע כי סיכונים מקוונים יכולים להשפיע על ההתפתחות הקוגניטיבית, הרגשית והחברתית.
הדו"ח מחלק את הסיכונים הללו לשלושה תחומים רחבים. איומים הקשורים לטכנולוגיה כוללים שימוש לרעה בבינה מלאכותית ובכלים דיגיטליים אחרים. סיכוני הפצה כוללים אלגוריתמים וגישה לא שוויונית למידע אמין. סיכוני תוכן כוללים דיסאינפורמציה, הטרדה ודברי שטנה. האו"ם אומר שבעיות אלו יכולות להיות קשורות זו לזו מכיוון שמערכות דיגיטליות משפיעות על מה שמשתמשים רואים ועל האופן שבו התוכן מתפשט. קהל צעיר יותר עלול להתמודד עם מספר סיכונים בו זמנית כאשר פלטפורמות משלבות המלצות אוטומטיות, איסוף נתונים ותוכן מותאם אישית.
עיצוב הפלטפורמה מושך תשומת לב רבה יותר
הדו"ח בוחן גם מודלים עסקיים התלויים בתשומת לב המשתמש, בנתונים אישיים ובפרסום ממוקד. נאמר בו שמערכות המתמקדות במעורבות עלולות לחשוף ילדים לחומרים ותכונות קיצוניים המעודדים שימוש חוזר. שיווק מותאם אישית יכול להוסיף שכבת סיכון נוספת לקהלים צעירים יותר. הדו"ח קורא לחברות טכנולוגיה ולמפתחי בינה מלאכותית לשלב את זכויותיהם ובטיחותם של ילדים בעיצוב המוצר. הוא גם קורא לאחריותיות רבה יותר סביב המערכות המעצבות את מה שצעירים רואים באינטרנט.
הגבלות גיל הפכו לחלק מהוויכוח הרחב יותר על מדיה חברתית ובטיחות ילדים. האו"ם אומר שמגבלות גיל לבדן אינן יכולות לטפל במגוון המלא של סיכוני מידע מקוונים. מרחבים דיגיטליים יכולים גם לספק חינוך, קשר חברתי ותמיכה רגשית. צעירים משתמשים בהם כדי ליצור תוכן, לארגן קמפיינים ולהשתתף בוויכוח ציבורי. התדריך קובע כי אמצעי הגנה צריכים להגן על ילדים מבלי למנוע גישה שימושית לשירותים דיגיטליים התומכים בלמידה, תקשורת והשתתפות.
בטיחות בינה מלאכותית הופכת לחלק מדחיפה להגנה על ילדים
בינה מלאכותית מוסיפה דאגות חדשות לסביבה המקוונת. מזכ"ל האו"ם אנטוניו גוטרש קרא להתחייבות בטיחות ילדים בנושא בינה מלאכותית הכוללת מערכות אליהן ילדים יכולים לגשת. הגישה המוצעת כוללת בדיקות בטיחות ספציפיות לילדים ופיקוח חזק יותר לפני הפריסה. היא גם מבקשת פעולה תקיפה נגד תמונות מיניות שנוצרו על ידי בינה מלאכותית הכוללות ילדים. המאמץ הרחב יותר של האו"ם קורא למפתחים לזהות, לדווח ולהסיר חומר כזה תוך שילוב הגנות בטיחות ילדים במערכות בינה מלאכותית נגישות.
הדו"ח קובע כי לממשלות, חברות טכנולוגיה, מפרסמים, חוקרים, אנשי חינוך והחברה האזרחית יש תפקידים בהפחתת הנזקים הדיגיטליים. הוא גם קורא לילדים ובני נוער לקחת חלק בהחלטות המעצבות מרחבים מקוונים. המסמך מיישם את עקרונות האו"ם הגלובליים לשלמות מידע בנושאים המשפיעים על משתמשים צעירים יותר. המסר המרכזי שלו הוא שבטיחות ילדים, שלמות מידע והשתתפות דיגיטלית צריכות להתקדם יחד ככל שפלטפורמות מקוונות ומערכות בינה מלאכותית הופכות לחשובות יותר בחיי היומיום.