Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    הערת העורך: מעת לעת, ComplexDiscovery מדגיש הודעות, עדכוני תוכן ומחקר הזמינים לציבור או באופן פרטי, מספקים של ספקי סייבר, נתונים וגילוי משפטי, ארגוני מחקר וחברי קהילת ComplexDiscovery. בעוד ComplexDiscovery מדגיש באופן קבוע מידע זה, הוא אינו נוטל על עצמו כל אחריות לטענות תוכן.

    כדי להגיש המלצות לתמורה ולהכללה בהודעות הסייבר, הנתונים והמידע המתמקדים בגילוי משפטי של ComplexDiscovery, צרו איתנו קשר עוד היום.

    הערת רקע: לאחרונה פרסמה ועדת הסחר הפדרלית דו"ח לקונגרס המזהירה מפני שימוש בבינה מלאכותית (AI) כדי להילחם בבעיות מקוונות ולדוחק בקובעי המדיניות לנקוט "בזהירות רבה" לגבי הסתמכות עליה כפתרון מדיניות. השימוש ב- AI, במיוחד על ידי פלטפורמות טכנולוגיות גדולות וחברות אחרות, מגיע עם מגבלות ובעיות משלה. הדו"ח מתאר חששות משמעותיים כי כלי AI יכולים להיות לא מדויקים, מוטים ומפלים על ידי תכנון ותמריץ הסתמכות על צורות פולשניות יותר ויותר של מעקב מסחרי. הדו"ח עשוי להיות מועיל עבור cybersecurity, ממשל מידע, ואנשי מקצוע גילוי משפטי המבקשים להבין טוב יותר את החששות והאתגרים של לחימה בנזקים מקוונים כפי שתואר ומודגש על ידי ועדת הסחר הפדרלית.

    דו"ח נציבות הסחר הפדרלי*

    לחימה בפגיעות מקוונות באמצעות חדשנות - דו"ח FTC לקונגרס

    תמצית תקציר מנהלים

    הפריסה של כלי AI שנועדו לאתר או לטפל בכל דרך אחרת בתוכן מקוון מזיק מואצת. במידה רבה בתחומי - או באמצעות מימון - חברות הטכנולוגיה הגדולות המעטות שיש להן את המשאבים והתשתיות הדרושים, כלי AI נוצרים, מפותחים ומשמשים למטרות כולל לחימה נגד רבים מהנזקים המפורטים על ידי הקונגרס. בהתחשב בכמות התוכן המקוון המדובר, נראה כי תוצאה זו היא בלתי נמנעת, שכן חלופה אנושית למהדרין היא בלתי אפשרית או יקרה במיוחד בקנה מידה גדול.

    עם זאת, חשוב להבין כי כלים אלה נותרים ברובם ראשוניים, בעלי מגבלות משמעותיות, ואף פעם לא יהיו מתאימים במקרים מסוימים כחלופה לשיפוט אנושי. השימוש בהם - גם עכשיו וגם בעתיד - מעלה שורה של חששות משפטיים ומדיניות מתמשכים. המסקנה המרכזית של דוח זה היא לפיכך כי ממשלות, פלטפורמות ואחרות חייבות לנקוט משנה זהירות רבה במנדט השימוש בכלים אלה או בהסתמכות יתר עליהם, אפילו למטרה החשובה של צמצום הנזקים. למרות שמחוץ לתחום שלנו, מסקנה זו מרמזת כי אם AI אינו התשובה ואם הסולם הופך את הפיקוח האנושי המשמעותי לבלתי אפשרי, עלינו לבחון דרכים אחרות, רגולטוריות או אחרות, כדי להתמודד עם התפשטות הנזקים הללו.

    כישלון מרכזי בכלים אלה הוא שמערכי הנתונים התומכים בהם לרוב אינם חזקים או מדויקים מספיק כדי להימנע מחיוביות שגויות או שליליות שגויות. חלק מהבעיה הוא שמערכות אוטומטיות מאומנות על נתונים שזוהו בעבר ואז נתקלות בבעיות בזיהוי תופעות חדשות (למשל, מידע שגוי על COVID-19). תוצאות שגויות עשויות לנבוע גם מבעיות עם האופן שבו אלגוריתם נתון מתוכנן. נושא נוסף הוא שהכלים משתמשים בפרוקסי שעומדים בסוג תוכן אמיתי כלשהו, למרות שתוכן זה הוא לעתים קרובות מורכב מדי, דינמי וסובייקטיבי ללכידה, לא משנה איזה כמות ואיכות נתונים אסף. למעשה, האופן שבו החוקרים מסווגים תוכן בנתוני ההדרכה כולל בדרך כלל הסרת מורכבות והקשר - הדברים שבמקרים מסוימים הכלים צריכים להבחין בין תוכן שהוא או אינו מזיק. אתגרים אלה אומרים כי מפתחים ומפעילים של כלים אלה הם בהכרח תגובתי וכי הכלים - בהנחה שהם עובדים - זקוקים להתאמה מתמדת גם כאשר הם בנויים לבצע התאמות משלהם.

    המגבלות של כלים אלה חורגות הרבה מעבר לתוצאות לא מדויקות בלבד. במקרים מסוימים, דיוק מוגבר יכול עצמו להוביל לנזקים אחרים, כגון הפעלת צורות פולשניות יותר ויותר של מעקב. אפילו עם כוונות טובות, השימוש בהם יכול גם להוביל להחמרת הנזקים באמצעות הטיה, אפליה וצנזורה. שוב, תוצאות אלה עשויות לשקף בעיות בנתוני האימון (אולי נבחרו או מסווגים על סמך פסקי דין פגומים או תווית שגויה על ידי עובדים שאינם מאומנים מספיק), העיצוב האלגוריתמי או תפיסות מקדימות שמדעני נתונים מציגים בשוגג. הם יכולים גם לנבוע מהעובדה שתוכן מסוים כפוף למשמעויות שונות ומשנות, במיוחד בתרבויות ובשפות שונות. תוצאות גרועות אלה עשויות להיות תלויות גם במי שמשתמש בכלים ובתמריצים שלהם לשם כך, ובאם הכלי נמצא בשימוש למטרה אחרת מזו הספציפית שלשמה הוא נבנה.

    יתר על כן, כאשר כלים אלה AI מפותחים ופרוסים, אלה עם אג'נדות מזיקות - בין אם מדינות יריבות, קיצוניים אלימים, פושעים או שחקנים רעים אחרים - מבקשים באופן פעיל להתחמק מהם ולתפעל אותם, לעתים קרובות באמצעות הכלים המתוחכמים שלהם. מצב עניינים זה, המכונה לעתים קרובות מרוץ חימוש או משחק חתול ועכבר, הוא היבט נפוץ של סוגים רבים של טכנולוגיה חדשה, כמו בתחום אבטחת הסייבר. תכונה מצערת זו לא תיעלם, והמאבק העיקרי כאן הוא להבטיח כי היריבים אינם מובילים. משימה זו כוללת בהתחשב התחמקויות אפשריות ומניפולציות בשלב פיתוח הכלים ולהיות ערניים לגביהם לאחר הפריסה. עם זאת, שבירות זו בכלים - העובדה שהם יכולים להיכשל בשינויים קטנים אפילו בתשומות - עשויה להיות פגם מובנה.

    בעוד AI ממשיכה להתקדם בתחום זה, כולל עם תמיכה ממשלתית קיימת, כל החששות המשמעותיים הללו מצביעים על כך שהקונגרס, הרגולטורים, הפלטפורמות, המדענים ואחרים צריכים לנקוט בזהירות רבה ולמקד תשומת לב בכמה שיקולים קשורים.

    קרא את ההודעה על הדוח.

    קרא את הדוח המלא: לחימה בפגיעות מקוונות באמצעות חדשנות (PDF) - מעבר עכבר לגלילה

    לחימה בפגיעות מקוונות באמצעות חדשנות; דו"ח ועדת הסחר הפדרלית לקונגרס

    קרא את הדוח המקורי.

    *משותף באישור.

    קריאה נוספת

    השקעות בגילוי אלקטרוני (רישום פועל)

    מבט מקוצר על עסקי הגילוי האלקטרוני: מיזוגים, רכישות והשקעות

    מקור: קומפלקס דיסקברי

    מעבר למתחם? אסטרטגיית אמון אפס DoD ומפת הדרכים

    Current and future cyber threats and attacks drive the need for...

    איזון בין הוצאות ותקנים? השקעות אבטחת סייבר באיחוד האירופי

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    אמצעי פיקוח ואכיפה מחמירים יותר? הפרלמנט האירופי מאמץ חוק אבטחת סייבר חדש

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    סחיטות גיאופוליטיות? דוח נוף האיום השנתי של ENISA - המהדורה העשירית

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    פתרון מונחה טכנולוגיה? Integreon מכריזה מנכ"ל חדש

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    מגנט להכנסות? זיהוי פלילי מגנט מכריזה על תוצאות הרבעון השלישי 2022

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    התקדמות והזדמנות? צ'לבריט מכריז על תוצאות הרבעון השלישי 2022

    “We are pleased to report a solid third quarter, delivering strong...

    תדלוק המשך הצמיחה? רנובוס קפיטל רוכשת ייעוץ עסקי מ- HBR ייעוץ

    "The legal industry remains in the early stages of digital and...