Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Примітка редактора: Час від часу ComplexDiscovery виділяє загальнодоступні або приватні оголошення, оновлення вмісту та дослідження від постачальників кібер-даних та юридичних досліджень, дослідницьких організацій та членів спільноти ComplexDiscovery. Хоча ComplexDiscovery регулярно виділяє цю інформацію, вона не несе ніякої відповідальності за твердження вмісту.

    Щоб подати рекомендації для розгляду та включення до кібер-повідомлень ComplexDiscovery, інформаційних та юридичних служб, продуктів або досліджень, зверніться до нас сьогодні.

    Довідкова примітка: Нещодавно Федеральна торгова комісія опублікувала звіт Конгресу з попередженням про використання штучного інтелекту (AI) для боротьби з онлайн-проблемами та закликаючи політиків проявляти «велику обережність» щодо покладатися на нього як політичне рішення. Використання ШІ, особливо великими технологічними платформами та іншими компаніями, має власні обмеження та проблеми. У звіті викладені значні занепокоєння тим, що інструменти ШІ можуть бути неточними, упередженими та дискримінаційними за задумом та стимулювати покладатися на все більш інвазивні форми комерційного спостереження. Звіт може бути корисним для фахівців з кібербезпеки, управління інформацією та правових розкриттів, які прагнуть краще зрозуміти проблеми та проблеми боротьби з онлайн-шкодою, як зазначено та підкреслено Федеральною торговою комісією.

    Звіт Федеральної торговельної комісії*

    Боротьба з онлайн-шкоду через інновації - Звіт FTC Конгресу

    Виписка резюме

    Розгортання інструментів штучного інтелекту, призначених для виявлення або іншого вирішення шкідливого онлайн-контенту, прискорюється. Значною мірою в межах - або через фінансування від - небагатьох великих технологічних компаній, які мають необхідні ресурси та інфраструктуру, інструменти штучного інтелекту розробляються, розробляються та використовуються для цілей, включаючи боротьбу з багатьма шкодами, перерахованими Конгресом. Враховуючи кількість онлайн-контенту, що розглядається, цей результат виявляється неминучим, оскільки суворо людська альтернатива неможлива або надзвичайно дорога в масштабі.

    Тим не менш, важливо розуміти, що ці інструменти залишаються значною мірою рудиментарними, мають суттєві обмеження і ніколи не можуть бути доречними в деяких випадках як альтернатива людському судженню. Їх використання - як зараз, так і в майбутньому - викликає безліч постійних юридичних та політичних проблем. Таким чином, ключовим висновком цього звіту є те, що уряди, платформи та інші повинні проявляти велику обережність у тому, щоб вимагати використання цих інструментів або надмірно покладатися на них навіть для важливої мети зменшення шкоди. Хоча поза межами нашої сфери, цей висновок передбачає, що, якщо ШІ не є відповіддю, і якщо шкала робить змістовний людський нагляд нездійсненним, ми повинні розглянути інші способи, регуляторні чи інші, щоб вирішити поширення цих шкод.

    Центральним недоліком цих інструментів є те, що набори даних, що підтримують їх, часто не є надійними або достатньо точними, щоб уникнути помилкових спрацьовувань або помилкових негативів. Частина проблеми полягає в тому, що автоматизовані системи навчаються на раніше ідентифікованих даних, а потім мають проблеми з виявленням нових явищ (наприклад, дезінформації про COVID-19). Помилкові результати також можуть бути наслідком проблем з тим, як розроблений заданий алгоритм. Інша проблема полягає в тому, що інструменти використовують проксі-сервери, які стоять для певного фактичного типу вмісту, хоча цей вміст часто занадто складний, динамічний та суб'єктивний для захоплення, незалежно від кількості та якості даних, які вони зібрали. Насправді, спосіб, яким дослідники класифікують вміст у навчальних даних, як правило, включає видалення складності та контексту - саме те, що в деяких випадках інструменти повинні розрізняти вміст, який є чи не є шкідливим. Ці проблеми означають, що розробники та оператори цих інструментів обов'язково реагують і що інструменти - якщо вони працюють, потребують постійного коригування, навіть коли вони побудовані, щоб внести свої власні корективи.

    Обмеження цих інструментів виходять далеко за рамки просто неточних результатів. У деяких випадках підвищена точність може сама призвести до інших шкод, таких як включення все більш інвазивних форм спостереження. Навіть при добрі наміри їх використання також може призвести до посилення шкоди через упередженість, дискримінацію та цензуру. Знову ж таки, ці результати можуть відображати проблеми з навчальними даними (можливо, вибраними або класифікованими на основі помилкових суджень або неправильно позначені недостатньо підготовленими працівниками), алгоритмічним дизайном або упередженнями, які вчені даних вводять ненавмисно. Вони також можуть бути наслідком того, що певний вміст піддається різному та зміщенню значень, особливо в різних культурах та мовах. Ці погані результати можуть також залежати від того, хто використовує інструменти та їх стимули для цього, і від того, чи використовується інструмент для іншої мети, ніж конкретна, для якої він був побудований.

    Крім того, у міру розробки та розгортання цих інструментів штучного інтелекту ті, хто має шкідливі програми - будь то змагальні нації, насильницькі екстремісти, злочинці чи інші погані актори - прагнуть активно ухилятися від них та маніпулювати ними, часто використовуючи власні складні інструменти. Такий стан речей, який часто називають гонкою озброєнь або грою в кішки і миші, є загальним аспектом багатьох видів нових технологій, таких як у сфері кібербезпеки. Ця прикра особливість нікуди не піде, і головна боротьба тут полягає в тому, щоб противники не лідирували. Це завдання включає в себе розгляд можливих ухилень і маніпуляцій на етапі розробки інструменту і пильність щодо них після розгортання. Однак ця крихкість інструментів - той факт, що вони можуть вийти з ладу навіть з невеликими модифікаціями входів - може бути невід'ємною вадою.

    Хоча ШІ продовжує просуватися в цій галузі, включаючи існуючу державну підтримку, всі ці значні проблеми свідчать про те, що Конгрес, регулятори, платформи, науковці та інші повинні проявляти велику обережність та зосередити увагу на кількох пов'язаних міркуваннях.

    Читайте анонс звіту.

    Прочитайте повний звіт: боротьба з онлайн-шкоду через інновації (PDF) - наведення миші для прокрутки

    Боротьба з онлайн-шкоду через інновації; Звіт Федеральної торговельної комісії Конгресу

    Прочитайте оригінал звіту.

    * Спільний з дозволу.

    Додаткове читання

    Інвестиції в електронне відкриття (запущений лістинг)

    Скорочений погляд на бізнес eDiscovery: злиття, поглинання та інвестиції

    Джерело: Комплексне відкриття

    Масштаб розміру ринку електронного виявлення: 2022-2027 рр. Огляд програмного забезпечення та послуг у всьому світі

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    На ходу? 2022 Кінетика ринку електронних відкриттів: п'ять сфер інтересу

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Trusting the Process? 2021 eDiscovery Processing Task, Spend, and Cost Data Points

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    The Year in Review? 2021 eDiscovery Review Task, Spend, and Cost Data Points

    Based on the complexity of cybersecurity, information governance, and legal discovery,...