Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Uwaga redaktora: Od czasu do czasu, ComplexDiscovery podkreśla publicznie dostępne lub prywatne ogłoszenia, aktualizacje treści, i badania z cyberprzestrzeni, dane, i legalne odkrycia dostawców, organizacje badawcze, i członków społeczności ComplexDiscovery. Podczas gdy ComplexDiscovery regularnie podkreśla te informacje, nie ponosi żadnej odpowiedzialności za twierdzenia treści.

    Aby przesłać zalecenia dotyczące rozważenia i włączenia do cyberprzestrzeni ComplexDiscovery, dane, oraz usługi zorientowane na odkrycie prawne, produkt, lub ogłoszenia badawcze, skontaktuj się z nami już dziś.

    Uwaga w tle: Niedawno Federalna Komisja Handlu wydała Kongresowi raport ostrzegający o wykorzystaniu sztucznej inteligencji (AI) do zwalczania problemów online i wzywając decydentów do zachowania „dużej ostrożności”, jeśli chodzi o poleganie na niej jako rozwiązaniu politycznym. Wykorzystanie sztucznej inteligencji, szczególnie przez duże platformy technologiczne i inne firmy, wiąże się z własnymi ograniczeniami i problemami. Raport przedstawia istotne obawy, że narzędzia sztucznej inteligencji mogą być niedokładne, stronniczy, oraz dyskryminujące z założenia i zachęty do polegania na coraz bardziej inwazyjnych formach nadzoru handlowego. Raport może być korzystny dla cyberbezpieczeństwa, zarządzanie informacjami, oraz prawników, którzy chcą lepiej zrozumieć obawy i wyzwania związane z zwalczaniem szkód online, jak nakreśliła i podkreśliła Federalna Komisja Handlu.

    Raport Federalnej Komisji Handlu*

    Walka z szkodami online poprzez innowacje - raport FTC dla Kongresu

    Ekstrakt streszczenia

    Wdrażanie narzędzi sztucznej inteligencji przeznaczonych do wykrywania lub w inny sposób przeciwdziałających szkodliwym treściom online przyspiesza. Głównie w granicach - lub poprzez finansowanie - kilku dużych firm technologicznych, które mają niezbędne zasoby i infrastrukturę, Narzędzia sztucznej inteligencji są opracowywane, rozwinięty, i wykorzystywane do celów, w tym do walki z wieloma szkodami wymienionymi przez Kongres. Biorąc pod uwagę ilość spornych treści online, wynik ten wydaje się nieunikniony, ponieważ alternatywa ściśle ludzka jest niemożliwa lub niezwykle kosztowna na dużą skalę.

    Niemniej jednak, ważne jest, aby zrozumieć, że narzędzia te pozostają w dużej mierze podstawowe, mają istotne ograniczenia, i może nigdy nie być odpowiednie w niektórych przypadkach jako alternatywa dla ludzkiego osądu. Ich stosowanie - zarówno teraz, jak iw przyszłości - budzi wiele uporczywych obaw prawnych i politycznych. Kluczowym wnioskiem z tego raportu jest zatem to, że rządy, platformy, a inni muszą zachować dużą ostrożność, nakazując stosowanie tych narzędzi lub nadmierne poleganie na nich, nawet w ważnym celu zmniejszenia szkód. Chociaż poza naszym zakresem, wniosek ten sugeruje, że jeśli sztuczna inteligencja nie jest odpowiedzią i jeśli skala sprawia, że znaczący ludzki nadzór jest niemożliwy, musimy przyjrzeć się innym sposobom, regulacyjnym lub innym, w celu rozwiązania problemu rozprzestrzeniania się tych szkód.

    Centralną wadą tych narzędzi jest to, że zbiory danych obsługujące je często nie są wystarczająco solidne ani dokładne, aby uniknąć fałszywych alarmów lub fałszywych negatywów. Częściowo problem polega na tym, że zautomatyzowane systemy są szkolone na podstawie wcześniej zidentyfikowanych danych, a następnie mają problemy z identyfikacją nowych zjawisk (np. dezinformacja na temat COVID-19). Błędne wyniki mogą również wynikać z problemów z zaprojektowaniem danego algorytmu. Inną kwestią jest to, że narzędzia używają serwerów proxy, które reprezentują jakiś rzeczywisty rodzaj treści, mimo że ta treść jest często zbyt złożona, dynamiczny, i subiektywne do przechwytywania, bez względu na ilość i jakość zebranych danych. W rzeczywistości sposób, w jaki naukowcy klasyfikują treści w danych szkoleniowych, ogólnie obejmuje usuwanie złożoności i kontekstu - samych rzeczy, które w niektórych przypadkach narzędzia muszą rozróżnić treści, które są lub nie są szkodliwe. Wyzwania te oznaczają, że programiści i operatorzy tych narzędzi są koniecznie reaktywni i że narzędzia - zakładając, że działają - wymagają ciągłej regulacji, nawet jeśli są zbudowane w celu dokonywania własnych korekt.

    Ograniczenia tych narzędzi wykraczają daleko poza jedynie niedokładne wyniki. W niektórych przypadkach zwiększona dokładność może sama w sobie prowadzić do innych szkód, takich jak umożliwienie coraz bardziej inwazyjnych form nadzoru. Nawet z dobrymi intencjami, ich stosowanie może również prowadzić do zaostrzenia szkód poprzez uprzedzenia, dyskryminacja, i cenzura. Ponownie, wyniki te mogą odzwierciedlać problemy z danymi szkoleniowymi (ewentualnie wybranymi lub sklasyfikowanymi na podstawie błędnych osądów lub błędnie oznaczonych przez niedostatecznie przeszkolonych pracowników), projektem algorytmicznym lub uprzedzeniami, które naukowcy zajmujący się danymi wprowadzają nieumyślnie. Mogą również wynikać z faktu, że niektóre treści podlegają różnym i zmieniającym się znaczeniom, zwłaszcza w różnych kulturach i językach. Te złe wyniki mogą również zależeć od tego, kto korzysta z narzędzi i ich zachęt do tego, oraz od tego, czy narzędzie jest używane w celu innym niż konkretny, dla którego zostało zbudowane.

    Dalej, gdy te narzędzia sztucznej inteligencji są opracowywane i wdrażane, osoby ze szkodliwymi agendami - czy to narody przeciwne, brutalni ekstremiści, przestępcy, lub inni źli aktorzy - starają się aktywnie ich unikać i manipulować, często używając własnych wyrafinowanych narzędzi. Ten stan rzeczy, często określany jako wyścig zbrojeń lub gra w kotka i myszkę, jest powszechnym aspektem wielu rodzajów nowych technologii, na przykład w obszarze cyberbezpieczeństwa. Ta niefortunna cecha nie zniknie, a główną walką jest zapewnienie, że przeciwnicy nie są na czele. Zadanie to obejmuje rozważenie możliwych uchylania się i manipulacji na etapie opracowywania narzędzi oraz zachowanie czujności na ich temat po wdrożeniu. Jednak ta kruchość narzędzi - fakt, że mogą zawieść nawet przy niewielkich modyfikacjach wejść - może być nieodłączną wadą.

    Podczas gdy sztuczna inteligencja nadal rozwija się w tej dziedzinie, w tym przy istniejącym wsparciu rządowym, wszystkie te istotne obawy sugerują, że Kongres, organy regulacyjne, platformy, naukowcy, a inni powinni zachować szczególną ostrożność i skupić uwagę na kilku powiązanych kwestiach.

    Przeczytaj zapowiedź raportu.

    Przeczytaj pełny raport: Walka z szkodami online poprzez innowacje (PDF) - najechanie myszą, aby przewijać

    Zwalczanie szkód online poprzez innowacje; Raport Federalnej Komisji Handlu dla Kongresu

    Przeczytaj oryginalny raport.

    * Udostępnione za zgodą.

    Dodatkowy odczyt

    Inwestycje w eDISCOVERY (A Running Listing)

    Skrócone spojrzenie na działalność eDISCOVERY: Fuzje, Przejęcia, i inwestycje

    Źródło: complexDiscovery

    Poza obwodem? Strategia i plan działania DoD Zero Trust

    Current and future cyber threats and attacks drive the need for...

    Równoważenie wydatków i standardów? Inwestycje w dziedzinie cyberbezpieczeństwa w Unii Europejskiej

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    Bardziej rygorystyczne środki nadzorcze i wykonawcze? Parlament Europejski przyjmuje nową ustawę o cyberbezpieczeństwie

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    Geopolityczne Shakedowns? Roczny raport o zagrożeniach ENISA - wydanie 10

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    Rozwiązanie oparte na technologii? Integreon ogłasza nowego dyrektora generalnego

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    Magnes na dochody? Magnet Forensics ogłasza 2022 Wyniki za trzeci kwartał

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    Postęp i okazja? Cellebrite ogłasza trzeci kwartał 2022 Wyniki

    “We are pleased to report a solid third quarter, delivering strong...

    Napędzanie dalszego wzrostu? Renovus Capital przejmuje działalność doradczą od HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Mashup wielkości rynku eDISCOVERY: 2022-2027 Ogólnoświatowy przegląd oprogramowania i usług

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    W ruchu? 2022 Kinetyka rynku ediscovery: pięć obszarów zainteresowań

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Ufasz Procesowi? 2021 Zadanie przetwarzania eDiscovery, dane dotyczące wydatków i kosztów

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Rok w przeglądzie? 2021 Punkty danych zlecenia eDiscovery do przeglądu, wydatków i kosztów

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Pięć świetnych lektur na temat cyberprzestrzeni, danych i odkryć prawnych na listopad 2022

    From cyber shakedowns and threats to the total cost of eDiscovery...

    Pięć świetnych lektur na temat cyberprzestrzeni, danych i odkryć prawnych na październik 2022

    From cyber claims and data privacy to corporate litigation and the...

    Pięć świetnych lektur na temat cyberprzestrzeni, danych i odkryć prawnych na wrzesień 2022

    From privacy legislation and special masters to acquisitions and investigations, the...

    Pięć świetnych lektur na temat cyberprzestrzeni, danych i odkryć prawnych na sierpień 2022

    From AI and Big Data challenges to intriguing financial and investment...

    W miejscu lub zdalnie? Ankieta dotycząca preferencji recenzentów dokumentów (zima 2023)

    Today CompexDiscovery expands that survey portfolio by introducing a new business...

    W domu? Jesień 2022 Badanie dotyczące łącznego kosztu posiadania ediscovery

    Today CompexDiscovery shares the results of a new business survey focused...

    Obawy zimnego frontu? Osiemnaście uwag na temat zaufania biznesowego do eDISCOVERY jesienią 2022 r.

    In the fall of 2022, 49.0% of survey respondents felt that...

    Stereotypowanie danych? Problemy wpływające na wydajność biznesową eDISCOVERY: Upadek 2022 Przegląd

    In the fall of 2022, 28.0% of respondents viewed increasing types...

    Przybycie generała Winter? Oceny konfliktów na Ukrainie w mapach (21-27 listopada 2022 r.)

    According to a recent update from the Institute for the Study...

    Kopanie i kopanie? Oceny konfliktów na Ukrainie w mapach (14-20 listopada 2022 r.)

    According to a recent update from the Institute for the Study...

    Wyzwalający rozpęd? Oceny konfliktów na Ukrainie w mapach (7-13 listopada 2022 r.)

    According to a recent update from the Institute for the Study...

    Retoryka czy rzeczywistość? Oceny konfliktów na Ukrainie w mapach (1-6 listopada 2022 r.)

    According to a recent update from the Institute for the Study...