Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Opmerking van de uitgever: Van tijd tot tijd belicht ComplexDiscovery openbaar beschikbare of particulier te kopen aankondigingen, inhoudsupdates en onderzoek van cyber-, data- en juridische ontdekkingsproviders, onderzoeksorganisaties en ComplexDiscovery-communityleden. Hoewel ComplexDiscovery deze informatie regelmatig benadrukt, aanvaardt het geen enkele verantwoordelijkheid voor beweringen over inhoud.

    Neem vandaag nog contact met ons op om aanbevelingen in te dienen ter overweging en opname in de cyber-, data- en juridische ontdekkingsgerichte service-, product- of onderzoeksaankondigingen van ComplexDiscovery.

    Achtergrondopmerking: Onlangs publiceerde de Federal Trade Commission een rapport aan het Congres waarin werd gewaarschuwd voor het gebruik van kunstmatige intelligentie (AI) om online problemen te bestrijden en beleidsmakers aan te sporen „grote voorzichtigheid” te betrachten bij het vertrouwen erop als beleidsoplossing. Het gebruik van AI, met name door grote technische platforms en andere bedrijven, brengt eigen beperkingen en problemen met zich mee. Het rapport schetst aanzienlijke bezorgdheid dat AI-tools onnauwkeurig, bevooroordeeld en discriminerend kunnen zijn door ontwerp en kunnen stimuleren om te vertrouwen op steeds invasieve vormen van commercieel toezicht. Het rapport kan gunstig zijn voor professionals op het gebied van cyberbeveiliging, informatiebeheer en juridische ontdekking die de zorgen en uitdagingen van het bestrijden van online schade beter willen begrijpen, zoals uiteengezet en geaccentueerd door de Federal Trade Commission.

    Verslag van de Federal Trade Commissie*

    Bestrijding van online schade door innovatie - FTC-rapport aan het congres

    Extract van de samenvatting

    De inzet van AI-tools die bedoeld zijn om schadelijke online inhoud te detecteren of anderszins aan te pakken, neemt toe. Grotendeels binnen de grenzen - of via financiering van - de weinige grote technologiebedrijven die over de nodige middelen en infrastructuur beschikken, worden AI-tools bedacht, ontwikkeld en gebruikt voor doeleinden, waaronder de strijd tegen veel van de schade die door het Congres wordt vermeld. Gezien de hoeveelheid online inhoud die in het geding is, lijkt dit resultaat onvermijdelijk, aangezien een strikt menselijk alternatief onmogelijk of extreem kostbaar is op grote schaal.

    Desalniettemin is het cruciaal om te begrijpen dat deze instrumenten grotendeels rudimentair blijven, substantiële beperkingen hebben en in sommige gevallen misschien nooit geschikt zijn als alternatief voor menselijk oordeel. Het gebruik ervan - zowel nu als in de toekomst - roept een groot aantal aanhoudende juridische en beleidsproblemen op. De belangrijkste conclusie van dit rapport is dus dat regeringen, platforms en anderen grote voorzichtigheid moeten betrachten bij het verplichten van het gebruik van of te veel vertrouwen op deze instrumenten, zelfs met het belangrijke doel schade te verminderen. Hoewel buiten ons bereik, impliceert deze conclusie dat, als AI niet het antwoord is en als de schaal zinvol menselijk toezicht onhaalbaar maakt, we moeten kijken naar andere manieren, regelgevend of anderszins, om de verspreiding van deze schade aan te pakken.

    Een centrale tekortkoming van deze tools is dat de datasets die ze ondersteunen vaak niet robuust of nauwkeurig genoeg zijn om valse positieven of valse negatieven te vermijden. Een deel van het probleem is dat geautomatiseerde systemen worden getraind op eerder geïdentificeerde gegevens en vervolgens problemen hebben met het identificeren van nieuwe verschijnselen (bijv. verkeerde informatie over COVID-19). Verkeerde uitkomsten kunnen ook het gevolg zijn van problemen met de manier waarop een bepaald algoritme is ontworpen. Een ander probleem is dat de tools proxy's gebruiken die geschikt zijn voor een bepaald type inhoud, ook al is die inhoud vaak te complex, dynamisch en subjectief om vast te leggen, ongeacht de hoeveelheid en kwaliteit van de gegevens die men heeft verzameld. In feite omvat de manier waarop onderzoekers inhoud in de trainingsgegevens classificeren over het algemeen het verwijderen van complexiteit en context - precies de dingen die de tools in sommige gevallen nodig hebben om onderscheid te maken tussen inhoud die al dan niet schadelijk is. Deze uitdagingen betekenen dat ontwikkelaars en operators van deze tools noodzakelijkerwijs reactief zijn en dat de tools - ervan uitgaande dat ze werken - voortdurend moeten worden aangepast, zelfs als ze zijn gebouwd om hun eigen aanpassingen te maken.

    De beperkingen van deze tools gaan veel verder dan alleen onnauwkeurige resultaten. In sommige gevallen kan verhoogde nauwkeurigheid zelf leiden tot andere schade, zoals het mogelijk maken van steeds invasieve vormen van bewaking. Zelfs met goede bedoelingen kan het gebruik ervan ook leiden tot verergerende schade via vooringenomenheid, discriminatie en censuur. Nogmaals, deze resultaten kunnen problemen weerspiegelen met de trainingsgegevens (mogelijk gekozen of geclassificeerd op basis van gebrekkige oordelen of verkeerd gelabeld door onvoldoende opgeleide werknemers), het algoritmische ontwerp of vooroordelen die datawetenschappers per ongeluk introduceren. Ze kunnen ook het gevolg zijn van het feit dat sommige inhoud onderhevig is aan verschillende en veranderende betekenissen, vooral tussen verschillende culturen en talen. Deze slechte resultaten kunnen ook afhangen van wie de tools gebruikt en hun prikkels om dit te doen, en van de vraag of de tool wordt gebruikt voor een ander doel dan het specifieke doel waarvoor het is gebouwd.

    Verder, terwijl deze AI-tools worden ontwikkeld en ingezet, proberen mensen met schadelijke agenda's - of het nu gaat om vijandige naties, gewelddadige extremisten, criminelen of andere slechte actoren - ze actief te ontwijken en te manipuleren, vaak met behulp van hun eigen geavanceerde tools. Deze stand van zaken, vaak aangeduid als een wapenwedloop of kat-en-muisspel, is een gemeenschappelijk aspect van vele soorten nieuwe technologie, zoals op het gebied van cyberbeveiliging. Deze ongelukkige functie zal niet verdwijnen, en de grootste strijd hier is ervoor te zorgen dat tegenstanders niet aan de leiding staan. Deze taak omvat het overwegen van mogelijke ontwijkingen en manipulaties in de ontwikkelingsfase van het gereedschap en waakzaam zijn hierover na de implementatie. Deze broosheid in de tools - het feit dat ze kunnen falen met zelfs kleine aanpassingen aan de ingangen - kan echter een inherente fout zijn.

    Hoewel AI op dit gebied blijft vorderen, ook met bestaande overheidssteun, suggereren al deze belangrijke zorgen dat het Congres, toezichthouders, platforms, wetenschappers en anderen grote zorg moeten betrachten en de aandacht moeten vestigen op verschillende gerelateerde overwegingen.

    Lees de aankondiging van het rapport.

    Lees het volledige rapport: Bestrijding van online schade door innovatie (pdf) - Mouseover to Scroll

    Bestrijding van online schade door innovatie; Rapport van de Federal Trade Commission aan het Congres

    Lees het originele rapport.

    *Gedeeld met toestemming.

    Aanvullend lezen

    Investeringen in eDiscovery (een lopende vermelding)

    Een beknopte kijk op de activiteiten van eDiscovery: fusies, overnames en investeringen

    Bron: ComplexDiscovery

    Buiten de perimeter? De DoD Zero Trust-strategie en routekaart

    Current and future cyber threats and attacks drive the need for...

    Uitgaven en normen in evenwicht brengen? Investeringen in cyberbeveiliging in de Europese Unie

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    Strengere toezicht- en handhavingsmaatregelen? Europees Parlement neemt nieuwe cyberbeveiligingswet aan

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    Geopolitieke shakedowns? Het jaarlijkse ENISA Threat Landscape Report — 10e editie

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    Een door technologie aangestuurde oplossing? Integreon kondigt nieuwe Chief Executive Officer aan

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    Een magneet voor inkomsten? Magnet Forensics maakt resultaten voor het derde kwartaal van 2022 bekend

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    Vooruitgang en kansen? Cellebrite maakt resultaten voor het derde kwartaal van 2022 bekend

    “We are pleased to report a solid third quarter, delivering strong...

    Aanhoudende groei aanwakkeren? Renovus Capital neemt adviesactiviteiten over van HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Een combinatie van eDiscovery-marktomvang: 2022-2027 Wereldwijd overzicht van software en services

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    Onderweg? 2022 eDiscovery Market Kinetics: vijf interessegebieden

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Vertrouw end op het proces? 2021 eDiscovery Processing Taak-, bestedings- en kostengegevens

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Het jaar in review? 2021 eDiscovery Review Taak-, uitgaven- en kostengegevenspunten

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Vijf geweldige artikelen over cyber, data en juridische ontdekkingen voor november 2022

    From cyber shakedowns and threats to the total cost of eDiscovery...

    Vijf geweldige artikelen over cyber-, data- en juridische ontdekkingen voor oktober 2022

    From cyber claims and data privacy to corporate litigation and the...

    Vijf geweldige artikelen over cyber-, data- en juridische ontdekkingen voor september 2022

    From privacy legislation and special masters to acquisitions and investigations, the...

    Vijf geweldige lezingen over cyber-, data- en juridische ontdekking voor augustus 2022

    From AI and Big Data challenges to intriguing financial and investment...

    Op locatie of op afstand? Enquête over voorkeuren van documentbeoordelaars (winter 2023)

    Today CompexDiscovery expands that survey portfolio by introducing a new business...

    In het huis? De enquête over de totale eigendomskosten van eDiscovery in het najaar van 2022

    Today CompexDiscovery shares the results of a new business survey focused...

    Zorgen over Cold Front Achttien observaties over het vertrouwen van bedrijven in eDiscovery in de herfst van 2022

    In the fall of 2022, 49.0% of survey respondents felt that...

    Stereotypering van gegevens? Kwesties die van invloed zijn op de bedrijfsprestaties van eDiscovery: een

    In the fall of 2022, 28.0% of respondents viewed increasing types...

    De komst van General Winter? Conflictbeoordelingen in Oekraïne op kaarten (21-27 november 2022)

    According to a recent update from the Institute for the Study...

    Uitgraven en erin graven? Conflictbeoordelingen in Oekraïne op kaarten (14-20 november 2022)

    According to a recent update from the Institute for the Study...

    Een bevrijdend momentum? Conflictbeoordelingen in Oekraïne op kaarten (7-13 november 2022)

    According to a recent update from the Institute for the Study...

    Retoriek of realiteit? Conflictbeoordelingen in Oekraïne op kaarten (1-6 november 2022)

    According to a recent update from the Institute for the Study...