Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Anmerkung der Redaktion: Von Zeit zu Zeit hebt ComplexDiscovery öffentlich zugängliche oder privat käufliche Ankündigungen, Inhaltsaktualisierungen und Recherchen von Cyber-, Daten- und Legal Discovery-Anbietern, Forschungsorganisationen und Mitgliedern der ComplexDiscovery-Community hervor. ComplexDiscovery hebt diese Informationen zwar regelmäßig hervor, übernimmt jedoch keine Verantwortung für Inhaltsbehauptungen.

    Kontaktieren Sie uns noch heute, um Empfehlungen zur Prüfung und Aufnahme in die Cyber-, Daten- und Legal Discovery-zentrierten Service-, Produkt- oder Forschungsankündigungen von ComplexDiscovery einzureichen.

    Hintergrundnotiz: Kürzlich hat die Federal Trade Commission einen Bericht an den Kongress veröffentlicht, in dem sie vor dem Einsatz künstlicher Intelligenz (KI) zur Bekämpfung von Online-Problemen warnte und die politischen Entscheidungsträger aufforderte, „große Vorsicht“ walten zu lassen, wenn sie sich auf sie als politische Lösung verlassen. Der Einsatz von KI, insbesondere durch große Technologieplattformen und andere Unternehmen, ist mit eigenen Einschränkungen und Problemen verbunden. Der Bericht skizziert erhebliche Bedenken, dass KI-Tools von Natur aus ungenau, voreingenommen und diskriminierend sein können, und bietet Anreize, sich auf zunehmend invasive Formen der kommerziellen Überwachung zu verlassen. Der Bericht kann für Fachleute in den Bereichen Cybersicherheit, Information Governance und Legal Discovery von Vorteil sein, die die von der Federal Trade Commission dargelegten und akzentuierten Bedenken und Herausforderungen bei der Bekämpfung von Online-Schäden besser verstehen möchten.

    Bericht der Federal Trade Kommission*

    Bekämpfung von Online-Schäden durch Innovation - FTC-Bericht an den Kongress

    Zusammenfassung der Zusammenfassung

    Der Einsatz von KI-Tools zur Erkennung oder anderweitigen Bekämpfung schädlicher Online-Inhalte beschleunigt sich. KI-Tools werden größtenteils innerhalb der Grenzen - oder durch Mittel - der wenigen großen Technologieunternehmen, die über die erforderlichen Ressourcen und Infrastruktur verfügen, konzipiert, entwickelt und für Zwecke wie die Bekämpfung vieler der vom Kongress aufgeführten Schäden eingesetzt. Angesichts der Menge der fraglichen Online-Inhalte scheint dieses Ergebnis unvermeidlich zu sein, da eine rein menschliche Alternative unmöglich oder in großem Maßstab äußerst kostspielig ist.

    Nichtsdestotrotz ist es wichtig zu verstehen, dass diese Instrumente weitgehend rudimentär bleiben, erhebliche Einschränkungen aufweisen und in einigen Fällen möglicherweise nie als Alternative zum menschlichen Urteilsvermögen geeignet sind. Ihre Verwendung - sowohl jetzt als auch in Zukunft - wirft eine Vielzahl anhaltender rechtlicher und politischer Bedenken auf. Die wichtigste Schlussfolgerung dieses Berichts ist daher, dass Regierungen, Plattformen und andere große Vorsicht walten lassen müssen, wenn sie entweder die Verwendung dieser Instrumente vorschreiben oder sich übermäßig auf sie verlassen, selbst für den wichtigen Zweck der Schadensminderung. Obwohl außerhalb unseres Geltungsbereichs liegt, impliziert diese Schlussfolgerung, dass wir, wenn KI nicht die Antwort ist und wenn das Ausmaß eine sinnvolle menschliche Aufsicht unmöglich macht, nach anderen regulatorischen oder sonstigen Wegen suchen müssen, um der Ausbreitung dieser Schäden entgegenzuwirken.

    Ein zentrales Versagen dieser Tools besteht darin, dass die sie unterstützenden Datensätze häufig nicht robust oder genau genug sind, um falsch positive oder falsch negative Ergebnisse zu vermeiden. Ein Teil des Problems besteht darin, dass automatisierte Systeme auf zuvor identifizierten Daten trainiert werden und dann Probleme haben, neue Phänomene zu identifizieren (z. B. Fehlinformationen über COVID-19). Fehlerhafte Ergebnisse können auch auf Probleme bei der Gestaltung eines bestimmten Algorithmus zurückzuführen sein. Ein weiteres Problem ist, dass die Tools Proxys verwenden, die für eine tatsächliche Art von Inhalt stehen, obwohl dieser Inhalt oft zu komplex, dynamisch und subjektiv ist, um erfasst zu werden, unabhängig von der Menge und Qualität der gesammelten Daten. Tatsächlich beinhaltet die Art und Weise, wie Forscher Inhalte in den Trainingsdaten klassifizieren, im Allgemeinen die Beseitigung von Komplexität und Kontext - genau die Dinge, die die Tools in einigen Fällen benötigen, um zwischen Inhalten zu unterscheiden, die schädlich sind oder nicht. Diese Herausforderungen bedeuten, dass Entwickler und Betreiber dieser Tools notwendigerweise reaktiv sind und dass die Tools - vorausgesetzt, sie funktionieren - ständig angepasst werden müssen, auch wenn sie für ihre eigenen Anpassungen entwickelt wurden.

    Die Einschränkungen dieser Tools gehen weit über bloß ungenaue Ergebnisse hinaus. In einigen Fällen könnte eine erhöhte Genauigkeit selbst zu anderen Schäden führen, z. B. die Ermöglichung zunehmend invasiver Formen der Überwachung. Selbst bei guten Absichten kann ihre Verwendung auch zu verschärfenden Schäden durch Voreingenommenheit, Diskriminierung und Zensur führen. Auch diese Ergebnisse können Probleme mit den Trainingsdaten (möglicherweise aufgrund fehlerhafter Urteile ausgewählt oder klassifiziert oder von unzureichend ausgebildeten Mitarbeitern falsch etikettiert), dem algorithmischen Design oder Vorurteile, die Datenwissenschaftler versehentlich einbringen, widerspiegeln. Sie können auch aus der Tatsache resultieren, dass einige Inhalte unterschiedlichen und wechselnden Bedeutungen unterliegen, insbesondere über verschiedene Kulturen und Sprachen hinweg. Diese schlechten Ergebnisse können auch davon abhängen, wer die Tools verwendet und welche Anreize dafür bestehen und ob das Tool für einen anderen Zweck als den spezifischen verwendet wird, für den es entwickelt wurde.

    Während diese KI-Tools entwickelt und eingesetzt werden, versuchen diejenigen mit schädlichen Agenden - ob gegnerische Nationen, gewalttätige Extremisten, Kriminelle oder andere schlechte Akteure - aktiv, ihnen auszuweichen und sie zu manipulieren, oft mit ihren eigenen ausgeklügelten Werkzeugen. Dieser Zustand, der oft als Wettrüsten oder Katz-und-Maus-Spiel bezeichnet wird, ist ein häufiger Aspekt vieler Arten neuer Technologien, beispielsweise im Bereich der Cybersicherheit. Dieses unglückliche Merkmal wird nicht verschwinden, und der Hauptkampf besteht darin, sicherzustellen, dass die Gegner nicht an der Spitze stehen. Zu dieser Aufgabe gehört es, mögliche Ausweichmanöver und Manipulationen in der Phase der Werkzeugentwicklung zu berücksichtigen und nach dem Einsatz wachsam zu sein. Diese Sprödigkeit der Werkzeuge - die Tatsache, dass sie selbst bei kleinen Änderungen an den Eingängen versagen können - kann jedoch ein inhärenter Fehler sein.

    Während die KI in diesem Bereich weiter voranschreitet, auch mit bestehender staatlicher Unterstützung, deuten all diese wichtigen Bedenken darauf hin, dass der Kongress, Regulierungsbehörden, Plattformen, Wissenschaftler und andere große Sorgfalt walten lassen und die Aufmerksamkeit auf mehrere verwandte Überlegungen lenken sollten.

    Lesen Sie die Ankündigung des Berichts.

    Vollständigen Bericht lesen: Bekämpfung von Online-Schäden durch Innovation (PDF) - Mouseover zum Scrollen

    Bekämpfung von Online-Schäden durch Innovation; Bericht der Federal Trade Commission an den Kongress

    Lesen Sie den Originalbericht.

    *Mit Genehmigung geteilt.

    Zusätzliche Lektüre

    Investitionen in eDiscovery (Ein laufendes Listing)

    Ein gekürzter Blick auf das Geschäft von eDiscovery: Fusionen, Übernahmen und Investitionen

    Quelle: ComplexDiscovery

    Jenseits des Perimeters? Die DoD Zero-Trust-Strategie und Roadmap

    Current and future cyber threats and attacks drive the need for...

    Ausgaben und Standards in Einklang bringen? Investitionen in die Cybersicherheit in der Europäischen Union

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    Strengere Überwachungs- und Durchsetzungsmaßnahmen Europäisches Parlament verabschiedet neues Cybersicherheitsgesetz

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    Geopolitische Erschütterungen? Der jährliche ENISA-Bedrohungslandschaftsbericht — 10. Ausgabe

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    Eine technologiegetriebene Lösung? Integreon gibt neuen Vorstandsvorsitzenden bekannt

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    Ein Magnet für Einnahmen? Magnet Forensics gibt Ergebnisse für das dritte Quartal 2022 bekannt

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    Fortschritt und Chancen? Cellebrite gibt Ergebnisse für das dritte Quartal 2022 bekannt

    “We are pleased to report a solid third quarter, delivering strong...

    Weiteres Wachstum vorantreiben? Renovus Capital erwirbt Beratungsgeschäft von HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Ein eDiscovery-Marktgrößen-Mashup: Weltweite Software- und Serviceübersicht 2022—2027

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    Unterwegs? 2022 eDiscovery-Marktkinetik: Fünf Interessenbereiche

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Dem Prozess vertrauen? 2021 eDiscovery-Verarbeitungsaufgaben-, Ausgaben- und Kostendaten

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Das Jahr im Rückblick? 2021 eDiscovery Review Aufgaben-, Ausgaben- und Kostendatenpunkte

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Fünf großartige Lektüre zu Cyber, Data und Legal Discovery für November 2022

    From cyber shakedowns and threats to the total cost of eDiscovery...

    Fünf großartige Lesungen zu Cyber, Data und Legal Discovery für Oktober 2022

    From cyber claims and data privacy to corporate litigation and the...

    Fünf großartige Lesungen zu Cyber, Data und Legal Discovery für September 2022

    From privacy legislation and special masters to acquisitions and investigations, the...

    Fünf großartige Lesungen zu Cyber-, Daten- und rechtlichen Erkenntnissen für August 2022

    From AI and Big Data challenges to intriguing financial and investment...

    Vor Ort oder aus der Ferne? Umfrage zu den Einstellungen von Dokumentenprüfern (Winter 2023)

    Today CompexDiscovery expands that survey portfolio by introducing a new business...

    Im Haus? Die eDiscovery-Umfrage zu den Gesamtbetriebskosten im Herbst 2022

    Today CompexDiscovery shares the results of a new business survey focused...

    Bedenken hinsichtlich der kalten Front? Achtzehn Beobachtungen zum Vertrauen der eDiscovery-Geschäfte im Herbst 2022

    In the fall of 2022, 49.0% of survey respondents felt that...

    Stereotypisierung von Daten? Probleme, die die Geschäftsleistung von eDiscovery beeinflussen: Ein Überblick über Herbst 2022

    In the fall of 2022, 28.0% of respondents viewed increasing types...

    Die Ankunft von General Winter? Konfliktanalysen in der Ukraine in Karten (21.-27. November 2022)

    According to a recent update from the Institute for the Study...

    Ausgraben und eingraben? Konfliktanalysen in der Ukraine in Karten (14.-20. November 2022)

    According to a recent update from the Institute for the Study...

    Eine befreiende Dynamik? Konfliktbewertungen in der Ukraine in Karten (7.-13. November 2022)

    According to a recent update from the Institute for the Study...

    Rhetorik oder Realität? Konfliktbewertungen in der Ukraine in Karten (1.-6. November 2022)

    According to a recent update from the Institute for the Study...