Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Note de l'éditeur : De temps à autre, ComplexDiscovery met en avant des annonces accessibles au public ou achetables à titre privé, des mises à jour de contenu et des recherches de fournisseurs de cyberdétection, de données et de découverte juridique, d'organismes de recherche et de membres de la communauté ComplexDiscovery. Bien que ComplexDiscovery mette régulièrement en évidence ces informations, il n'assume aucune responsabilité pour les assertions de contenu.

    Pour soumettre des recommandations à prendre en compte et à inclure dans les annonces de services, de produits ou de recherche centrés sur la cybersécurité, les données et la découverte juridique de ComplexDiscovery, contactez-nous dès aujourd'hui.

    Note d'information : Récemment, la Federal Trade Commission a publié un rapport au Congrès mettant en garde contre l'utilisation de l'intelligence artificielle (IA) pour lutter contre les problèmes en ligne et exhortant les décideurs politiques à faire preuve d'une « grande prudence » lorsqu'il s'agit d'une solution politique. L'utilisation de l'IA, en particulier par les grandes plateformes technologiques et d'autres entreprises, comporte ses propres limites et problèmes. Le rapport souligne les préoccupations importantes selon lesquelles les outils d'IA peuvent être inexacts, biaisés et discriminatoires de par leur conception et incite à s'appuyer sur des formes de surveillance commerciale de plus en plus invasives. Le rapport peut être utile aux professionnels de la cybersécurité, de la gouvernance de l'information et de la récupération sur demande juridique qui cherchent à mieux comprendre les préoccupations et les défis liés à la lutte contre les préjudices en ligne, tels que décrits et accentués par la Federal Trade Commission.

    Rapport de la Federal Trade Commission*

    Combattre les méfaits en ligne grâce à l'innovation - Rapport de la FTC au Congrès

    Extrait du résumé

    Le déploiement d'outils d'IA destinés à détecter ou à traiter les contenus en ligne préjudiciables s'accélère. En grande partie dans les limites — ou grâce au financement de — les quelques grandes entreprises technologiques qui disposent des ressources et de l'infrastructure nécessaires, les outils d'IA sont conçus, développés et utilisés à des fins telles que la lutte contre de nombreux préjudices énumérés par le Congrès. Compte tenu de la quantité de contenu en ligne en cause, ce résultat semble inévitable, car une alternative strictement humaine est impossible ou extrêmement coûteuse à grande échelle.

    Néanmoins, il est essentiel de comprendre que ces outils restent largement rudimentaires, présentent des limites importantes et peuvent ne jamais être appropriés dans certains cas comme alternative au jugement humain. Leur utilisation, aujourd'hui et à l'avenir, soulève de nombreuses préoccupations juridiques et politiques persistantes. La principale conclusion de ce rapport est donc que les gouvernements, les plateformes et autres doivent faire preuve d'une grande prudence en imposant l'utilisation de ces outils ou en s'y fiant excessivement, même dans le but important de réduire les préjudices. Bien qu'elle ne relève pas de notre champ d'application, cette conclusion implique que, si l'IA n'est pas la solution et si l'échelle rend impossible une surveillance humaine significative, nous devons envisager d'autres moyens, réglementaires ou autres, pour faire face à la propagation de ces préjudices.

    L'un des principaux défauts de ces outils est que les ensembles de données qui les prennent en charge ne sont souvent pas suffisamment robustes ou précis pour éviter les faux positifs ou les faux négatifs. Le problème tient en partie au fait que les systèmes automatisés sont entraînés sur des données précédemment identifiées, puis ont du mal à identifier de nouveaux phénomènes (par exemple, la désinformation sur la COVID-19). Des résultats erronés peuvent également résulter de problèmes liés à la conception d'un algorithme donné. Un autre problème est que les outils utilisent des proxies qui représentent un type de contenu réel, même si ce contenu est souvent trop complexe, dynamique et subjectif pour être capturé, quelles que soient la quantité et la qualité des données collectées. En fait, la façon dont les chercheurs classent le contenu dans les données de formation inclut généralement la suppression de la complexité et du contexte, c'est-à-dire les éléments mêmes dont les outils ont besoin dans certains cas pour distinguer le contenu nuisible ou non. Ces défis signifient que les développeurs et les opérateurs de ces outils sont nécessairement réactifs et que les outils, en supposant qu'ils fonctionnent, doivent être ajustés en permanence, même lorsqu'ils sont conçus pour effectuer leurs propres ajustements.

    Les limites de ces outils vont bien au-delà de simples résultats inexacts. Dans certains cas, une précision accrue pourrait elle-même entraîner d'autres préjudices, tels que la mise en place de formes de surveillance de plus en plus invasives. Même avec de bonnes intentions, leur utilisation peut également entraîner une aggravation des préjudices par le biais de préjugés, de discrimination et de censure. Encore une fois, ces résultats peuvent refléter des problèmes liés aux données d'entraînement (éventuellement choisies ou classées sur la base de jugements erronés ou mal étiquetées par des travailleurs insuffisamment formés), à la conception algorithmique ou à des idées préconçues que les data scientists introduisent par inadvertance. Ils peuvent également résulter du fait que certains contenus sont sujets à des significations différentes et changeantes, en particulier selon les cultures et les langues. Ces mauvais résultats peuvent également dépendre de la personne qui utilise les outils et de leurs incitations à le faire, et de la question de savoir si l'outil est utilisé à une fin autre que celle pour laquelle il a été conçu.

    En outre, au fur et à mesure que ces outils d'IA sont développés et déployés, ceux qui ont des objectifs néfastes, qu'il s'agisse de nations conflictuelles, d'extrémistes violents, de criminels ou d'autres acteurs malveillants, cherchent activement à les échapper et à les manipuler, souvent en utilisant leurs propres outils sophistiqués. Cet état de fait, souvent appelé course aux armements ou jeu du chat et de la souris, est un aspect commun à de nombreux types de nouvelles technologies, notamment dans le domaine de la cybersécurité. Cette caractéristique malheureuse ne disparaîtra pas, et le principal combat ici est de s'assurer que les adversaires ne sont pas en tête. Cette tâche comprend l'examen des évasions et manipulations possibles au stade du développement de l'outil et la vigilance à leur sujet après le déploiement. Cependant, cette fragilité des outils — le fait qu'ils peuvent échouer même avec de petites modifications des entrées — peut être un défaut inhérent.

    Alors que l'IA continue de progresser dans ce domaine, y compris avec le soutien gouvernemental existant, toutes ces préoccupations importantes suggèrent que le Congrès, les régulateurs, les plateformes, les scientifiques et autres devraient faire preuve d'une grande prudence et concentrer leur attention sur plusieurs considérations connexes.

    Lisez l'annonce du rapport.

    Lire le rapport complet : Combattre les méfaits en ligne grâce à l'innovation (PDF) - Passez la souris pour faire défiler

    Combattre les méfaits en ligne grâce à l'innovation ; rapport de la Federal Trade Commission au Congrès

    Lisez le rapport original.

    *Partagé avec autorisation.

    Lectures supplémentaires

    Investissements dans l'eDiscovery (une liste en cours)

    Un aperçu abrégé des activités de découverte électronique : fusions, acquisitions et investissements

    Source : ComplexDiscovery

    Au-delà du périmètre ? La stratégie et la feuille de route Zero Trust du DoD

    Current and future cyber threats and attacks drive the need for...

    Trouver un équilibre entre les dépenses et les normes ? Investissements dans la cybersécurité dans l'Union européenne

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    Des mesures de surveillance et d'exécution plus strictes ? Le Parlement européen adopte une nouvelle loi sur la cybersécurité

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    Des bouleversements géopolitiques ? Rapport annuel de l'ENISA sur le paysage des menaces — 10e édition

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    Une solution axée sur la technologie ? Integreon annonce la nomination d'un nouveau directeur général

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    Une source de revenus ? Magnet Forensics annonce ses résultats du troisième trimestre 2022

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    Progrès et opportunité ? Cellebrite annonce ses résultats du troisième trimestre 2022

    “We are pleased to report a solid third quarter, delivering strong...

    Stimuler une croissance continue ? Renovus Capital acquiert l'activité de conseil de HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Une analyse de la taille du marché de l'eDiscovery : aperçu mondial des logiciels et des services en 2027

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    En mouvement ? Cinétique du marché de l'eDiscovery 2022 : cinq domaines d'intérêt

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Vous faites confiance au processus ? Données sur les tâches, les dépenses et les coûts de traitement de l'eDiscovery 2021

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Bilan de l'année ? Points de données sur les tâches, les dépenses et les coûts de révision de l'eDiscovery 2021

    Based on the complexity of cybersecurity, information governance, and legal discovery,...