Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Nota do editor: De tempos em tempos, o ComplexDiscovery destaca anúncios publicamente disponíveis ou privados, atualizações de conteúdo e pesquisas de provedores de descobertas cibernéticas, de dados e legais, organizações de pesquisa e membros da comunidade ComplexDiscovery. Embora o ComplexDiscovery destaque regularmente essas informações, ele não assume nenhuma responsabilidade pelas afirmações de conteúdo.

    Para enviar recomendações para consideração e inclusão nos anúncios de pesquisa, produtos ou serviços centrados em descobertas jurídicas, cibernéticas e de dados da ComplexDiscovery, entre em contato conosco hoje mesmo.

    Nota de fundo: Recentemente, a Federal Trade Commission emitiu um relatório ao Congresso alertando sobre o uso de inteligência artificial (IA) para combater problemas on-line e instando os formuladores de políticas a terem “grande cautela” ao confiar nela como uma solução política. O uso da IA, particularmente por grandes plataformas de tecnologia e outras empresas, vem com limitações e problemas próprios. O relatório descreve preocupações significativas de que as ferramentas de IA podem ser imprecisas, tendenciosas e discriminatórias por design e incentivam a dependência de formas cada vez mais invasivas de vigilância comercial. O relatório pode ser benéfico para profissionais de segurança cibernética, governança da informação e descoberta legal que buscam entender melhor as preocupações e desafios do combate aos danos on-line, conforme descrito e acentuado pela Federal Trade Commission.

    Relatório da Federal Trade Commission*

    Combatendo os danos online por meio da inovação - Relatório da FTC ao Congresso

    Extrato de resumo executivo

    A implantação de ferramentas de IA destinadas a detectar ou abordar conteúdo on-line prejudicial está se acelerando. Em grande parte dentro dos limites - ou por meio de financiamento - das poucas grandes empresas de tecnologia que têm os recursos e a infraestrutura necessários, as ferramentas de IA estão sendo concebidas, desenvolvidas e usadas para fins que incluem o combate contra muitos dos danos listados pelo Congresso. Dada a quantidade de conteúdo on-line em questão, esse resultado parece ser inevitável, pois uma alternativa estritamente humana é impossível ou extremamente cara em escala.

    No entanto, é crucial entender que essas ferramentas permanecem amplamente rudimentares, têm limitações substanciais e podem nunca ser apropriadas em alguns casos como uma alternativa ao julgamento humano. Seu uso - agora e no futuro - levanta uma série de preocupações legais e políticas persistentes. A principal conclusão deste relatório é, portanto, que governos, plataformas e outros devem ter grande cautela ao exigir o uso ou confiar demais nessas ferramentas, mesmo com o propósito importante de reduzir os danos. Embora fora do nosso escopo, essa conclusão implica que, se a IA não for a resposta e se a escala inviabilizar a supervisão humana significativa, devemos olhar para outras formas, regulatórias ou não, para lidar com a propagação desses danos.

    Uma falha central dessas ferramentas é que os conjuntos de dados que as suportam geralmente não são robustos ou precisos o suficiente para evitar falsos positivos ou falsos negativos. Parte do problema é que os sistemas automatizados são treinados em dados previamente identificados e, em seguida, têm problemas para identificar novos fenômenos (por exemplo, desinformação sobre a COVID-19). Resultados equivocados também podem resultar de problemas com a forma como um determinado algoritmo é projetado. Outro problema é que as ferramentas usam proxies que substituem algum tipo real de conteúdo, mesmo que esse conteúdo seja muitas vezes muito complexo, dinâmico e subjetivo para capturar, não importa a quantidade e a qualidade dos dados coletados. Na verdade, a maneira como os pesquisadores classificam o conteúdo nos dados de treinamento geralmente inclui a remoção da complexidade e do contexto - as mesmas coisas que, em alguns casos, as ferramentas precisam distinguir entre conteúdo que é ou não prejudicial. Esses desafios significam que os desenvolvedores e operadores dessas ferramentas são necessariamente reativos e que as ferramentas - supondo que funcionem - precisam de ajustes constantes, mesmo quando são construídas para fazer seus próprios ajustes.

    As limitações dessas ferramentas vão muito além de resultados meramente imprecisos. Em alguns casos, o aumento da precisão pode levar a outros danos, como permitir formas cada vez mais invasivas de vigilância. Mesmo com boas intenções, seu uso também pode levar a danos exacerbados por meio de preconceito, discriminação e censura. Novamente, esses resultados podem refletir problemas com os dados de treinamento (possivelmente escolhidos ou classificados com base em julgamentos falhos ou rotulados incorretamente por trabalhadores insuficientemente treinados), o design algorítmico ou preconceitos que os cientistas de dados introduzem inadvertidamente. Eles também podem resultar do fato de que alguns conteúdos estão sujeitos a significados diferentes e variáveis, especialmente em diferentes culturas e idiomas. Esses resultados ruins também podem depender de quem está usando as ferramentas e seus incentivos para fazer isso, e se a ferramenta está sendo usada para um propósito diferente daquele específico para o qual foi construída.

    Além disso, à medida que essas ferramentas de IA são desenvolvidas e implantadas, aqueles com agendas prejudiciais - sejam nações adversárias, extremistas violentos, criminosos ou outros atores mal-intencionados - procuram ativamente evitá-los e manipulá-los, muitas vezes usando suas próprias ferramentas sofisticadas. Esse estado de coisas, muitas vezes referido como corrida armamentista ou jogo de gato e rato, é um aspecto comum de muitos tipos de novas tecnologias, como na área de segurança cibernética. Esse recurso infeliz não desaparecerá, e a principal luta aqui é garantir que os adversários não estejam na liderança. Essa tarefa inclui considerar possíveis evasões e manipulações no estágio de desenvolvimento da ferramenta e estar atento a elas após a implantação. No entanto, essa fragilidade nas ferramentas - o fato de que elas podem falhar mesmo com pequenas modificações nas entradas - pode ser uma falha inerente.

    Embora a IA continue avançando nessa área, inclusive com o apoio governamental existente, todas essas preocupações significativas sugerem que o Congresso, reguladores, plataformas, cientistas e outros devem ter muito cuidado e concentrar a atenção em várias considerações relacionadas.

    Leia o anúncio do relatório.

    Leia o relatório completo: Combatendo os danos on-line por meio da inovação (PDF) - Passe o mouse para rolar

    Combatendo os danos online por meio da inovação; Relatório da Comissão Federal de Comércio ao Congresso

    Leia o relatório original.

    *Compartilhado com permissão.

    Leitura adicional

    Investimentos em eDiscovery (uma listagem contínua)

    Uma visão resumida do negócio de eDiscovery: fusões, aquisições e investimentos

    Fonte: ComplexDiscovery

    Além do perímetro? A estratégia e o roteiro do DoD Zero Trust

    Current and future cyber threats and attacks drive the need for...

    Equilibrando gastos e padrões? Investimentos em cibersegurança na União Europeia

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    Medidas de supervisão e fiscalização mais rígidas? Parlamento Europeu adota nova lei de cibersegurança

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    Extorsões geopolíticas? Relatório anual sobre o cenário de ameaças da ENISA — 10ª edição

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    Uma solução orientada pela tecnologia? Integreon anuncia novo CEO

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    Um ímã para a receita? Magnet Forensics anuncia resultados do terceiro trimestre de 2022

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    Progresso e oportunidade? Cellebrite anuncia resultados do terceiro trimestre de 2022

    “We are pleased to report a solid third quarter, delivering strong...

    Impulsionando o crescimento contínuo? Renovus Capital adquire negócios de consultoria da HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Uma mistura do tamanho do mercado de eDiscovery: visão geral mundial de software e serviços de 2022-2027

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    Em movimento? Cinética de mercado de eDiscovery 2022: cinco áreas de interesse

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    Confiando no processo? Dados de tarefas, gastos e custos de processamento de eDiscovery 2021

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    O ano em análise? 2021 eDiscovery Analise pontos de dados de tarefas, gastos e custos

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Cinco ótimas leituras sobre descobertas cibernéticas, de dados e jurídicas para novembro de 2022

    From cyber shakedowns and threats to the total cost of eDiscovery...

    Cinco ótimas leituras sobre descobertas cibernéticas, de dados e legais para outubro de 2022

    From cyber claims and data privacy to corporate litigation and the...

    Cinco ótimas leituras sobre descobertas cibernéticas, de dados e legais para setembro de 2022

    From privacy legislation and special masters to acquisitions and investigations, the...

    Cinco ótimas leituras sobre descoberta cibernética, de dados e jurídica para agosto de 2022

    From AI and Big Data challenges to intriguing financial and investment...

    No local ou remoto? Pesquisa de preferências do revisor de documentos (inverno de 2023)

    Today CompexDiscovery expands that survey portfolio by introducing a new business...

    Na casa? A pesquisa de custo total de propriedade do eDiscovery do outono de 2022

    Today CompexDiscovery shares the results of a new business survey focused...

    Preocupações com a Cold Dezoito observações sobre a confiança nos negócios de eDiscovery no outono de 2022

    In the fall of 2022, 49.0% of survey respondents felt that...

    Dados de estereotipagem? Problemas que afetam o desempenho dos negócios de eDiscovery: uma visão geral do outono de 2022

    In the fall of 2022, 28.0% of respondents viewed increasing types...