Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Nota del editor: De vez en cuando, ComplexDiscovery destaca anuncios, actualizaciones de contenido e investigaciones disponibles de forma pública o privada de proveedores de descubrimiento cibernético, de datos y legal, organizaciones de investigación y miembros de la comunidad de ComplexDiscovery. Si bien ComplexDiscovery destaca regularmente esta información, no asume ninguna responsabilidad por las afirmaciones de contenido.

    Para enviar recomendaciones para su consideración e inclusión en los anuncios de investigación, productos o servicios centrados en el descubrimiento cibernético, de datos y legal de ComplexDiscovery, póngase en contacto con nosotros hoy mismo.

    Nota de antecedentes: Recientemente, la Comisión Federal de Comercio emitió un informe al Congreso advirtiendo sobre el uso de la inteligencia artificial (IA) para combatir los problemas en línea e instando a los responsables políticos a actuar con «gran cautela» al confiar en ella como solución política. El uso de la IA, especialmente por parte de las grandes plataformas tecnológicas y otras empresas, conlleva limitaciones y problemas propios. El informe describe preocupaciones importantes de que las herramientas de IA puedan ser imprecisas, sesgadas y discriminatorias por diseño e incentivar el uso de formas de vigilancia comercial cada vez más invasivas. El informe puede ser beneficioso para los profesionales de la ciberseguridad, la gobernanza de la información y el descubrimiento legal que buscan comprender mejor las preocupaciones y los desafíos de la lucha contra los daños en línea, tal como lo describe y acentúa la Comisión Federal de Comercio.

    Informe de la Comisión Federal de Comercio*

    Combatir los daños en línea mediante la innovación: informe de la FTC al Congreso

    Extracto del resumen ejecutivo

    La implementación de herramientas de IA destinadas a detectar o abordar de otro modo el contenido en línea dañino se está acelerando. En gran medida dentro de los límites, o mediante financiación de, las pocas grandes empresas de tecnología que tienen los recursos y la infraestructura necesarios, las herramientas de IA se están concebiendo, desarrollando y utilizando para fines que incluyen la lucha contra muchos de los daños enumerados por el Congreso. Dada la cantidad de contenido en línea en cuestión, este resultado parece inevitable, ya que una alternativa estrictamente humana es imposible o extremadamente costosa a escala.

    Sin embargo, es crucial entender que estas herramientas siguen siendo en gran medida rudimentarias, tienen limitaciones sustanciales y pueden no ser apropiadas en algunos casos como alternativa al juicio humano. Su uso, tanto ahora como en el futuro, plantea una serie de preocupaciones legales y políticas persistentes. La conclusión clave de este informe es, por lo tanto, que los gobiernos, las plataformas y otros deben actuar con mucha cautela al ordenar el uso de estas herramientas o confiar demasiado en ellas, incluso con el importante propósito de reducir los daños. Aunque está fuera de nuestro alcance, esta conclusión implica que, si la IA no es la respuesta y si la escala hace que la supervisión humana significativa sea inviable, debemos buscar otras formas, reglamentarias o de otro tipo, para abordar la propagación de estos daños.

    Una falla fundamental de estas herramientas es que los conjuntos de datos que las soportan no suelen ser lo suficientemente robustos o precisos como para evitar falsos positivos o falsos negativos. Parte del problema es que los sistemas automatizados se entrenan con datos previamente identificados y luego tienen problemas para identificar nuevos fenómenos (por ejemplo, información errónea sobre COVID-19). Los resultados erróneos también pueden ser el resultado de problemas con la forma en que se diseña un algoritmo determinado. Otro problema es que las herramientas utilizan proxies que representan algún tipo de contenido real, aunque ese contenido suele ser demasiado complejo, dinámico y subjetivo para capturarlo, sin importar la cantidad y la calidad de los datos que se hayan recopilado. De hecho, la forma en que los investigadores clasifican el contenido en los datos de entrenamiento generalmente incluye eliminar la complejidad y el contexto, las mismas cosas que, en algunos casos, las herramientas necesitan distinguir entre el contenido que es dañino o no. Estos desafíos significan que los desarrolladores y operadores de estas herramientas son necesariamente reactivos y que las herramientas, suponiendo que funcionan, necesitan un ajuste constante incluso cuando están diseñadas para realizar sus propios ajustes.

    Las limitaciones de estas herramientas van mucho más allá de los resultados simplemente imprecisos. En algunos casos, el aumento de la precisión podría provocar otros daños, como permitir formas de vigilancia cada vez más invasivas. Incluso con buenas intenciones, su uso también puede llevar a exacerbar los daños a través del sesgo, la discriminación y la censura. Una vez más, estos resultados pueden reflejar problemas con los datos de capacitación (posiblemente elegidos o clasificados en función de juicios erróneos o mal etiquetados por trabajadores insuficientemente capacitados), el diseño algorítmico o las ideas preconcebidas que los científicos de datos introducen inadvertidamente. También pueden ser el resultado del hecho de que algunos contenidos están sujetos a significados diferentes y cambiantes, especialmente en diferentes culturas e idiomas. Estos malos resultados también pueden depender de quién esté utilizando las herramientas y sus incentivos para hacerlo, y de si la herramienta se utiliza para un propósito diferente al específico para el que se creó.

    Además, a medida que se desarrollan y despliegan estas herramientas de IA, aquellos con agendas dañinas, ya sean naciones adversarias, extremistas violentos, criminales u otros malos actores, buscan activamente evadirlas y manipularlas, a menudo utilizando sus propias herramientas sofisticadas. Este estado de cosas, a menudo denominado carrera armamentista o juego del gato y el ratón, es un aspecto común de muchos tipos de nuevas tecnologías, como en el área de la ciberseguridad. Esta desafortunada característica no desaparecerá, y la principal lucha aquí es garantizar que los adversarios no estén a la cabeza. Esta tarea incluye considerar posibles evasiones y manipulaciones en la etapa de desarrollo de la herramienta y estar alerta al respecto después del despliegue. Sin embargo, esta fragilidad en las herramientas (el hecho de que pueden fallar incluso con pequeñas modificaciones en las entradas) puede ser un defecto inherente.

    Si bien la IA sigue avanzando en esta área, incluso con el apoyo existente del gobierno, todas estas preocupaciones importantes sugieren que el Congreso, los reguladores, las plataformas, los científicos y otros deberían tener mucho cuidado y centrar la atención en varias consideraciones relacionadas.

    Lea el anuncio del informe.

    Lea el informe completo: Combatir los daños en línea a través de la innovación (PDF) - Pase el ratón para desplazarse

    Combatir los daños en línea mediante la innovación; informe de la Comisión Federal de Comercio al Congreso

    Lea el informe original.

    *Compartido con permiso.

    Lectura adicional

    Inversiones en eDiscovery (una lista en ejecución)

    Una mirada resumida al negocio de eDiscovery: fusiones, adquisiciones e inversiones

    Fuente: ComplexDiscovery

    ¿Más allá del perímetro? La estrategia y la hoja de ruta del DoD Zero Trust

    Current and future cyber threats and attacks drive the need for...

    ¿Equilibrar gastos y estándares? Inversiones en ciberseguridad en la Unión Europea

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    ¿Medidas de supervisión y ejecución más estrictas? El Parlamento Europeo adopta nueva ley de ciberseguridad

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    ¿Shakedowns geopolíticos? Informe anual sobre el panorama de amenazas de la ENISA — 10ª edición

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    ¿Una solución impulsada por la tecnología? Integreon anuncia a su nuevo director ejecutivo

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    ¿Un imán para los ingresos? Magnet Forensics anuncia los resultados del tercer trimestre de 2022

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    ¿Progreso y oportunidad? Cellebrite anuncia los resultados del tercer trimestre de 2022

    “We are pleased to report a solid third quarter, delivering strong...

    ¿Impulsar el crecimiento continuo? Renovus Capital adquiere el negocio de asesoría de HBR Consulting

    "The legal industry remains in the early stages of digital and...

    Una combinación del tamaño del mercado de eDiscovery: descripción general del software y los servicios en todo el mundo 2022-2027

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    ¿En movimiento? Cinética del mercado de eDiscovery para 2022: cinco áreas de interés

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    ¿Confiar en el proceso? Datos de costos, gastos y tareas de procesamiento de eDiscovery 2021

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    ¿El resumen del año? Puntos de datos de costos, gastos y tareas de revisión de eDiscovery 2021

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    Cinco excelentes lecturas sobre ciberseguridad, datos y descubrimiento legal para noviembre de 2022

    From cyber shakedowns and threats to the total cost of eDiscovery...

    Cinco excelentes lecturas sobre ciberseguridad, datos y descubrimiento legal para octubre de 2022

    From cyber claims and data privacy to corporate litigation and the...

    Cinco excelentes lecturas sobre ciberseguridad, datos y descubrimiento legal para septiembre de 2022

    From privacy legislation and special masters to acquisitions and investigations, the...

    Cinco excelentes lecturas sobre descubrimiento cibernético, de datos y legal para agosto de 2022

    From AI and Big Data challenges to intriguing financial and investment...