Fri. Dec 2nd, 2022
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    編集者注:ComplexDiscoveryは、公開または非公開で購入可能な発表、コンテンツの更新、およびサイバー、データ、法的証拠開示プロバイダー、研究機関、およびComplexDiscoveryコミュニティメンバーからの調査を随時強調しています。ComplexDiscoveryはこの情報を定期的に強調していますが、コンテンツアサーションについて一切の責任を負いません。

    ComplexDiscoveryのサイバー、データ、法的証拠開示中心のサービス、製品、または研究の発表に検討および含めるための推奨事項を提出するには、今すぐお問い合わせください。

    背景ノート:最近、連邦取引委員会は議会に報告書を発行し、人工知能(AI)を使用してオンラインの問題に対処し、政策立案者に人工知能(AI)を政策解決策として頼ることについて「細心の注意」を行使するよう促しました。特に大手テクノロジープラットフォームや他の企業によるAIの使用には、独自の制限と問題が伴います。このレポートは、AIツールが設計上不正確で、偏りがあり、差別的であり、ますます侵略的な形態の商業監視に依存するインセンティブを与える可能性があるという重大な懸念を概説しています。このレポートは、連邦取引委員会によって概説され、強調されているオンライン危害との闘いに関する懸念と課題をよりよく理解しようとしているサイバーセキュリティ、情報ガバナンス、法的証拠開示の専門家にとって有益である可能性があります。

    連邦取引委員会報告書*

    イノベーションを通じたオンライン危害との闘い-FTCが議会に報告

    エグゼクティブサマリー抜粋

    有害なオンラインコンテンツを検出または対処することを目的としたAIツールの導入が加速しています。AIツールは、必要なリソースとインフラストラクチャを備えた数少ない大手テクノロジー企業の範囲内で、または資金提供を通じて、議会によってリストされた多くの害との闘いを含む目的で考案、開発、使用されています。問題となっているオンラインコンテンツの量を考えると、厳密に人間の代替手段は不可能であるか、大規模に非常にコストがかかるため、この結果は避けられないようです。

    それにもかかわらず、これらのツールはほとんど初歩的なままであり、実質的な制限があり、場合によっては人間の判断に代わるものとして適切ではないかもしれないことを理解することが重要です。それらの使用は、現在および将来の両方で、多くの永続的な法的および政策上の懸念を引き起こします。したがって、このレポートの重要な結論は、政府やプラットフォームなどが、害を減らすという重要な目的であっても、これらのツールの使用を義務付けたり、過度に依存したりする際には細心の注意を払わなければならないということです。私たちの範囲外ではありますが、この結論は、AIが答えではなく、規模が意味のある人間の監視を実行不可能にする場合、これらの害の広がりに対処するために、規制またはその他の方法で他の方法を検討する必要があることを意味します。

    これらのツールの中心的な欠点は、それらをサポートするデータセットが、誤検出または偽陰性を回避するのに十分な堅牢性または正確性ではないことが多いことです。問題の一部は、自動化システムが以前に特定されたデータに基づいてトレーニングされ、新しい現象(COVID-19に関する誤った情報など)の特定に問題があることです。誤った結果は、特定のアルゴリズムの設計方法に関する問題からも生じる可能性があります。もう1つの問題は、収集したデータの量と品質に関係なく、コンテンツが複雑で動的で主観的でキャプチャできない場合が多いにもかかわらず、ツールが実際のタイプのコンテンツに代わるプロキシを使用することです。実際、研究者がトレーニングデータのコンテンツを分類する方法には、通常、複雑さとコンテキストを取り除くことが含まれます。これは、ツールが有害なコンテンツと有害でないコンテンツを区別するために必要なものです。これらの課題は、これらのツールの開発者と運用者が必然的に事後対応的であり、ツールが機能することを前提として、独自の調整を行うように構築されている場合でも、常に調整する必要があることを意味します。

    これらのツールの制限は、単なる不正確な結果をはるかに超えています。場合によっては、精度の向上自体が、ますます侵襲的な形態の監視を可能にするなど、他の害につながる可能性があります。善意があっても、それらの使用は偏見、差別、検閲による害の悪化につながる可能性もあります。繰り返しになりますが、これらの結果は、データサイエンティストが不注意に導入したトレーニングデータ(欠陥のある判断に基づいて選択または分類されたり、不十分な訓練を受けた労働者によって誤ってラベル付けされたりする可能性があります)、アルゴリズム設計、または先入観に関する問題を反映している可能性があります。また、一部のコンテンツは、特に異なる文化や言語にわたって、異なる意味や変化する意味の影響を受けるという事実から生じることもあります。これらの悪い結果は、誰がツールを使用しているか、そのためのインセンティブ、およびツールが構築された特定の目的以外の目的で使用されているかどうかにも依存する可能性があります。

    さらに、これらのAIツールが開発され、展開されるにつれて、敵対国家、暴力的な過激派、犯罪者、またはその他の悪意のある人物を問わず、有害なアジェンダを持つ人々は、多くの場合、独自の洗練されたツールを使用して、それらを回避および操作することを積極的に求めます。このような状況は、しばしば軍拡競争または猫とマウスのゲームと呼ばれ、サイバーセキュリティの分野など、多くの種類の新しいテクノロジーに共通する側面です。この不幸な機能は消え去ることはなく、ここでの主な闘いは、敵が主導権を握らないようにすることです。このタスクには、ツール開発段階で起こり得る回避と操作を検討し、展開後にそれらについて警戒することが含まれます。しかし、ツールのこの脆さ、つまり入力に小さな変更を加えても機能しなくなるという事実は、固有の欠陥かもしれません。

    AIは、既存の政府の支援を含め、この分野で進歩し続けていますが、これらの重大な懸念はすべて、議会、規制当局、プラットフォーム、科学者などが細心の注意を払い、いくつかの関連する考慮事項に注意を向けるべきであることを示唆しています。

    レポートの発表を読んでください。

    完全なレポートを読む:イノベーションによるオンライン危害との闘い(PDF)-マウスオーバーしてスクロール

    イノベーションによるオンライン危害との闘い、連邦取引委員会、議会への報告

    元のレポートを読みます。

    *許可を得て共有。

    追加読み物

    電子情報開示への投資 (実行中のリスト)

    電子情報開示のビジネスの概要:合併、買収、投資

    ソース:コンプレックスディスカバリー

    境界を越えて?DoD ゼロトラスト戦略とロードマップ

    Current and future cyber threats and attacks drive the need for...

    支出と基準のバランスをとるには?欧州連合(EU)におけるサイバーセキュリティ投資

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “The...

    より厳格な監督および執行措置?欧州議会、新しいサイバーセキュリティ法を採用

    According to European Member of Parliament (MEP) Bart Groothuis, “Ransomware and...

    地政学的なシェイクダウン?年次ENISA脅威状況レポート — 第10版

    According to EU Agency for Cybersecurity Executive Director Juhan Lepassaar, “Today's...

    テクノロジー主導のソリューション?インテグレオンが新しい最高経営責任者を発表

    Subroto’s people-first leadership style combined with his passion for leveraging technology...

    収益の磁石?マグネット・フォレンジックスが2022年第3四半期決算を発表

    According to Adam Belsher, Magnet Forensics' CEO, "Our solutions address the...

    進歩と機会?セレブライト、2022年第3四半期の業績を発表

    “We are pleased to report a solid third quarter, delivering strong...

    継続的な成長を後押ししているのか?レノバス・キャピタルがHBRコンサルティングからアドバイザリー事業を買収

    "The legal industry remains in the early stages of digital and...

    電子情報開示市場規模のマッシュアップ:2022-2027年の世界規模のソフトウェアとサービスの概要

    From retraction to resurgence and acceleration, the worldwide market for eDiscovery...

    移動中?2022年の電子情報開示市場の動態:5つの関心分野

    Recently ComplexDiscovery was provided an opportunity to share with the eDiscovery...

    プロセスを信頼しますか?2021 電子情報開示処理タスク、支出、コストデータ

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    今年の振り返り?2021 eDiscovery レビュータスク、支出、コストのデータポイント

    Based on the complexity of cybersecurity, information governance, and legal discovery,...

    2022年11月のサイバー、データ、法的証拠開示に関する5つの優れた読み物

    From cyber shakedowns and threats to the total cost of eDiscovery...

    2022年10月のサイバー、データ、法的証拠開示に関する5つの優れた読み物

    From cyber claims and data privacy to corporate litigation and the...

    2022年9月のサイバー、データ、法的証拠開示に関する5つの優れた読み物

    From privacy legislation and special masters to acquisitions and investigations, the...

    2022年8月のサイバー、データ、法的証拠開示に関する5つの優れた読み物

    From AI and Big Data challenges to intriguing financial and investment...

    オンサイトかリモートか文書査読者選好調査(2023 年冬)

    Today CompexDiscovery expands that survey portfolio by introducing a new business...

    家で?2022年秋の電子情報開示総所有コスト調査

    Today CompexDiscovery shares the results of a new business survey focused...

    寒冷前線の懸念?2022年秋における電子情報開示の企業信頼感に関する18件の実績

    In the fall of 2022, 49.0% of survey respondents felt that...

    データをステレオタイプ化する?電子情報開示のビジネスパフォーマンスに影響する問題:2022 年秋の概要

    In the fall of 2022, 28.0% of respondents viewed increasing types...