フェイクニュース、ディープフェイク、フェイクピープル:サイバーセキュリティの新しいフロンティア

(へ カルロモーセリ)
14/07/21

昨年のロックダウン中に、私は人々にこの現象について考えてもらうことを目的とした記事を書き始めましたが、それは決して表に出ることはありませんでした。 偽のニュース 私は大胆にも、これを近年の最も侵入的なサイバー脅威と関連付けました。

サイバー脅威に関するさまざまな報道の中に「フェイクニュース」という項目が導入されれば、非常に興味深い数字が得られると確信しており、おそらくは報道の数字よりも高いだろう。 フィッシング詐欺たとえば、最新の Clusit レポートによると、これはこれまでで最も使用された攻撃ベクトルを表しています。

多かれ少なかれ、この記事は次のように始まりました。

アメリカの会社で働いている私は、ここしばらく「ストーリーテリング」という言葉を非常に頻繁に使うようになりました。 驚くべきことではないのかもしれませんが、イタリアではこれほど美しい用語がたくさんあるにもかかわらず、イタリアではあらゆるレベルで外国語、最も多くの場合は英語に依存することが一般的かつ定着しているということです。 しかし、この言葉には何か特別なものがあり、言葉では言い表せないが、それが呼び起こされるとすぐに、聞き手に一種の驚きと驚きを呼び起こすものがあると言わなければなりません。 それを使用すると、正当かどうかにかかわらず、推論が装飾されているように見え、まるで魔法のように、対話者はこれまでで最も深遠な概念が表現されたかのように明るくなります。

今ではこの言葉は一般的に使われるようになり、私たちはもはやそれに注意を払うことさえなくなり、おそらく、ストーリーテリングについて話すとき、または自分が何について話しているのかを理解するときに、自分自身に本当に何を意味するのかを自問することをやめてしまったのかもしれません。しかし、おそらく私たちはそれを忘れています。

コロナウイルスの緊急事態において、私たちの役割は明らかです。 私たちに勧められました 「命令には従う」 そしてルールを尊重することで私たちの役割を果たすことです。結局のところ、ルールは民主的かつコミュニティの文脈において常に行われるべきものだからです。 私の行動は私自身だけでなく、私の周りの人々や私が交流する人々などにも逆に影響を与えます。

しかし、この前例のない経験の間、私たちは緊急事態に直面して解決しようとしている人々に対していくぶん非対称的な態度をとり、従うことと信頼することしかできません。

そしてキーワードはこちら自信。 この非常に重要な用語について Treccani が語っていることを見てみましょう。

トラストSF [緯度から。 信頼してください。 di fidĕre 「信頼する、打ち明ける」] (pl.、まれ、-cie)。

他者または自分自身に対する態度。事実、状況、人間関係の肯定的な評価から生じ、他者または自分自身の可能性を打ち明け、一般に安心感と平穏の感覚を生み出します。 f. 神において、人間において、人類友愛において、科学において、社会進歩において。 f. 勝利の中で。 f. 成功するために; f. 自分の星で、自分の力で。 f. ビジネスの成果において。 fと一緒に見てください。 未来へ。 f を停止します。 f. 無制限、絶対的、無条件。 持っている、フィード f 。 f を失います。 証明書、f の証明を与える。 インスピレーションを与えます。 稼ぐ、値する、楽しむ、fを持っています。 誰かの; f を入れてください。良くても悪くても。 fを虐待する。 その他。 コムを使用します。 表現:fの人々、私の人々、あなたの人々、彼のfの人々、繊細で重要な問題で頼りになる信頼できる人々。 f.の医師、弁護士、依頼者が自由かつ習慣的に選択する人物。 場所、雇用、f の仕事、責任があり、繊細で、安全で信頼できる人々のみに依存します。 

憲法において、f.の投票、議会が政治的ガイドラインとそれに対応する政府の行動を承認する(または投票が否定的な結果を出した場合は不承認)ための投票。 f. 議院の XNUMX つによって提出された、信任投票に訴える動議、提案。 f. の質問、修正案および法案の条項の承認または否決に信任投票を使用するという政府の要請: 政府は信任問題を問うことを決定した。 

民法では、f. 遺言(または受託遺言処分)、資産を受け取る人が見かけ上の受益者となり、その資産を他の人(通常は遺言者の直接の相続人ではない人)に譲渡する義務を負う遺言処分。

信頼とは、幅広いシナリオを包含する「重い」言葉であり、信頼を与える側と受け取る側の重要な責任を表します。

これは、多くの困難を抱えながら、誰も準備ができていない問題に直面しようとしている人々を信頼しなければならないということです。 したがって、私たちは中央機関、地方行政、医師、科学者、そして最後に、何が起こっているのかを私たちに伝える人々、つまりジャーナリストやプレゼンターを信頼しなければなりません。 

信頼…特に私たちが住んでいる世界を考慮すると、それを無条件に持たなければなりませんか? 私たちが毎日、すべてを物語る膨大な量のニュースとその反対のニュースにさらされる世界?

おそらくこれがキーポイントです: コミュニケーション管理.

機関側とメディア側の両方において、特にパンデミックの初期には、彼らのコミュニケーション方法がニュースの漏洩を引き起こし、深い議論を引き起こしましたが、同時に、次のような有名なエピソードをはじめとするあらゆるものやすべての人に対する不合理な反応も引き起こしました。南へ逃げるために北の駅に群がる人々があまりにも多かったので、日が経つにつれて、そのような不合理な反応が依然として同様に無責任な行為によって引き起こされていることに気づきました。

したがって、医療活動と並行して、コミュニケーションの観点からコロナウイルスにどのように取り組むべきか、また取り組むことができるかを、正確に推論して考える機会があったように思われる。 ストーリーテリング 緊急事態の。

その代わりに、危機についての語りは、残念なことに、新型コロナウイルス感染症が蔓延するずっと前から、しばらくコミュニケーションを否定的に特徴づけてきた用語、慣行、習慣に依存したトラックで続けられた。

Il センセーショナリズム、L '大まかな分析良いことも悪いことも急いで探す英雄と国の敵。 イタリア人が言われたことを信じることしかできない時代に、 混乱誤報 それらはウイルスと同じくらい蔓延しており、コミュニケーションはますます困難になり、実際、これまでにないほど極めて重要な、質の高い物語を最終的に提案する機会がほとんど妨げられています。

これはすべて、今日、ニュースの真実性を読み、深め、研究することは一部の人々の特権であり、一方で大多数の人々は票を集めるために政治的詐欺師や党派ジャーナリストの意見に耳を傾けているからです。 世論に影響を与える 一方で、今回のような危機的な状況においてさえ、彼は党派的かつ手段的な方法でコミュニケーションをとります。

これらすべては、好むと好まざるにかかわらず、次のカテゴリーに分類されます。 偽のニュース.

「フェイク」または「フェイクニュース」は、私たちが経験している現象の程度を正しく表現していない用語であり続けています。 マニピュレーション または 誤報 これらは疑いなく新しい概念ですが、過去と比較すると、さらなる含意が強化されています。

現在では、トピックの重要性に関係なく、人口の大多数が「ソーシャルメディア」からあらゆる種類の情報を学ぶことを好むことが確認されているため、主なリスクの中には考えられるリスクがあると言えるでしょう。明らかに虚偽である有効な情報。

この状況は、いわゆる 「バックファイア効果」 つまり、それによる現象 「誤った、しかしすでに統合された情報に異議を唱えると、残念ながら自分の意見を変えることに消極的になるため、最終的にはさらにそれを確認することになります。」.

たとえ科学的な内容に最も集中しているように見えても、現代社会のあらゆる文化部門が「フェイクニュース」の被害者であると言えます。

個人的な見解としては、この分野の偽情報は主に基本概念の無知に基づいているため、蔓延する肥沃な土壌があるということです。

科学用語が非常に特殊であるという事実により、偽情報を作成する者はすぐに大きな成功を収めることができ、学術界に悪影響を及ぼし、信頼性を失う危険があります。 また、健康に関する虚偽が発生した場合、その損害が回復不能になるリスクがあることも象徴的です。

この点に関して多くの研究が行われており、明らかになったのは、「テクノロジー企業」の中心的な役割を定義する上で多くの人が信じていること、つまりテクノロジー企業は単純な「プラットフォーム」として機能するどころか、より多くの役割を果たしているということです。企業の特徴と要件。

これらの企業の大きな力は、コンテンツをプラットフォームにアップロードすることで終わるわけではなく、逆に、私たちが見るものを選択的かつ時間通りに制御することによって増大します。これがまさに彼らのビジネスモデルだからです。

そして最終的な目標は、政治と同様、ユーザーの視聴者を増やすことです。 彼の髪を滑らかにする、やや「フランス的」な婉曲表現を使用し、推定された中立性にもかかわらず情報の流れを変更します。

この目的を達成するために、彼らは高度なアルゴリズム、データ分析、データマッチングおよびプロファイリング技術を広範囲に活用し、そのおかげで収集された大量の情報が処理され、多くの場合、利害関係者の同意なしに、または気付かないうちに第三者に提供されます。同意; ソーシャル メディアを通じた広告プロモーションやマイクロ ターゲティングにコレクションとともに使用されるデータ。

I ボット これらも注目すべき方法で使用されるツールです。 ご存知のとおり、これらは人間のユーザーが使用するのと同じ種類のチャネルを通じてネットワークにアクセスし、とりわけ特定のアルゴリズムを通じてデータなどの正確なタスクを実行できるようにするプログラムです。 こすること e ウェブスクレイピング これにより、特定のページに存在するデータと情報が抽出され、他のコンテキストで使用されます。

仮想市場では、商業的または政治的な性質にかかわらず、虚偽または不正確な情報が隠蔽され、権力者が収集したデータに基づいて、マイクロターゲットの人々に送信されます。 ウェブマーケティング利害関係者が気づかないうちに。

すべての人の将来に関する非常に複雑で解決が難しい問題を中心とした「公開討論」は、ますます歪められ、本当の運動に変わってしまうことが増えています。 同意マーケティング、公共の場を埋めるスローガンだけで構成されています。

基本的に、 ハイテク企業 彼らは、経済的な観点からも、センセーショナルな内容を優先するように刺激されています。なぜなら、センセーショナルな内容は注目を集める可能性が高く、議論の二極化や急進化を促進する可能性が高いからです。

プラットフォーム上で流通している偽情報は、巨額の広告収入を得るためにデジタル経済のいくつかの基本原理をよく理解している主体によって組織され、実行されたプロジェクトの結果であるという感覚が蔓延しています。

これらすべてが蔓延し続けたため、2018年XNUMX月には主要なデジタルプラットフォームがオンラインの偽情報と戦うための「行動規範」に署名した。 これは始まりではあるが、EU内で繰り返し述べられているように、制度に対する国民の信頼を潜在的に脅かす可能性がある問題との戦いにおける基本的な一歩を表している。

欧州連合の目的は、とりわけ、ウェブ上の偽情報に対抗するのに適した自主規制ルールのパッケージを自主的に管理することです。

実際、このプロジェクトに参加することにより、すべてのウェブ企業は、すべての EU 加盟国で偽情報と戦うためのルールを自社に課すことになりました。

これらすべてから、情報が「コミュニケーション」に変わり、同時に偽情報が発達したことが推測できます。偽情報は間違いなく複雑で常に変化する現象を表しており、新しい武器として使用することができます。政治的、経済的、または軍事的な目的。

現在、非常に多くの高度に洗練された偽情報手法が存在しており、それらは国の安全と安定に対する脅威となっています。 このため、やはり、私は大胆にも、それらを一つのものとして考えることができます。 サイバー脅威.

実際、国の誠実さと安定が疑問視されるとき、これらの形態の脅威に対抗する上で基本的な役割を果たす諜報機関に頼ることは偶然ではありません。 諜報機関自体も、新たな安全保障上の課題に対処できる意味合いを持たせる変革に関心を持っている。

インテリジェンスが何を意味するのかについては詳しく説明しませんが、読者はさまざまな情報源からインテリジェンスを学ぶことができることを認識してください (v.link)、まさに新しいハイブリッド、そして何よりも非対称の脅威に対処する必要があるため、その役割は基本的になります。

インテリジェンスは、国際舞台で何が起こるか、特に国家間の力のバランスだけでなく世界市場とも密接に関連しています。

この関連性は、伝統的な性質の紛争はないものの、経済紛争、さまざまな起源の高度な形態のテロ、新たな手法で実行される攻撃に起因する脆弱性現象に悩まされている世界の地域を考えるとさらに真実味を帯びます。特定の形式の知性が必要です。

従来の「セキュリティに対する脅威」は進化して、攻撃者によって操作されるより複雑なサイバー脅威に到達しました。攻撃者は、基本的に次の XNUMX つのマクロ グループに分類できます。

- 政府関係者 彼らは膨大な経済的資源と人的資源を持っているため、高度に構造化されており、非常に危険です。 彼らが作成する脅威は、次の XNUMX つのクラスで表すことができます。 サイバー戦争 これは一種のデジタル戦争であり、 サイバースパイ デジタルスパイ活動を代表する。

- 非政府関係者 どのテロ組織が属しているか (サイバーテロ)、犯罪組織(サイバー犯罪)および宗教的、政治的、イデオロギー的な衝動に動かされた個人に起因するその他の行為者。

これらすべてのことから、人工知能などの技術的に進歩したツールを利用した犯罪行為がますます増え、その目的は国際関係を不安定化し、いわば安全保障を誘導することであると考えられます。

考えられる武器は、 「ディープフェイク」人工知能の原理を活用し、オリジナルから始めて画像やビデオを変更および重ね合わせるプロセスに基づいており、「敵対的生成ネットワーク」。

それからあります 「偽の人たち」、現実には存在しないが、追求する目標に応じて、怒り、不信、同情、恐怖、不快感などの強い感情を生み出す仮想ビデオの主人公である人々。

ひとつの開発 サイバーインテリジェンス 有効性は議論の余地のない現実であり、オープンソースの分析、ビッグデータの処理、サイバー戦争に直面しコミュニティの防衛を保証するための人工知能技術の開発に基づいて、変化するシナリオに適応しなければなりません。

ここから、この記事が強調したいと主張していることとの関連性は明らかです。 「ニュース」、「情報」、「偽情報」が「メディア」システムや「インテリジェンス」システムに入り込み、浸透し、そのような普及したテクノロジーが通信および情報システムを「爆発」させ、社会自体に想像を絶する影響を与えるのを防ぐために、セキュリティを保証する上で、インテリジェンスが中心的な役割を果たすことが不可欠です。

要約すると、私たちは非常に複雑なシステムに直面しており、その中でニュースの出所を特定したり、その真実性を検証したりすることはほとんど不可能です。 誰が生成するのかというと、 偽のニュース 特定のトピックに関するあらゆる意見や意見を同じレベルに置く傾向があり、その結果、誰もが「一流の専門家」であるように感じられます。 しかし、その事実はソーシャルメディアによって非常に増幅されました。

そのドラマというのは、 これらすべてに直面すると、大多数のユーザーは無力です また、何よりも、彼らは今では新聞、テレビ、ソーシャルネットワークから提供されるあらゆるニュースを受け入れているという事実のおかげです。

検閲が行われていた国の政治的権力に関係なく、検閲が情報の遮断に関係していた時代と、他の権力機関が情報を選別し、評価し、修正し、構築する現在との間には、暗い類似点があるように思われる。非常に大量の無用で無関係な情報を、この情報の受信者、つまり残念ながら抵抗できない平均的なユーザーを混乱させ、操作することによって送信します。

現時点では、現代的で効果的なものに投資することが不可欠だと思います。 サイバーインテリジェンス ~のスキルを開発できる サイバーカウンターインテリジェンス それは単なる防御的な役割を超え、それどころか、はるかに積極的であり、攻撃やシミュレーションがあってもサイバー次元で動作できるようにすることを目的としています。その目的は、徐々に現実化する敵を妨害することである可能性があります。シナリオ。

最後になりましたが、これを強調することに決して飽きることはありませんが、IT セキュリティに対する意識の向上に向けてすべてのユーザーのトレーニングに投資し、これまで以上に大きく複雑なリスクを検出、分析、対処できるようにする必要があります。

もっと知ることができます。

教皇フランシスコ:「テクノロジーは贈り物、正しく使え」 - CorCom (corrierecomunicazioni.it)

インテリジェンス - 共和国の安全のための情報システム (sicurezzanazionale.gov.it)

サイバー戦争時代における人権の保護最初のページ | 一ページ目

ウェブと偽情報: インテリジェンスの役割 (diricto.it)

フェイクニュース: サイバー戦争の新時代 | トリチウムコンサルティング

ディープフェイクと操作されたビデオ: 人工知能のダークサイドがどのように機能するか - Il Sole 24 ORE

私たちの誤った信念を変えることを妨げるバックファイア効果とは何ですか - Wired

敵対的生成ネットワーク - ウィキペディア

偽者、その正体、そしてなぜ監視しなければならないのか | ボーライブ大学PD

写真:アメリカ空軍州兵 / 首相官邸 / Twitter / Web