人工知能:機会またはリスク?

(へ アレッサンドロルゴロ)
25/10/17

イタリアでは、それは数ヶ月前に起こった出来事ではなく、恐らく嘲笑の恐怖のために、ほとんど気づかれないままになりました。その代わりに、少なくとも残りの世界で不安を呼び起こしました。突然お互いに話し始めたXNUMXつの「ロボット」の「スイッチを切る」ことです。彼らが彼ら自身が発明した言語で彼らを。
科学的な観点からこのイベントを「エキサイティング」だと考える人もいますが、ロボット工学の教授であるケビンワーウィックのような他の人は、特にこれに起因する危険性を、特にロボットにいくつかの軍事能力...

しかし、本当に何が起こったのでしょうか?

それはによって行われた実験でした Facebook。 XNUMXつ設置しました チャットボット (V。 記事)、アリスとボブと呼ばれ、交渉スキルを向上させる必要がありました。 彼らは自分たちの中で英語を使い、その後、潜在的なユーザーと一緒に使うべきでした。 ある時点で、何の警告もなく、彼らは他の人には理解できない自分の言語を使い始めました。 からの専門家 Facebook したがって、彼らはXNUMX台のマシンをオフにすることを好んだ 期待した結果が得られなかったため.

このアラームの後、同様のイベントがすでに(少なくとも)近くで発生しているように見えることが発見されました でログイン.

では、何が起こっているのでしょうか。 人工知能はリスクをもたらす可能性がありますか? そして、答えがイエスなら、それは人類にリスクをもたらす可能性がありますか?

答えは簡単ではありません。 多分答えはそこにありません。
少年のように熱心なSF読者であった私のような人なら誰でもアシモフを読んだことがあるはずです。 しかし、最年少について話をするために、近年では、人類の文明の自然な発展を妨げる人工知能の形態について話す映画は無数です。

環境保護活動家のグループによって開発された自然保護プログラムが、いつの日か世界を支配し、人類が自然に対する本当の危険であると判断できないため、「クリーンアップ「?

そして、注意してください、これが単なるサイエンスフィクションだと思った人は、私たちがいる時点では、何も理解していません。 実際、最近の現実はサイエンスフィクションを超えているようです!

この分野で進化を止めることが実質的に不可能であると考えるならば、最悪のことは笑われるのを恐れてそれについて話すことではありません。 必要なのは、まったく新しい分野である人工知能から発生する可能性のある問題を回避するために、起こっていることを注意深く制御し、研究することです。 
この意味で、ロボットの規制の必要性に関する議論は欧州議会で始まりました(v.articolo).

(画像:フレーム「Iロボット」-20世紀フォックス)