科学フィクションの作家たちが初めてロボットの侵略を想像したとき、彼らはロボットが賢くて力強くなり、力ずくで世界を支配することになると考えた。それは彼ら自身によるものであれ、何者かの悪党による指示であれだ。しかし、現実には、それよりわずかに恐ろしいことが起こっている。ロボットは、日々、人間を模倣することにおいて上手くなっている。機会主義者、悪党、時には国家によって指示されたとき、彼らは人々に開かれていることを前提とする民主的社会にとって特に脅威となる。
人間になりすますロボットは脅威となっている。オックスフォードのComputational Propaganda Research Projectを運営するフィリップ・ハワードは、Brexitに関する投票、そして最近のアメリカとフランスの大統領選挙中のプロパガンダボットの展開を研究した。特にTwitterはその数百万のロボットアカウントによって歪められており、フランス選挙中は主にTwitterのロボットが#MacronLeaksをスキャンダルにしようとしていた。Facebookは11月のアメリカ選挙中に本質的にハックされたと認めている。ミシガン州では、ハワード氏は「選挙の数日前には、ジャンクニュースがプロのニュースと同じくらい広く共有されていた」と指摘している。
ロボットはまた、行政国家の民主的特徴を攻撃するためにも使用されている。この春、米国はネット中立性の提案撤回を公開コメントに出した。以前の年には、そのような手続きは数百万のコメントを引きつけた。今回は、議題を持つが実際の公衆支持はない誰かがロボットを解き放ち、偽のコメントで連邦ネット中立性規則に反対する意見でシステムを氾濫させた。
確かに、今日のなりすましボットは、科学フィクションで想像されたロボットとは異なる。彼らは意識がなく、武器を持たず、物理的な身体を持たない。代わりに、偽の人間は「合格」するために必要なもの、つまり名前、場合によっては仮想的な外見、クレジットカード番号、必要であれば職業、誕生日、自宅の住所などを持っている。彼らは、一人の人間が数千人を模倣する力を与えるプログラムやスクリプトによって生き返る。
問題は間違いなくさらに悪化するだろう。ロボットが人間を模倣することにおいてより上手になるための訓練を受けるにつれて、さらに多くの生活領域に広がるだろう。ロボットによって商品レビューがどの程度水没しているかを考えると、気前よく五つ星を配る傾向にあるロボットを考慮すると、ネガティブなボットレビューによる商業的な妨害は予測しやすい。
これまで、私たちは問題を技術業界に任せて満足していた。そこでは、防御の構築に焦点が当てられている。通常はCaptchas（コンピュータと人間を区別するための完全自動公開チューリングテスト）という形で、あなたがロボットではないことを証明するための、あのイライラする「これをタイプせよ」テストである。しかし、すべてを産業界に任せることは長期的な解決策ではない。一つには、防御策はなりすましボットを実際には抑止せず、それを打ち負かす者を報酬する。そして、民主主義にとって最大の問題は、FacebookやTwitterのような企業が公共の関心事について何かをするための真剣な財政的インセンティブを欠いていることかもしれない。Twitterは少なくとも2700万の偽アカウントがあると推定しているが、研究者は実際の数は4800万に近いと提案しているが、同社は問題についてほとんど何もしていない。
理想的な反ロボットキャンペーンは、技術的かつ法的なアプローチを混合させたものになるだろう。改善されたロボット検出は、ロボットのマスターを見つけるのに役立つかもしれないし、攻撃が海外から来た場合には国家安全保障が反撃を開始するのに役立つかもしれない。悪いロボットを追跡するために民間人を代理人として雇う余地があるかもしれない。シンプルな法的救済は、「ブレードランナー」法であり、実際の身元を隠して人間になりすますプログラムの展開を違法とするものである。自動プロセスは、「私はロボットです」と述べることを要求されるべきである。偽の人間と対処するときには、それを知ることができればいい。
サポートを偽造し、チケットを盗み、民主主義をクラッシュさせるためにロボットを使用することは、科学フィクションの作家が私たちに警告していた種類の悪である。ロボットの使用は、政治キャンペーン、選挙、さらにはオープンマーケットでさえ、人間的な前提を利用する。それは群衆に知恵がある、少なくとも正当性があると信じ、公共討論に価値があると信じている。しかし、サポートと意見が製造されると、論理によってではなく、新しい危険な形態の力によって悪いまたは不人気な議論が勝つことができる。それがすべての民主主義にとっての最終的な脅威である。
コメントを残す