かやのみ日記帳

読書の感想や思想を書いています!

パーソナルアシスタントの悪夢、青い鯨と鳥

 

思想誘導するアシスタント

ふとSiriやGoogle Assitantの社会主義バージョン「偉大なる同志」が出てきたら悪夢だなと思った。小説などの世界ではビッグブラザーなどがいて、思想の統一を間接的に行っている。世の中のニュースなどは偏向され、個人の情報のやり取りは検閲される。学校の勉強や触れられる書籍が思想を誘導する。これのパーソナル版は悪夢だろう。

 

世間を騒がせている「青い鯨」、「モモチャレンジ」がこの発想に似ていると思う。

自殺コミュニティの参加者は、管理者から50日間にわたり毎日異なる課題を行うようSNSを通じて要求され、その証拠の画像をSNSへ投稿し、報告するよう求められる。その課題は次第に過激なものへとエスカレートし、最終的に自殺を指示される

青い鯨 (ゲーム) - Wikipedia

 この程度で人が死ぬわけない、もともと死ぬ人間だったと思う人がいると思う。
だが、それは明確に誤りである。
よく考えれば振り込め詐欺が減らない理由もわかるだろう。
振り込め詐欺は現代ではとてつもなく巧妙に日々進化している。

 

どうして振り込め詐欺が巧妙化するのか?それは、ひっかかる人間は必ずいるからだ。
それ自体はしょうがない。
だが問題なのは味をしめる連中がさらに高度化していくことだ。
さらに模範的商材として他のグループにも伝搬していく。

 

じゃあだまされないようにしてればいい、お金さえ振り込まなければいい。
そう思うのは簡単なことだし、自分に自信があればそう考えるのも無理はない。
でも一般人は専門的な詐欺師にはきっとかなわない。おまけにサイコパスもいる。
そう思うのは日本でかつて起きた北九州監禁殺人事件を読んだからだ。
詳細を読むのはおすすめしないが。

 

悪魔の技術の洗練

長く書いたが、最悪なのは自殺に追い込む手法が面白半分に洗練されることだ。
インターネットのサイトを信じ込んで死ぬ人間なんていない、は通用しない。
彼らはいかに自殺させるか、日々大量の被験者を使って実験しているのだ。

 

こうした悪魔の技術がスマートフォンの全画面広告やGoogleに当選しましたという架空詐欺サイトに飛ばされたらどうなるだろう?
自殺誘導サイトの管理人たちは面白半分だからお金を出して広告なんか出さない?
日本語が下手な外国人しかいないから大丈夫?

 

ある程度はそうかもしれない。が、慢心するのは良くないだろうと思う。
現状の技術で用意に可能だからだ。
ハッキングの被害を受けて不正なものを流されることもある。
ハッカーの宣伝キャンペーンに自殺サイトへの誘導なんて行われたら悲惨だ。

 

こうしたサイトがやることは身近なSNSアプリに攻撃者への連絡手段を作ることだ。
被害者の日常に寄り添い、思考を誘導するのが目的である。

 

彼らは多感な子どもにターゲットを絞り、大人は対象外になっているかもしれない。
もしくはもう間接的に殺害しているかもしれない。
いまやネットで危険な行為を大人が自主的に行うことも多い。
それは再生数につられた危ないYoutuberである。
再生数をエサに危険行為をエスカレートさせる手順が開発されたら地獄だろう。
もしくは弱みを握って脅すとかだ。

 

近くにいる危ない存在

話を戻すとパーソナルなアシスタントが思考誘導するとは悪夢だと思う。
北朝鮮とかでアプリ「偉大なる同志が見てる」とかのインストールが義務化されたら。
ある程度ジョークとして周囲からは見られるが、本人たちは本当の地獄である。

 

これらに毎日の記録、思想の提出とかSNS制限、演説の視聴など強制されたら病む。
あまりに荒唐無稽と思われるかもしれないが、できないわけじゃないのがタチが悪い。

 

例えば中国あたりの思想犯の牢獄で社会実験をやったらどうだろう。
実験を繰り返していけばだんだん巧妙になるんじゃないだろうか。
さらに青い鯨みたいなサイトを作った人間を雇って思想の矯正に協力させたら。
金盾のような検閲エンジンをさらに高度化させてプロジェクトに組み込んだら。

 

もしGoogleが「Do the right thing(正しいことをしよう)」を拡大解釈したら。
アシスタントに命令形で言っても「丁寧に指示して」と言われたらどうだろう。
教育としてこういうことをやると日本の過激な人々から非難を受けて炎上しそうだ。
まあ反対側の人々が機械に対して失礼とか言って燃える気もするので面倒ではある。

 

こうした発想はAIなどを研究している人々にとってはタブーだろう。
存在してほしくはない問題だと思う。
でも人類はかつての歴史でこうした過ちを何度も生み出してきた。
今回はどうなるのだろうかとちょっと思ったりする。
願わくばインターネットという全世界の集合もどきが良い方向に向かってほしい。

…が、得てして誰れもが自分にとっての良い方向だと信じているわけである。
だれもが間違っていないと信じている。
そんなふうに自分はちょっと暗い考え方をついしてしまう。