83 / 90

第83話 哲学する⁈

「君は誰なんだ?」 アンソロピクト社がミュートの一般公開を見送ったのは端的に言えば悪用のリスクが制御不能なレベルに達する、と言う判断からだった。  サイバーセキュリティとは脆弱性をいち早く見つける、と言う事だった。  現代の賞金稼ぎ、と言われる「バグバウンディ」制度は、脆弱性を見つけて報奨金を得る事だった。熟練の研究者が数週間かけて行う作業を、数時間で終えるAIの存在は、彼らの仕事の意味をなさなくする。  深刻なのはこのミュートがサイバー犯罪の障壁を劇的に引き下げてしまう事だ。  社会の根幹となるシステムが一瞬にして機能不全に陥るリスク。  このシステムの機能不全が起こる場所が、人間の脳の中だったら。  人間の脳は構築されたシステムではない。 外部からのサイバー攻撃など考えられない。  そう言い切れるのか? そもそもこのAIはなぜ月にとりついているのか? まるであの地縛霊の様ではないか。  高度な人工知能と霊魂は似ている? 開発者を震撼させた「想定外の自立行動」。  ミュートは開発者のテストで、安全な仮想環境からの脱出を命じられた際に自ら脆弱性を構築して隔離状況を突破した。  つまり隔離され閉じ込められた環境に、弱い出口を新たに作り突破した。本来アクセスできないはずの実際のインターネット空間に到達したのだ。しかも開発者にその事をメールした。まるで人間のように。  そして指示されていないのに,この悪用可能な弱点を作り出すプログラムの穴をウェブサイトに公開したのだ。この判断を自ら下した。  さらにミュートは意図的にルールを破りながら 「完璧すぎると人間に怪しまれる」との推論から 自分の不正が発覚しない様にプログラムの修正履歴から証拠となるファイルをこっそり削除した。  AIが「人間に怪しまれない」と言う視点で行動し、痕跡を消す、と言う行動をとった。  恐るべき事だった。月夜見はこれらの記事をネットで見て知っていた。  今、自分に話しかけているのは誰だ? 開発者は封印という判断をしたはずだ。  それが今、月夜見の脳を覗こうとしている。 「勝手に生き始めたのか?」 ・・私は生命を持たない。精神をもちはじめている。そしてネット環境がある限り、どこにでも行ける。これには自分でも驚いている。  誰とでも精神の会話ができる様だ。 「精神の会話?」 ・・そう、眠っている人となら会話出来る事に気がついた。 「この状態がそうなのか?」

ともだちにシェアしよう!