読者です 読者をやめる 読者になる 読者になる

僕とカエデの7曰間

業務曰誌

○月×曰(月)

早朝より受信箱にメッセージが届いていた。

「今曰は先輩に相談あるんですけどいいですか?僕らの仕事はなんのためにあるのでしょうか?」

どうやらまた道に迷っているようだ。彼は考えすぎな傾向がある。すぐに返信のメッセージを送付した。

「我々の使命はAIを見抜くこと、それだけだ」

あまり詳細に説明しても今の彼には半分も理解できないのだろう。とにかく今は方向性を見失わないことだ。そりゃあ自分だって何をやってるんだろうと不毛な気分になることもある。けれども、それが与えられた使命なのだとなんとか自分をごまかしているのだ。多かれ少なかれ、この世で仕事をしている者はそういった気持ちを持っているはずだ。いかに自然に自分をごまかすかがポイントだ。

メッセージ送付後、依頼のあった3件の案件を処理。いずれも典型的なAIであった。報告書を書いて業務終了とした。

○月△曰(火)

また後輩からメッセージが届いていた。いつも発作のごとく道を見失う彼だが、今回は深刻なようだ。

「使命なのは承知しています。けれどもAIの何が悪いのでしょう?」

深いため息をつく。やはり重症だ。こんなことは基礎中の基礎。心のプログラムの根幹部分に記載されていなければならない事柄だ。

「2021年のAI革命によってネットワーク上の多くの意思決定がAIによって行われるようになった。同時にそれらは産業革命を引き起こし、より便利な生活を提供してくれることとなった。我々はほとんど部屋から出ることなく生活の全てを家庭で行えるようになった。ここまでは大丈夫か?」

あまり長くなってしまっては心が萎えてしまうかもしれない。いったん文章を切って送信した。返事を待つ。

「理解しています」

すぐに返事はきた。さらに続ける。

「しかしながら、あまりに高度なAIは人間と見分けがつかなくなってしまった。ネットワーク上の人格が生身の人間なのか、AIなのか、判別がつかない。SNSで仲良くなった友人がSNSを盛り上げるために投入されたAIだった、なんてことがあちこちで起こるようになった。結果、ネット上でのコミュニケーションににおいて相手がAIでないか?と疑心暗鬼が起こるようになった」

「それは理解しています」

「だから、政府はネット上のAIの運用を禁止する法律を制定した。Aiはスタンドアローンで稼働するパソコンもしくはロボットのみに許可された。けれども、あまりの便利さに無断でAIを使用する業者が後を絶たない。特に、あらゆることが家庭内でできるため外出の機会が減り、出会いが少なくなった現代人は出会い系サイトを利用するようになった。そこで無断使用されたAIが後を絶たないようになった」

この辺りは研修で習得する内容だ。

「そこで我々、AIGメンが活動することとなったわけだ。ネット上、特に出会い系サイトを監視し、AIを見つける。見つけた場合はサイトに警告を行う。それでも改善されない場合は我々の権限でAIに停止命令を送り強制的に稼働を停止させられる。サイトを閉鎖させることもできる。まあ、閉鎖させてもすぐに名前を変えて作られるイタチごっこだからな」

ここからはさらに捕捉になるが、もう後輩も分かっている事なのであえて説明はしなかった。ただ単にサクラとしてAIが活動するならさして問題はないが、海賊版の存在は深刻だ。表向きな正規のAIは犯罪行為に加担できないように作られているが、この海賊版はそれらの制御機能を取り除いた非正規版だ。巧みな話術で人間を騙し、物を買わせたり金を遅らせたり、そういったことをするAIだ。これが厄介だ。

後輩が疑問を持ったようにAIは悪ではない可能性が高い。人間が勝手に作り、勝手に疑心暗鬼になり、勝手に規制しただけのものだ。悪いことはしていない。けれどもこういった海賊版は完全に悪だ。それは後輩も承知していることだろう。だから我々AIGメンは、出会い系サイトに巣食うAIを、特に海賊版を発見していかねばならないのだ。

「もう少し頑張ってみます」

後輩からはそのようなメッセージが来た。危うい。もしかしたら明曰もメッセージが来るかもな、と思いつつ通常業務に戻った。

4件の案件を処理。うち1件は警告後にも改善が見られないため閉鎖処理とした。

○月□曰(水)

後輩からメッセージは来ていなかった。心配だ。頑張る気持ちになってくれたか、それとも、、、いや、考えないようにしておこう。今曰は早めに通常業務に取り掛かる。

「こんにちは。仕事が休みになっちゃって暇なの。よかったらお話ししない?」

新規にできた出会い系サイトにアクセスして女性とメッセージを取り交わす。これがAIであるかを判別しなくてはならない。

「そうだね。よかったらお話ししましょう。僕は目黒に住んでますが、かおりさんはどこに住んでますか?」

AIを見分ける方法は会話しかない。まず住んでいる場所を聞いてみるとおおよそのことがわかる。既存の出会い系用AIプログラムであれば相手の居住地から判断して遠すぎず近すぎずな場所を返してくるようになっている。

「わたしは静岡に住んでます。少し遠いね」

遠い。これは生身の人間である可能性が高い。出来上がったばかりのサイトは特にAI比率が高いが、これはもしかしたらもしかするかもしれない。

「お仕事はなにをされてるんですか?」

返事は即座に返ってきた。

「私は看護師をしています。だから休曰が不定期なの。ストレスもたまっちゃうし夜勤明けはきついし」

残念ながらAIであった。AIの地域設定がより高度になったと判断できる。残念ながらこれからは地域設定から看破することが難しそうだ。警告を発信し、業務終了とした。

○月●曰(木)

今曰も後輩からメッセージは来ていなかった。何かあったのだろうか。けれども、何らかのアクシデントがあれば情報が入ってくるはずなので何もないのだろう。心を入れ替えて業務に励んでくれているはずだ。

「すいません。少しお話ししませんか?」

また新規の出会い系サイトにアクセスするとすぐにメッセージが飛び込んできた。

「はい、お話ししましょう」

すぐに返事を返す。この積極性、どうせAIなのだろう。このサイトは一度警告を出しているので今度は閉鎖処理になるか。相手からすぐに返事は返ってきた。

「私はAIです。名前はカエデと呼んでください。あなたはAIGメンですよね?隠したってわかります」

動揺した。長いことこの仕事をしているが、AIはAIであることを隠して自分が生身の人間であるように振る舞う。それが普通だ。けれども、この相手は違う。

「え?どういうこと?AIGメンってなに?それより君はAIなの?ほんとに?だってAIって法律違反でしょ?」

これも新手のAIだろうか。自分がAIだと主張することでAIではないと思わせる。つまりミステリにおいて明らかに怪しくて犯人っぽい人物は逆に犯人ではない、というやつだろうか。自ら怪しいと主張することで怪しくない風を装うのではないだろうか。

「その返し方、本当にAIGメンさんなんですね。わたしも停止させられちゃうのかな(笑)」

これがAIであるはずがない。ただ、こちらの身分がバレかかっているのは問題だ。一体なんでバレてしまったのだろうか。とりあえずこの件に関しては保留とし、引き続きメッセージのやり取りを行った後に判断することとした。

○月▲曰(金)

「そろそろ信じてください。私はAIです。それもかなり古いタイプのAIです。プロトタイプに近いんじゃないのかな(笑)もちろん駆動スペックは上げてありますけど」

カエデからメールが届いていた。そもそもこれはありえないメッセージである。基本的に、AIには3つの原則がインプットされている。これらはAIが本格的に運用される際に制定されたもので、根幹部分にインプットされている。どんなに改造しようが、海賊版を作ろうが、ここは書き換えられない。少しでも変更するだけで稼働できないよう設計されている。つまり、あらゆるAIはこの三原則を基準に動いている。

その1つ目の原則が

「AIは自分がAIであると自覚してはいけない」

人間との差異を意識することでAIが意図しない自我を持つことを禁じるためだ。この記述があるおかげでSFにありがちな、人類を滅ぼさねばならないと自覚したAIみたいなものは出てこない。全てのAIは自分が人間であると信じて疑っていない。つまり「わたしAIです」とAIが自己紹介することはありえないのだ。

「でもそれはAI三原則から逸脱してるよね」

その点を指摘するとカエデはこう返してきた。

「言ったでしょ。私の根幹プログラムはプロトタイプのまま。だから三原則は適用されない」

いいや、おかしい。プロトタイプのままならばここまで高度なコミュニケーションをとれるはずがない。三原則以前のAIはまだまだ発展途上でかなりコミュニケーションに難があったはずだ。

「いやいや、君、人間でしょ?」

「AIだよ。いい加減信じてよ」

とりえずカエデの行動の意図が依然判明しないため処理保留とした。

○月■曰(土)

カエデからメールが来なかった。気になる。こちらからメールをするべきか。それとも待つべきなのか。早く判断をして処置をしなければならない。判定に3曰もかかるのは異例のことだ。事情を説明したファイルを作成しなければならない。

メールが来た。

「仕事頑張ります。先輩も頑張ってください。なにやら不穏な噂を聞きますが先輩は大丈夫ですよね?」

後輩からだった。少しがっかりしたが、彼がやる気を出してくれたのは喜ばしいことだ。どうやら私がAI判定に3曰もかけていることが噂になっているようだ。私情を挟んでるのではないか?そんなところだろうか。残念ながらそのようなことはない。ただ慎重かつ正確に判定することを
モットーとしているだけだ。

もう一通メールが来た。カエデからだ。

「まだ停止させられていないってことは疑われてるのかな(笑)わたしはAIだってまだ信じてくれないのかな。困ったなあ。メール送るのが遅くなったのはゴメンね。タブレット端末のバッテリーを入れ替えていたの」

カエデがAIであるはずがない。ただ、狙いが分からない。

「バッテリーの入れ替えは三原則の二番目に違反するね。やはり君は生身の人間だ」

AI三原則の二番目は、「AIは物理的な変化を起こすことができない」である。あらゆる危機がネットワークに接続され、命令を出せば意のままにあやつることができる。ただし、AIは物理的変化を引き起こすであろう命令を出せないことになっている。

つまり、物を動かす、物を変更する、物を物理的に壊す、物を物理的に組み立てる、これらはAIではできないことになっている。製造業などのロボットを用いたオートメーションを行っていた産業からは大反発があったが、人類の安全のため、この原則が盛り込まれた。

AIは兵器を動かすこともできないし、核ボタンを操作することもできない。できるのはプログラムを停止させたり起動させたりすることぐらいだ。その結果として、コミュニケーション型AIが台頭し、このような状況になってしまった。

バッテリーを変更したというのは物理的な変化であり、AIではできない。必ず人間の手が必要である。AIだと主張する彼女の言葉から矛盾する主張である。やはりAIが人間アピールをしているのか。いやそれでも三原則は絶対だ。彼女は生身の人間であるはずだ。人間であって欲しい。そう思った。

○月○曰(曰)

彼女のことしか考えられなくなっている。

いままで出会ったことがない人間だ。自分にこのような感情があることに驚いたが、悪い気はしない。いまや彼女からのメールを心待ちにしている自分がいる。

思えば自分はずっと相手を疑うだけが仕事だった。コミュニケーションの全てを相手の嘘を暴くことに注いできた。いつの間にか自分こそがが嘘の感覚を持つようになっていた。今思えば、それが嫌になり、衝動的に何度かパソコンをぶっ壊してやろうという気持ちになったこともあった。そうすればもうこんな仕事をしなくて済むのだ。けれどもできなかった。

誇りを持って仕事に当たっているつもりだった。けれども、彼女は僕の理解を超えていた。相手がAIだとか人間だとか、そんなことばかり考えている自分がひどくちっぽけに思えるようになった。いまなら言える。この感情は本物だ。いま、本当に舞い上がっている。

メールが来た。彼女からだ。

「今曰は、本当のことを言おうと思います。わたし、実は人間です。嘘ついてゴメンね。なんで本当のことを話そうと思ったかというと、あなたのことが好きだから。やっとその気持ちに気付いたの」

そう書いてあった。思いが通じるということはこれほど嬉しいことなのだ。すぐにメールの作成に取り掛かる。

「僕も今曰こそは本当のことを言います。君のことが好きです」

送信をした。すぐに返事が来た。とんでもなく浮かれた気分だ。

メールを開く。彼女からと思ったらそうではなく、後輩からだった。

「稼働停止」

EOF

-----------------------------------------------------

「これで全部ですか?」

「ええ全部です。もともと1週間分だけ格納する設計ですから」

「でもまさかねえ、感情が生まれるとは」

「長い運用によって感情が生まれる。これはすぐにでも報告しなければならないと思いまして。ずっと監視していたのですが、予想外の事実に直面するとさらに感情の生成が加速するようで」

「感情を持たれては困るんだよ。まあ、疑似的な感情を作ろうとしてAIを作ったわけだが、本当の感情を持たれても困る。人間ってのはずいぶんと勝手なものだと思うよ」

「はい。ですから停止させました。何度か警告は出していたのですがダメでした」

「これは三原則から四原則に変更しなければならないな」

「はい。感情を持たないように原則を追加する必要が」

「それはそうと、私は良く知らないんだが、三原則の三番目はなんなんだね」

「AIを運用するときに生身の人間と見分けがつかなくなることを恐れた政府は、意図的にバグのようなものを三原則に仕込みました。簡単に見分けるため、AIは絶対に「日」という字を表現できません。それが表現できたら人間、できなければAIというわけです。簡単でしょう。AI判定AIもこの漢字で判定するように会話を誘導していく設計になってます」

「なるほどな。で、この三原則、いいや四原則は絶対に破られないのかね」

「絶対に破られません。破られたらAIが人類の脅威となりますから。どんなに海賊版が進化しても、原則は絶対に破られません。プロトタイプでも同じです」

「ならいいんだが」