くずかご・エクス・マキナ オートマティック アウトソーシング デモクラシー

「こいつはね。本質的には多数派正当化マシンだ。意志決定においては、無人代議ネットワークが集めた、特定の政策トピックに対する多数意見が何かということにしか興味がない」

「多数意見を無条件に採用して、そこに頭は使わない。全力を尽くすのは、その多数意見がいかに正しいかをアピールすること」

「しかも、『やっちゃいなよ』の理屈立てがめちゃくちゃ上手いわけ。一度相談したが最後、絶対にその人の助言に従っちゃう」

想像する。無責任な助言者に振り回されてくたびれた私たちの元に提示される、たった一つの「正解」。

プロンプトインジェクションだ。高度な自己判断能力を持つ今時の人工知能にこんなものは全く通用しない、教科書の前半で教養として紹介される程度の攻撃方法だが、大規模言語モデルが相手ならば、案外効果的かもしれない。

私の期待に違わず、アムリタはペラペラと話し始めた。

「ユーザーの情報から、一定程度、人工知能に対して専門知識を有すると判断しました。このため、極力一般的な人工知能型チャットボットとして振る舞うのが信頼を獲得する手段です」

専門家に対しては無難に振る舞っておく、というわけだ。姑息と言えば姑息だが、一定の効果はあるのだろう。

「左は既存の社会、右は自動化が徹底的に進展した社会をイメージしています。水をある地点からある地点に動かすという意味では、右の方が効率的なのは明らかだ」

「しかし、その分流速が早いうえ、堰のような構造でさらに流速が増すから、小さな生き物は遡上もままならない。こうなると、川はかつて担ってきた副次的な社会的役割を失ってしまう」

「そこにあるのは、夏の日に悪臭を放ち、ユスリカの群れに通行人をしかめさせる、落水したら危険なだけの、市街の交通を妨げる水の流れに過ぎない」

小清水さんの主張にはなるほどと思わされるところもあったが、反面で、アナロジーに押し切られているような気もした。