これは広く読まれるべき本だと思った。タイトルが分かりにくいので一般の人が手に取りにくいのが難点。
まず、話のスケールがでかい。ちょっと長くなるがはしがきから引用。
近時の情報技術の発展は、産業革命や自動車の開発・普及などと異なり、人間の外面的な行動ではなく、内面的な精神作用に直接働きかけるものなのである。あえて「革命」という名を使うならば、AIの発達を伴う情報革命の本質は、それが人間精神の革命たるところにある。
AIがもたらしつつある技術革新は「人間精神の革命」だと大きく出た。その上で、同様の経験を参照するならば、産業革命ではなく近代啓蒙思想であるという。
今から約500年以上前のこの時期、ヨーロッパではルネサンスが広がり、そして宗教改革がおきた。ここで経験したのは、＜我々＞自身が決めない世界ー他者としての＜神＞が決める世界ーから、＜我々＞自身が決める世界への、意思決定主体ないし意思決定プロセスの本質的な転換である。
近代啓蒙思想が定式化されたのが近代憲法であり、その近代憲法がいま、AIがもたらしつつある社会変化という挑戦を受けている。
我々がいま目撃している情報技術の加速度的発展が引き起こしつつあるのは、200年ぶりの産業の革命ではない。500年ぶりの精神の革命である。
いやあ、なるほどなあ。こちらの認知過程に踏み込む形で機能するAIに感じる薄気味悪さを、見事に言語化してくれている。それにしても産業革命ではなく、近代啓蒙思想が参照点だと喝破したことは慧眼だと感じた。
本書の前半、日本は欧米と異なりいまだに自己情報コントロール権が確立されていないことが、生成AI時代に致命的なリスクとなってしまっていることについて言及されていく。
個人の尊重原理へのリスクを最も効果的に抑止するのが、プライバシーないし自己情報コントロール権である。それは、AIネットワークシステムにおいて個人の主体性を回復させ、認知過程を防御して個人の自己決定を守り、ひいては、謎めいた存在としての人間の特権性を守る。しかし、日本ではこの自己情報コントロール権が未だ公式には認められていない。このこと自体がリスクである。9頁
「謎めいた存在としての人間の特権性を守る」の部分が特に良いと感じる。まさにヒューマニズム（人間中心主義）だ。
読み進めるうちに、物事を捉える切り込みの角度にハッとさせられる箇所が幾つもあった。
ネットと接続している囚人と、ネットに接続されていない「自由人」のどちらが自由か、という問い（「自由な囚人」問題）21頁
あるいは、
経済合理性・効率性よりも「基本的人権」を重視するような純粋なーある意味で青臭いー立法は、このような「民主主義からの距離」によって生まれたと考えられる。選挙ないし選挙選出議員が立法プロセスに与える影響力が抑えられているEUでは、企業や経済団体が「選挙支援」（組織票の提供ないし政治献金）を通じて政治に容喙することが難しい。それゆえ、プライバシー保護のような憲法的価値を重視する純粋な立法が通りやすい状況が生まれるのである。84頁
このあたりも、ううむと考えさせられる。
日本国憲法もその制定過程が民主的でなかったとよく指摘されるが、かえってその方が良いものができるんじゃないの、と素朴に思っていしまうし、しかしこれは「民主主義」の意義についてのいささか緊張感を孕む議論に繋がっていきそうだ。
後半はGAFAMの依存するアテンション・エコノミーの危険性に触れた上で、
いずれにせよ、AIを用いたプロファイリングが、アテンションを引き付ける、これ以上ないツールとなることは疑いようがない。AIがアテンション産業の中に構造化されていくのは、時間の問題である。216頁
ことを前提に、議論が進んでいく。結論として、
アテンション・エコノミーの中に構造化されたAIは、（中略）自由放任的な解釈法理の成立条件を掘り崩すように思われる。217頁
「思想の市場」は「刺激の市場」へと転化しつつある。かような市場の機能不全にもかかわらず、これまでと同様、市場に対する自由放任主義を貫き、国家による市場への不介入を美徳とするならば、この市場は、大量のデータを保有し、高度なAI技術を装備できる技術力と資金力を持つ者が、個々の利用者の認知過程を狙ってそのアテンションを奪い合うchaoticな場と化し、民主主義それ自体が危険にさらされるだろう。223頁
ことへの警鐘が鳴らされている。
この点、しばし立ち止まって考えてみたが、同意せざるを得ないように感じた。表現の自由絶対論は、ある種の思考停止をしたままバッサバッサと当てはめができるから、楽なんだけどね。情況に丁寧に向き合おうとすると、筆者のような理路にならざるを得ないということなのだろう。
ただ、筆者が対応策として述べる幾つかのアイデアは、正直あまりピンとこなかった。このあたりはもう少し考えてみたいところ。
いずれにせよ、一般的な法律家が個人情報保護法関連の仕事をする上で、この本に書かれているような深い議論はあまり参照されてこなかったように思う。
この点は筆者も書いていて、
自己情報コントロール権という観念が峻拒され、個人情報の保護と、これを本来基礎づけるはずの憲法上の理念とが切断されてきたため、個人情報保護がその目的を失い、単に「個人情報保護のための個人情報保護」となってきたところがある。88頁
のが実情だろう。実際、ウェブサービスのプライバシーポリシーを作っていても、「どうせ誰も読まないでクリックするだけなんだろうな」「そんな同意に意味あるのかな」と思いながらも、日々の仕事に忙殺されてしまう現状がある。
本書で鋭く分析されている問題構造を捉えたうえで、実務の中にどう落とし込めるのかを考えてみたい。