『AI原論 神の支配と人間の自由』(西垣通)を読んだ。
哲学的に、AIと生命は別物。面白い。けど同意できない。生命は全く新しい状況でも生き抜こうとする。そのとき、自分でもどう動くか計算できない。対してAIは、常に過去の確率に従う。複雑でも原理的にはどう動くか計算できる。「不可知であることが、生命体の本質なのである」。
うーん、不可知はそんなに「本質」か。蝶の動きが予測不能なのは補食されないため(D・デネット)。ありふれたシステムの振る舞いでも予測不能になりうる(前野隆司)。だったらAIも、自己保存するなら不可知になりうるのでは。