書きかけの本で悩んでいること。

シンギュラリティがこないことを説明するために

「コンピュータプログラムはプログラムされたことしかできない」

という事実をどうやって説明すればよいかと悩んでいる。

いや、条件によって違う動きをするぞ。if文があればね。

でもそれは最初からそうプログラムされているに過ぎない。

じゃあDeep Learningはどうなんだ。入力の中から人間に理解できないような形で判別ロジックを作り上げるぞ。

これにどう反論するのか。世間に流通している「ディープラーニングはすごいから、そのうち人間の知性を超えるぞ」というロジックがむちゃくちゃなのは、ここのギャップをうまく説明できていないところに一因があると思うのだ。

判別ロジックは学習データから作り上げる。確かにそれはもともとプログラムを書いた人間にも理解ができない。しかし所詮プログラムされた入力を用いて、プログラムされた通りに判別しているに過ぎない。ただその判別の基準を学習データに適応した形にしただけだ。

うーん。これでは言葉が硬い。何を言っているかわからない。もうちょっと考えよう。

ちなみにここを無茶苦茶に拡大解釈し「ディープラーニングとそれに続く技術があればフレーム問題恐るるに足らず」と主張しているのが、東大の松尾教授である。

フレーム問題でも、データを元に現象の特徴を取り出し、その特徴を用いた使って知識を表現しておけば、そうそう例外的なことは起こらないはずである（注34)「必要な知識を選び出すのに無限に考えてしまう」なんてこともない。
 引用元：松尾豊著：人工知能は人間を超えるか

「データをもとに現象の特徴を取り出し」と簡単に言ってくれるなあとため息をつく。そもそもそのデータの項目を決めるのは誰なんだ？そのデータ項目を決められないというのがフレーム問題なのではなかったのか？

まあ彼は研究者だから、そのうち自分の言葉を研究論文として発表してくれるだろう。その日を楽しみに待つことにしよう。