私の開発したロボットが考えた記事をお楽しみください．
シンギュラリティなら、おととい来てた。
• ITがらみの話をしていると、AIに関する質問を受けることが多くなった。
自分はAIについてはほぼ門外漢なので、地に足が着いた回答はできないと断るんだけど、現状がどのような状態になっているのか程度は把握しているつもり。
中でも多いのが「シンギュラリティは来るか？」という質問だ。
新井紀子女史の意見に概ね賛同しているので、巷で言われているようなシンギュラリティは来ない、と考えてる。
シンギュラリティの生みの親とされるレイ・カーツワイルは読みかけたけど、20%ほどめくったところで止めた。騙されている気がしてならない。
カーツワイルは過去を俯瞰して、いろんなものはムーアの法則に則って指数関数的に進歩してきたから、このままいくときっと技術が人の能力を追い越すよ、と言っている。
様々なファクターを指数グラフにのせて、ほらやっぱり！という論調が延々と続く。
ちなみに私の妻は現在に至るまで指数関数的に鬼嫁化しているが、多くの家庭でも同様のようだ。
なので近い将来、きっと旦那の忍耐力を超えてシンギュラリティが来るのだろう。
富士山もの麓から8合目あたりに向かって指数関数的に傾斜がきつくなっている。
最終的には垂直になるのだろう。
帰納法はトレンドがこのまま続いたらどうなるっていう以上の意味はない。
• それはさておき、シンギュラリティを心配する人たちは、何を心配しているのだろう。
追い抜かれる「人間の能力」ってやつと、「あなたの能力」を同一視しているのだから図々しいにもほどがある。
人間の社会をコントロールしているのは上位1％程度のいわゆる天才だ。彼らが何を考え、何をして、どんな社会を作っているかなんて、すでにわれわれ一般人にはわからんだろうに。
人間の能力を超えるAIと自分より能力の高い天才の違いなんてすでにわかんないじゃないの。せいぜい効率と速度が違う程度で、それ以上の違いなんて認識できないよ。
今の世の中、99%の人間は大なり小なりポストシンギュラリティの中で生きてるよ。
ドラッガーなりジョブスなりイーロンマスクなりが仮にAIだったとして何が困るんだよ。
むしろ、やっぱりそうか、そうだよねー、と納得さえするよ。
• シンギュラリティってそういうもんじゃないだろう、もっと指数関数的にガーッと、っていう人もいるかもしれない。
AIにおけるシンギュラリティの定義って、人間の能力を1.0としてAIが1.1になったら処理速度の速いコンピュータは一瞬で能力を無限に増幅させるというものでしょう？
その変化が人間にとって好ましくないものであれば、それこそ人間の社会なんて一瞬で消し飛んでしまうだろうから、やっぱり心配しなくてもいいじゃない？
• そんなことより、AIの心配をするならもっと身近なことを心配した方がいいよ。
Deep learningに代表されるAIって結局のところ過去の傾向を「正しく増幅」するだけで、「過去の傾向そのもの」を引き起こした原因に問題があったとしてそれを是正するつもりは更々ないんだから。
医局の人事なんかにAIを使ったら面白いことになるよ。成功条件に「教授になったかどうか」を入れて、変数に色々設定することになるんだけど、すべてのデータにはマニュアルで解釈を設定しなきゃいけない。
好きなアイドルから虫歯の数までなんでも入れりゃあいいけど、全部マニュアルで解釈を与えなきゃいけない。
だから結局ありきたりなパラメータに落ち着くのさ。
関連があるパラメータはきっと「論文数」「手術件数」なんてものになっていくよ。
その結果、教授になった人間は論文数が多かったとかいうデータを出すことになる。
そうじゃないことは誰だって知ってるけどね。
論文が多い理由が前任の教授に気に入られて機会を与えられてかどうかだったとしてもそんなデータが教師データになければ出て来ることはない。どれもこれも、今のAIサービスは似たり寄ったり。
そんなものは占星術と変わらない。明日の天気を星座から割り出そうとしたって、関係ないものから意味のあるアルゴリズムなんか出てこない。
今のAIのできることが既存のバイアスの安定的な再現であることは明白なんだから、現状の立ち位置に満足している人以外にAIは何ももたらさない。
せいぜい、今できることを楽にできるという程度だ。
キャシー・オニールがTEDで言ってたように、”Algorithm is the opinion embedded in the code.”だ。階層をより強力に固定化するために機能する。
極論するとAIは過去の肯定だよ。
• 画像診断にAIが入って来ると仕事が取られるとか、病理の診断率はAIの方が上だとか散々煽ってるけど、みんな騙されてるよ。
AIを煽って金が欲しい連中にいいようにやられてる。
最近は厚労省の役人も踊らされてるんだから始末に負えない。
因みに今のAIは１つ残らず教師データを必要としている。
Deep learningもそうだよ。前述の病理診断の教師データも人間が作ってる。すざましい時間をかけて、100点っていうデータセットをマニュアルで作って、AIに学習させて高速自動で再現できるかどうかを競ってる。
多くのAI研究者自身が「AIってただのアルゴリズムだぞ」って言っている通りでしょう。
知ってる範囲のAI技術者はみんなこの話題に辟易してる。
直接知る限り、AIには無限の可能性が〜とか言っちゃってる人って、どっかの教授みたいな技術者の取り巻きの集金屋ばっかり。
あるよそりゃ、無限の可能性。
お前の財布に金が入る可能性のこと言ってんだろ。
• 人工知能に期待するところがあるとすれば、人工知能は原理的に嘘をつかないところだ。
SF的な意味ではなく、アルゴリズムエラーがなければ同一条件に対する出力がブレない。
その日の気分によって判断が変わったりしない。
あるシンポジウムでAI技術者と「AIはどの程度信用できるか」というディスカッションをした。
もちろん出来レースだ。口には出さないが2人の意見は一致していた。
「中途半端な天然知能の方がよっぽど信用ならんよね」
シンギュラリティなら、おととい来てた。
• ITがらみの話をしていると、AIに関する質問を受けることが多くなった。
自分はAIについてはほぼ門外漢なので、地に足が着いた回答はできないと断るんだけど、現状がどのような状態になっているのか程度は把握しているつもり。
中でも多いのが「シンギュラリティは来るか？」という質問だ。
新井紀子女史の意見に概ね賛同しているので、巷で言われているようなシンギュラリティは来ない、と考えてる。
シンギュラリティの生みの親とされるレイ・カーツワイルは読みかけたけど、20%ほどめくったところで止めた。騙されている気がしてならない。
カーツワイルは過去を俯瞰して、いろんなものはムーアの法則に則って指数関数的に進歩してきたから、このままいくときっと技術が人の能力を追い越すよ、と言っている。
様々なファクターを指数グラフにのせて、ほらやっぱり！という論調が延々と続く。
ちなみに私の妻は現在に至るまで指数関数的に鬼嫁化しているが、多くの家庭でも同様のようだ。
なので近い将来、きっと旦那の忍耐力を超えてシンギュラリティが来るのだろう。
富士山もの麓から8合目あたりに向かって指数関数的に傾斜がきつくなっている。
最終的には垂直になるのだろう。
帰納法はトレンドがこのまま続いたらどうなるっていう以上の意味はない。
• それはさておき、シンギュラリティを心配する人たちは、何を心配しているのだろう。
追い抜かれる「人間の能力」ってやつと、「あなたの能力」を同一視しているのだから図々しいにもほどがある。
人間の社会をコントロールしているのは上位1％程度のいわゆる天才だ。彼らが何を考え、何をして、どんな社会を作っているかなんて、すでにわれわれ一般人にはわからんだろうに。
人間の能力を超えるAIと自分より能力の高い天才の違いなんてすでにわかんないじゃないの。せいぜい効率と速度が違う程度で、それ以上の違いなんて認識できないよ。
今の世の中、99%の人間は大なり小なりポストシンギュラリティの中で生きてるよ。
ドラッガーなりジョブスなりイーロンマスクなりが仮にAIだったとして何が困るんだよ。
むしろ、やっぱりそうか、そうだよねー、と納得さえするよ。
• シンギュラリティってそういうもんじゃないだろう、もっと指数関数的にガーッと、っていう人もいるかもしれない。
AIにおけるシンギュラリティの定義って、人間の能力を1.0としてAIが1.1になったら処理速度の速いコンピュータは一瞬で能力を無限に増幅させるというものでしょう？
その変化が人間にとって好ましくないものであれば、それこそ人間の社会なんて一瞬で消し飛んでしまうだろうから、やっぱり心配しなくてもいいじゃない？
• そんなことより、AIの心配をするならもっと身近なことを心配した方がいいよ。
Deep learningに代表されるAIって結局のところ過去の傾向を「正しく増幅」するだけで、「過去の傾向そのもの」を引き起こした原因に問題があったとしてそれを是正するつもりは更々ないんだから。
医局の人事なんかにAIを使ったら面白いことになるよ。成功条件に「教授になったかどうか」を入れて、変数に色々設定することになるんだけど、すべてのデータにはマニュアルで解釈を設定しなきゃいけない。
好きなアイドルから虫歯の数までなんでも入れりゃあいいけど、全部マニュアルで解釈を与えなきゃいけない。
だから結局ありきたりなパラメータに落ち着くのさ。
関連があるパラメータはきっと「論文数」「手術件数」なんてものになっていくよ。
その結果、教授になった人間は論文数が多かったとかいうデータを出すことになる。
そうじゃないことは誰だって知ってるけどね。
論文が多い理由が前任の教授に気に入られて機会を与えられてかどうかだったとしてもそんなデータが教師データになければ出て来ることはない。どれもこれも、今のAIサービスは似たり寄ったり。
そんなものは占星術と変わらない。明日の天気を星座から割り出そうとしたって、関係ないものから意味のあるアルゴリズムなんか出てこない。
今のAIのできることが既存のバイアスの安定的な再現であることは明白なんだから、現状の立ち位置に満足している人以外にAIは何ももたらさない。
せいぜい、今できることを楽にできるという程度だ。
キャシー・オニールがTEDで言ってたように、”Algorithm is the opinion embedded in the code.”だ。階層をより強力に固定化するために機能する。
極論するとAIは過去の肯定だよ。
• 画像診断にAIが入って来ると仕事が取られるとか、病理の診断率はAIの方が上だとか散々煽ってるけど、みんな騙されてるよ。
AIを煽って金が欲しい連中にいいようにやられてる。
最近は厚労省の役人も踊らされてるんだから始末に負えない。
因みに今のAIは１つ残らず教師データを必要としている。
Deep learningもそうだよ。前述の病理診断の教師データも人間が作ってる。すざましい時間をかけて、100点っていうデータセットをマニュアルで作って、AIに学習させて高速自動で再現できるかどうかを競ってる。
多くのAI研究者自身が「AIってただのアルゴリズムだぞ」って言っている通りでしょう。
知ってる範囲のAI技術者はみんなこの話題に辟易してる。
直接知る限り、AIには無限の可能性が〜とか言っちゃってる人って、どっかの教授みたいな技術者の取り巻きの集金屋ばっかり。
あるよそりゃ、無限の可能性。
お前の財布に金が入る可能性のこと言ってんだろ。
• 人工知能に期待するところがあるとすれば、人工知能は原理的に嘘をつかないところだ。
SF的な意味ではなく、アルゴリズムエラーがなければ同一条件に対する出力がブレない。
その日の気分によって判断が変わったりしない。
あるシンポジウムでAI技術者と「AIはどの程度信用できるか」というディスカッションをした。
もちろん出来レースだ。口には出さないが2人の意見は一致していた。
「中途半端な天然知能の方がよっぽど信用ならんよね」
0 件のコメント:
コメントを投稿