ニューラルネットが好きです 学問、研究 Twitter Facebook はてブ Google+ Pocket LINE 2004.04.292010.03.08 人気の記事: 雰囲気≠ふいんき マッシュ・アップ系のサイト紹介 ZBOARDってどうですか? 宣伝はここで 最初なので最近個人的に注目したニュース 教えてエロい人!! P5レスキュー 今週はどこに行く? はじめまして【自己紹介統合】 はじめまして【自己紹介統合】 冷房無し、または弱冷房の素敵なスポット
コメント
自分の場合とくに教師無し学習する
SOMとかNEURAL GASが好きです。
ニューラルネットを分類に応用したものもあるんだけど、この場合、何を使ったのかわかる?
分類ですか?
分類っていうと線形分離器(SVM)しか思いつかないですねえ。
K-meansとかはどっちかっていうと統計ですし。。。
ニューラルネットって画像認識の世界でのイメージしかないんですが、
たとえばどんな使い方するものなんですか?
ぬう。
おっしゃるとおり、画像でも使うですね。
言語の場合は、基本的には出現回数とかをベクトル成分にして
ニューラルネットが求める入力ベクトルとするのですよ。
(こまかい作業とか、最適化もありますけど)
そうすると、分離する線を引いてくれたり(SVM)
似たものを近くに配置しようとしてマッピングしてくれた(SOM)
りします。
画像の世界では圧倒的にNEURAL GASらしい。(友人談)
ニューラルネットというか、
言語処理の学会誌みてても、でてきたのは
SVMかSOMくらいのものでしょうか。
そういえば私もすずかけ台で画像やってた友達がいました。
高速道路の料金所でナンバーが読み取れるんだ!とか言ってた気がします。(これは先端研の人だったかな?)
ところで、ニューラルネットって、いわゆる機械学習よりも(カテゴリとして)もっと狭義な感じがします。つまりSVMは機械学習のひとつの分野であって、ニューラルネットとは別な分野であるように。ようするにもっと勉強してこいってことですかね。
私の理解は、繰り返しで重みをどんどん修正してゆくようなイメージ。動的にその修正が行えるところがうれしくて、一旦学習を終了してその状態で○か×かを判定してくれるのではなく、微妙なものをどちらかに判定したときに、以後はそれが微妙じゃないように重みを修正しつつ判定をするような仕組み。
SVMもそうなっているんですかね。そうするとkernel methodは常にkernel自身を修正しつつ動かなきゃいけないように思います。
俺も不勉強なのですが、概念的には
機械学習>ニューラルネット
だと思います。
ニューラルネットって、結局はシナプスの発火(活性化)への
何らかのモデリングに過ぎないときいたことがあるので。
非線形であることが売りなんじゃなかったかな。
>繰り返しで重みをどんどん修正してゆくようなイメージ
だから、これは正しいと思います。
たいていの場合は、最初は重みを1として再帰的に計算するので。
計算の終了条件は、SOMの場合は量子化誤差が最小になるとか
言論文をよんだときにコホネンが書いていたと思います。
Kernel自身を修正するというのは聞いたことがないなあ。
そういうことではないと思いますよ。
ていうか、教師有り学習と教師無し学習でだいぶ違うんだよね。
最後に言っていることって。
というかすずかけ台じゃないきがする。長津田ってことで。
kernelは、扱う対象が本質的に満たす条件をうまく利用して、あらかじめ空間をねじ曲げてあげて、そのうえでHyperPlane(以下HP)で切ってやる、という方針だと勝手に理解しているんです。
L2の意味での誤差が最小となるHPはuniqueに決まるのだから、kernelも修正してやらないとうまく行かないんじゃないか?
…なーんて、ますます勉強してこい、になりそうなので、この辺で逃げます。
さて、新たな略語HPができました。これをノイズとみなしてくれるでしょうか?
あー、空間的に解釈するとそういう風に表現できるのか。
さすがだ。
これだから数学のデキる人は違う。。。
超平面(HP)か。
問題「HPは何の略ですか?」
60% ほーむぺーじ
20% ヒューレットパッカード
:
:
3% ハイパープレーン
RNNでFinding Structure in Time.
びば、エルマンさん
音声業界はHMM一色ですねー
昔はNNとかも使ってたらしいですけど…
SVMは可変次元扱いにくいからイマイチ
こないだまでルームメイトだった子はCMUで英中翻訳の研究してた子だったけど、HMM使ってたなー
HMM対NN?(w