つくばPythonもくもく会 No.2 を開催しました& No.3 を12/15(土) に開催します。
- 先週の日曜(11/18)にNo.2を開催しました tskubapy.connpass.com
- No.1 から参加者が大幅に増え合計13人の方に参加いただきました 🙏 ありがとうございます!
- 早速ですが、No.3のイベントを作成しました。connpassからお気軽にご参加ください。 tskubapy.connpass.com
feature_importances_
とは sklearn.ensemble.RandomForestClassifier
、 sklearn.ensemble.RandomForestRegressor
(など)で特徴量の重要度を出力するメソッドです。The importance of a feature is computed as the (normalized) total reduction of the criterion brought by that feature. It is also known as the Gini importance.
もう少し細かい説明としてはscikit-learnの開発者 Gilles Louppe がstackoverflowで↓のように質問に回答しています。
There are indeed several ways to get feature "importances". As often, there is no strict consensus about what this word means.
In scikit-learn, we implement the importance as described in [1] (often cited, but unfortunately rarely read...). It is sometimes called "gini importance" or "mean decrease impurity" and is defined as the total decrease in node impurity (weighted by the probability of reaching that node (which is approximated by the proportion of samples reaching that node)) averaged over all trees of the ensemble.
記載されている通り、gini importance
あるいは mean decrease impurity
と呼ばれ、ノードの不純度(impurity)をアンサンブル木で平均したものになります。
これが簡潔で正しい回答なのですが、一応コードベースでも見てみたいと思います。
株式会社バクフーの柏野さんの発表が個人的にとても好きな内容で是非皆さんにも見てもらいたいのですが、本筋の内容以外で一点気になる内容がありました。
「機械学習/深層学習 市井の賢者から学ぶ」先日のML15Mでの @yutakashino さんの発表、個人的に今年TOP5に入る好きな話だったので皆にも見て欲しい https://t.co/meSPnU4LjG ちなみにJeremy HowardはPodcastにも出てるのでこちらもオススメ。https://t.co/Q2argGIF6X pic.twitter.com/UnxqKcF6V4
— ikedaosushi (@ikedaosushi) 2018年10月31日
それは下のスライド群で、実は柏野さんは「この辺りの方々は皆さんご存知だと思います。今回はなしません」と仰っていたのですが、恥ずかしながら半分くらいしかわかりませんでした。。
今回は概念の理解にフォーカスしたいので、バリデーションの手法については触れません。特にSecondLevelでのバリデーションについてはいくつか選択肢があり、データの性質によって使い分けが必要なので次回以降書きたいと思います。
続きを読むイベントページに
ゲストのお二人が参加者のポートフォリオを抽選で3名レビューいたします!
との記載があったので、せっかくなので…ということで応募したら、なんと選ばれました! 85人の前でレビューされる、というプレッシャーもあり、週末の半日くらいを使って必死に埋めました。ときには追い込まれることも必要だと思いました。
続きを読む来週のイベントで「matsumotoryさんkwappaさんからポートフォリオを公開レビューしてもらえる3人」に選ばれたので、ポートフォリオを埋めてた。ちゃんと書くのは大変だったけど、Forkwellだといい感じに表示してくれるので嬉しい。オススメしたい。https://t.co/Oxo80IJ4Ifhttps://t.co/j4mntzJNuW
— ikedaosushi (@ikedaosushi) 2018年10月7日