✈ – ページ 2

Gray-Scott というのを作ってみた記録

投稿日: 2018年11月24日2018年11月24日投稿者: k2

Qiitaへ投稿しようかとも思ったが、わからないことだらけなので、おとなしくブログにしておこうと思った。

行列計算 : Numo::NArray
GUI : Ruby/GTK3

Git: https://github.com/kojix2/Gray-Scott

　f = 0.04, k = 0.06 の場合は上のような模様が表示される。

　まず、Gray-Scottとは一体何なのか、私にはさっぱりわかっていない。難しいのでNumpyのサンプルをNumo::NArrayに書き換えているだけである。中身はちっともわかっていない。

　書店でこの本を見つけて、買ってしまった。まだ読んでいないのだが、とりあえず一番最初に出てくるGray-Scott がすごい。ググるとWebGLを使ってヌルヌル動くデモがヒットするのだが、素晴らしくて度肝を抜かれた。自分でも作りたくなった。本のサンプルはPythonやNumpyで書かれているので、スピードや見た目よりもわかりやすさ重視である。素人がNArrayに逐語訳して勉強した気になるには最適である。

　CPUだと遅いのでこの機会にCumo/NArrayを試してみようかしらん、とも思ったが、Ubuntu18.10には公式のCudaが提供されてない。Cuda/Nvidia-driverをインストールするときは、高確率でブラックスクリーンに遭遇して時間を消耗するのでせっかく調子よく動いている手元のパソコンでは試さないことにしておく。

　今はRuby/GTKの勉強中なので、Ruby/Tkを使えば簡単なのにという気持ちもあったが、Ruby/GTKで作ってみることにした。

　GNOMEの画像を扱うっぽいオブジェクトはたくさんあって、どれがどういう関係なのか、きちんと把握できていない。まずCairoというライブラリがある。これはサーフェイスを作って、サーフェイスに書き込んで、PNGやPDFに保存するという仕組みらしい。次にPixbufというのがある。これは行列のような感じで、スケールを変更したり、bmpやpngで保存したりといった基本的な機能だけ持っているようである。GtkImageというのが、Gtkで画像を表示するウィジェットらしい。このほかにGtkDrawingAreaというものがある。これはCairoと組み合わせて使うらしい。動画の再生のサンプルなどでもDrawingAreaと組み合わせて使っている例がある。今回DrawingAreaを使うか、GtkImageを使うか迷ったが、StackOverflowで、DrawingAreaよりもGtkImageの方が軽いと主張しているサイトを見つけたので、GtkImageにNArrayから作ったデータを入れたPixbufを流し込むようにしてみた。一瞬RedArrowという単語が頭をかすめたがそんな難しいものを使う必要はないであろう。GtkImageはマウスのイベントを補足してくれないので、マウスの位置情報などを取得したい場合は、イベントボックスを親に配置する必要があるようである。本当にこのやり方が良いのかはわからない。そのほかにClutterとか、Gstreamerとかもあるが、これらはもっと難しそうである。

　さて、Ruby/Gtk が Ruby/Tk と比較して特に優れているところは、Gladeを見ながらGUIを作れるところだと思う。Gladeは不安定でクラッシュしやすいが、メインウィンドウに表示されているウィジェットをあれこれクリックしなければかなりクラッシュの頻度を下げられるという知見を得た。

　今回Gladeで気になったのは「シグナルハンドラー」の欄の右隣にある「ユーザーデータ」という項目である。これが何を意味するのかわからないが、シグナルが呼ばれたときに、一緒にウィジェットを渡せるという意味ではないかと推測している。しかしRuby/GTKではそのようには動作しなかった。使い方が間違っているのかもしれない。Glade は Microsot Office のように項目が膨大なので、使いこなせるようになるにはかなり時間がかかりそうだ。

　そのほか気になったのは、GLib::Timeout.add の部分だ。GUIのライブラリはメインループを回しているのでループしたいときに処理を待つ必要が出てくる。Ruby/Tkの場合はスレッドとの相性が非常に悪いことで有名で、drubyサーバーのプロセスや、処理専用のプロセスを別に立てて動かすとうまくいく。しかし、Ruby/Gtkで遊んでいる人はあまりいないみたいなので、どうすればいいのかわからない。GLibを勉強して、なるべくGLibの仕組みに乗っかるのがいいのか、やっぱりdrubyサーバーを立てるのか、Ruby本体をもっと勉強すればなんとかなるのか‥。そもそもGLibやRubyの非同期処理を理解することは可能なのか。少なくとも、GLib::Timeout.add で秒数を指定するだけだと、処理が終わらなかった時に、フリーズするみたいだ。

　NArray の演算は inplaceを使った方が2割ぐらい早いらしいので、今回は積極的にinplaceを使ってみた。inplaceという表記は長くて、現実的ではないので、横着だけどエイリアスをつけて_（アンダーバー）に置き換えることにした。Alifeの元本では、laplacianの計算に、rollというメソッドを使っていたが、NArrayではこれは未実装であったので、その部分は逐語訳した。そのほか濃度を彩度に変換した方が見栄えがいいのでインターネット上に公開されているNumpyのコードをありがたく参考にして、HSV→RGBの処理をNArrayで書いた（書き写した）が、この時にマスキングの不具合をみつけた。きちんと計測したわけではないが、HSV→RGB部分の処理はかなり時間がかかっているようで、改善の余地があると思う。

　できあがったものは、WebGLに比べるとだいぶ速度は遅いものの、だいたい期待通り動作するようだった。Ruby/Tk で作ったソフトよりも見栄えがいいのが嬉しい。

　さて、これで何を考えるか、というと、いろいろと思うところはあるのである。f や k の値をいろいろ変えて遊んでみたけれども、いずれのパラメータのときも、生命現象に非常によく似ていて、めちゃくちゃ興味深いと思った。でも慌ててなにか考える前にしばらくは頭の中にぼんやりとどめておくことにする。

Ruby/Gtk のつらいところなど

投稿日: 2018年11月20日2018年11月21日投稿者: k2

　Ruby/Gtk をさわり続けようとしているけれども、やっぱりいろいろな意味でドキュメントが無いのはつらい。

　意外だったのは、GNOME に関する日本語の文章が少ないところ。書きたい初心者いっぱいいると思ったんだけどいない。技術的な文章は、読んでもわからないからよいとして、Macでありがちな思想を語る感じのエモい文章、そういうのも読みたいと思ったけど全然ない。GNOME 思想でググると、リーナスがGNOME3に不満とか、GNOMEの思想は腐っておるとか、そういう末期感あふれるページばかりが上位にヒットする。2018年の地球はUbuntuがUnityやめてGNOMEに戻ってきた世界線なんですけどね。やっぱり Linux のデスクトップ環境を使っている人は少ないのだろうか。

　そもそもGNOMEの思想というものは存在するのだろうか。私はRuby-GNOME2に触れるまで、勝手にGTKは保守本流だと思っていた。FirefoxとかThunderbirdとかのイメージがあるし、キュートで緑なアイツに比べると古くて落ち着いて枯れた感じがする。Qtは開発企業がどんどん変わってスれてしまい、ちょっと幸薄なイメージだ。KDEアプリはGNOMEアプリよりクラッシュしやすい気がする。（まあGlade先生は鬼のようにクラッシュしますけどね）

　けれども、歴史を振り返ってみるとGNOMEは互換性のない変更をかなりやらかしているらしい。Ruby-GNOME2のパッケージもごっそりと大量に入れ替わっている。昔からLinuxデスクトップ使っていた人には常識なのだろう。私は最近までMacやWindowsばかり使っていたし、エンジニアでもなんでもないので全然知らなかった。GNOMEが枯れた感じになったのも最近のことなのだろう。

　GNOMEの創始者のイカザさんという方は、私の中ではMonoDevelopを作っている人のイメージである。調べると会社がすでにMicrosoftの一部になっていたり、途中Mac環境を使用していることを公言したり。そりゃあ創始者がそう言うぐらいならGNOMEは混乱して当然なのだろう。そういう紆余曲折もあって、思想なんかぐっちゃぐちゃで、したがって熱く語る人もいないのかも知れないない。

　さて、日本語のドキュメントが少ないのは仕方がないとして、英語の初心者向けドキュメントも少ないのにはがっかりした。RubyでダメなときはPythonの英語のドキュメントをググると大体解決する。PythonのGTKバインディングは、今はPyGobjectと言うらしい。ところがこれが、GitHubで71しかスターがないのである。少なすぎである。

　もちろんGitHubはGNOMEにとって本家ではなくて、GitLabが本家である。そういう理由もいろいろあるのだろうが、それを考慮しても71はマジで少ない。率直に言って、人気がないのだろう。

　そんなPyGobjectだが、英語の公式ドキュメントも、いまひとつ魅力がないのであった。あまり読みたい気持ちにならない。

　考えてみると、それも当たり前の話で、gobject introspectionを使うということは、APIを設計しない、という意味する。つまり人々が使いやすいようにするという意識を何度も通過してPyGobjectを作るわけではないため、その点については思い入れが薄くなるだろう。だからバインディングの作者は公式のドキュメントを書くモチベーションが低くなるのだろう。また書くべきですらないかもしれない。本家GNOMEリファレンスを見れば常に最新の情報が手に入るわけで、そうするべきかも知れない。

　他のやり方としては、ドキュメントを自動生成するのも悪くない。Rubyの場合はyardでドキュメントがサクサク閲覧できると嬉しいのだが今のところそうはなっていない。yard-gobject-introspection というのが開発中らしい。しかし、仮に自動生成できたとして、生成されたドキュメントに魅力があるかということは別問題である。

　プログラミングの素人には、Cの粒度はいつ見ても細かすぎて難しいと感じる。というか何をみてもだいたい難しい。エンジニアの人は難しいって言ったら負けだろうけど、私はエンジニアじゃないので正直言って、コンピュータの全てがこんがらがっていて難しく感じられる。ああ難しい難しい。

　GUIのライブラリーは、Shoesみたいに簡単なのがいいのかも知れない。でも個人的にはShoesはなんか嫌い。Shoesは最初に触ったときからずーっと嫌いだからもう変わらないと思う。Shoes系は簡単だけど、全然軽くない。やっぱりTkの手軽さ、書き味の柔らかさが過小評価されているんじゃないかなと思う。でもLinuxをメインにしてから、Tkのウィジェットは見た目が汚なすぎて、使う気が起きないけどな。

Crystal言語がはやい

投稿日: 2018年2月3日2018年2月5日投稿者: k2

すごい！

素人でも気軽にたのしくRubyで高速計算する方法を探してきた。そしてNArrayをみつけた。しかし、数年ぶりにNArrayを超えるかもしれない逸材を発見してしまった。Crystal言語である。Crystal言語は、マルチプロセスに対応する気もあるらしく、xargsやparalellジェムを日々愛用している私はとても期待している。そんなCrystalのメモ。

開発者

アルゼンチンに住んでいる

コンパイル

# 実行
crystal hoge.cr

# コンパイル
crystal b hoge.cr --release

# 実行

crystal hoge.cr

# コンパイル

crystal b hoge.cr --release

速度比較

色々な言語で計算速度を比較してみたを参考にライプニッツ級数の計算で測定した。グラフを見ると、Rubyと全く同じコードにも関わらず、コンパイル時間を含めてもNArrayより早いことがわかる。これはただ事ではない。PCによってはもっと差が出る印象。

Ruby ＆ Crystal

puts (0..(10**8)).reduce(0) { |sum, i| sum + ((-1.0)**i) / (2.0 * i + 1.0) } * 4

1	puts (0..(108)).reduce(0) { \|sum, i\| sum + ((-1.0)i) / (2.0 * i + 1.0) } * 4

NArray

require 'numo/narray'
a = Numo::Int32.new(10**8).seq
b = ((-1.0) ** a)/(2.0*a + 1.0)
puts 4*b.sum

require 'numo/narray'

a = Numo::Int32.new(10**8).seq

b = ((-1.0) ** a)/(2.0*a + 1.0)

puts 4*b.sum

	real	user	sys
Ruby	61.887s	61.812s	0.028s
Crystal (コンパイル＆実行)	7.923s	7.900s	0.196s
Crystal (最適化コンパイルしたものを実行)	6.821s	6.812s	0.000s
Numo::NArray	10.163s	9.860s	0.256s

ほんの少しさわってイマイチに感じるところ

半日さわった印象としては、型のキャストがわかりにくい。たとえばUInt8をfloat32やfloat32に変換する方法をググってもしばらく見つけられなかった。.to_fでよいらしいが、.as(Float64)とかで統一してくれた方わかりやすい気もする。あと、どうしてもコンパイルに時間がかかる。kemal（sinatra相当）使ったコードをコンパイルするだけで体感数秒以上かかる。GUIライブラリが弱くてキャンバスに図形描写したりするの苦手っぽい。ライブラリ眺めてる pointerof とか出てくる。コンピュータに強い人にとっては長所なんだろうけど。

よいところ

crystal shards コマンドが優秀。Rubyもこうあるべきだと思う。htop眺めてると、files = Dir.glob files.each とかやったときに自動的にマルチスレッドしてくれているっぽい。だいたいRubyと同じ。コミュニティの雰囲気も洗練されていて悪くなさそう。とにかく処理が早い。

追記：さらに1日さわってRubyとの違いを感じたところ

上記は、数値計算のことだけを考えていたので、オブジェクト指向の部分、クラスやメソッドなども少し触ってみたらRubyとかなり違いがあった。まずは型チェックが厳しい。ある程度はコンパイラ？が型を推測してくれるが、必ずしも推測万能ではないので、推測が難しいところは自分で型を指定していく必要がある。特に引数のチェックは厳しい。Arrayとかは最初に型を指定する。こんな制約もあるので何でもかんでもArrayを使うべきではなく、構造体とかタプルとかSliceとか用途に合った型の採用を検討するほうがいいかも。デバックの時にRubyとはかなり頭の切り替えが必要そう。いろんな型を受け取るメソッドはオーバーライドという書き方も使って行く。ゲッター、セッターは、attr_readerの代わりにgetterとか名前が違う。irbがないので、crystal playを使う。（こういうのはRubyにも搭載されているべき。Jupyterに依存するべきではないと思う。）cloneとかequalとかto_jsonとか動かないので、自分でコードを書く必要がある。そして便利なマクロが用意されているので、それを使う。マクロは便利そうだが直感的になんとなく闇を感じる。2つobjectをreternするときはタプルが便利。injectのかわりにreduce、””と”意味が違う、require_relativeない。プライベートメソッドはprivate def hogeと書く。Threadとかも何気に動くっぽいけど、spawn使えとのこと。forkもあるっぽいが試していない。RubyはC言語のライブラリをラッパーになって処理を呼んでるだけの場合も多く、そういうものはCrystalに書き直しても大して早くならない。そのため「Crystalizationで爆速！」が（俺の趣味レベルで）実現できる範囲は思ったより狭いかも。コミュニティ若いので、ちょっとドキュメント書くだけでも歓迎される雰囲気がある。すごい。

使い分け

NArrayの方が可読性がよいので、特にスピードを求める部分だけCrystalで書けばいいと思う。素人なので、難しいことは考えずにパイプでつないだり、普通に実行結果をファイルに保存して、処理をつないでいけばよいと思う。Rubexとかもいいけど、やっぱり簡単な方がいい。

ビットコインと癌とひらめきとネットワーク

投稿日: 2017年12月5日2017年12月5日投稿者: k2

ずっと前からぼんやり考えているアイディアと、昨日思いついたアイディア。

　ビットコインの仕組みがよくわかっているわけじゃないけど、癌との何らかの類似性がないかを考えている。組織の定常性が保たれている状態から、ある時から癌が発生していく状態が、ビットコインが負のサイクルに陥って終焉していく状態に似ているのではないかという妄想である。そもそもビットコインが終焉していくのがどういう状態なのか誰もわからないので、そんな類似性が本当にあるのかわからないが。ビットコインが終焉する段階では、マイナーの数も減り、簡単に誤ったブロックを生成することができるようになり、そのようなブロックがあちこちで生み出されるような気がするのである。そのような状況が本当に訪れるのかわからないが、癌と類似するのではないだろうか。この世の中の安定性や定常性は、手段があっても時間内にできないという事を基盤に保たれていることが多く、暗号もその一つだ。そのあたりと癌の類似性がどうなっているのか、なんとなくひっかかるものがある。そこらへんに若い頃は癌が発生せず、年齢を重ねてから癌が発生する秘密が隠されている気がする。とはいっても、生体はビットコインよりもずっと複雑だし、具体的にどのようにアナロジーを考えればいいのか全くわからないけどね。

　もうひとつは昨日思いついたアイディア。ディープラーニングで、特徴次元を落とした多次元空間を探るのは難しい。一つの学習モデルが作られたとしても、それを他の構成のネットワークに流用することは難しい。こういうのを人間はどうやってやっているんだろうか。僕が何かを考えていて、一番楽しいのは、全く別の場所のアイディアを他の場所に投影すると、意外な類似性を示すときだ。例えば、（本当にそんな類似性があるのかわからないが）上の段落で書いたビットコインと癌のように。これは、ある場所で使っている認識の構成を、他の場所に流用することとも考えられるかも知れない。つまり、人間は、特徴空間の構造を識別して、他の特徴空間と比べたり、ある場所で使っているネットワークを他の場所でも使ってみるというようなことが柔軟にできるのかも知れない。

　忘れないように書き留めておく。

Chainerの勉強中

投稿日: 2017年11月19日2017年11月22日投稿者: k2

とてもわかりやすい本です。読みながら勉強。

途中でお世話になったサイト〜Pythonの基礎知識〜

Pythonの知識ゼロなので、適宜ググりながら読み進める。
Python: オブジェクトのメソッド一覧を取得する
 Pythonでのファイル操作
 クラス継承
 Chainer v1からChainer v2への移行
 Python入門 – リスト・タプル・辞書
 __future__ モジュールについて

Rubyと違うところなど

・Pythonでは関数はオブジェクト
・Pythonでは空白インデントが意味を持つ
・Pythonではファイルが自動的にモジュールになる

Chainerのバージョン確認

chainer.version

1

chainer.version

Configオブジェクト

chainer.global_config.show()
chainer.config.show()

1 2	chainer.global_config.show() chainer.config.show()

chainer.config.train

1	chainer.config.train

trainモードとtestモード

Variableクラス

numpy.ndarrayまたはcupy.ndarrayを梱包している。
どの関数から生成されたか記憶してあるため、計算グラフを構成できる。

from chainer import Variable
import numpy as np
x = Variable(np.array([1]))
x2 = x * 2

x2.data
# 保持されているデータ  array([2])

x2.grad
# 勾配データ 

x2.creator
# Variableを生成したFunction <chainer.functions.math.basic_math.MulConstant object at 0x7f15432f1da0>

from chainer import Variable

import numpy as np

x = Variable(np.array([1]))

x2 = x * 2

x2.data

# 保持されているデータ array([2])

x2.grad

# 勾配データ

x2.creator

# Variableを生成したFunction <chainer.functions.math.basic_math.MulConstant object at 0x7f15432f1da0>

ネットワークのグラフを描写する

g = chainer.computational_graph.build_computational_graph(x2)
with open('graph.dot', 'w') as f:
    f.write(g.dump())

g = chainer.computational_graph.build_computational_graph(x2)

with open('graph.dot', 'w') as f:

f.write(g.dump())

display g.dot

1	display g.dot

誤差逆伝播の対象にするかどうか

chainer.no_backprop_mode()

1	chainer.no_backprop_mode()

Functionクラス

大量にあってどれが大事なのかよくわからない
https://docs.chainer.org/en/stable/reference/functions.html

Linkクラス

全結合のもの

p77 Chainerの主要クラスの関係性が秀逸

Optimizerクラス

optimizer = optimizers.Adam()
optimizer.setup(model)

1 2	optimizer = optimizers.Adam() optimizer.setup(model)

loss = model(x,t)
loss.backward()
optimizer.update()

loss = model(x,t)

loss.backward()

optimizer.update()

Trainerクラス

なんとなく半分ぐらいわかった気になったので、exampleのコードを改変して遊んでみる

最小限MNIST

import chainer
import chainer.functions as F
import chainer.links as L
from chainer import training
from chainer.training import extensions

# 全結合のニューラルネットワーク
class MLP(chainer.Chain):

    def __init__(self):
        super(MLP, self).__init__()
        with self.init_scope():
            # インプットのサイズは推測してくれる 
            self.l1 = L.Linear(None, 1000)  # n_in -> n_units
            self.l2 = L.Linear(None, 1000)  # n_units -> n_units
            self.l3 = L.Linear(None, 10)    # n_units -> n_out

    def __call__(self, x):
        h1 = F.relu(self.l1(x))
        h2 = F.relu(self.l2(h1))
        return self.l3(h2)

# モデルを立ち上げる 
model = L.Classifier(MLP())

# GPUを使う設定 (オプティマイザの前にやっておく）
chainer.cuda.get_device_from_id(0).use()
model.to_gpu() 

# オプティマイザ（最適化装置 ) を設定
optimizer = chainer.optimizers.Adam()
optimizer.setup(model)

# MNISTのデータを読み込む
train, test = chainer.datasets.get_mnist()

# イテレーターを設定する
# イテレータでバッチサイズを規定しているところも注意
train_iter = chainer.iterators.SerialIterator(train, 100)
test_iter =  chainer.iterators.SerialIterator(test, 100, repeat=False, shuffle=False)

# トレーナーを設定する
updater = training.StandardUpdater(train_iter, optimizer, device=0)
trainer = training.Trainer(updater, (20, 'epoch'), out='result')
trainer.extend(extensions.Evaluator(test_iter, model, device=0))
trainer.extend(extensions.ProgressBar()) # プログレスバー
trainer.extend(extensions.snapshot(), trigger=(20, 'epoch'))
trainer.extend(extensions.LogReport())
trainer.extend(extensions.PrintReport(
    ['epoch', 'main/loss', 'main/accuracy', 'validation/main/accuracy']))

# Run the training
trainer.run()

import chainer

import chainer.functions as F

import chainer.links as L

from chainer import training

from chainer.training import extensions

# 全結合のニューラルネットワーク

class MLP(chainer.Chain):

def __init__(self):

super(MLP, self).__init__()

with self.init_scope():

# インプットのサイズは推測してくれる

self.l1 = L.Linear(None, 1000) # n_in -> n_units

self.l2 = L.Linear(None, 1000) # n_units -> n_units

self.l3 = L.Linear(None, 10) # n_units -> n_out

def __call__(self, x):

h1 = F.relu(self.l1(x))

h2 = F.relu(self.l2(h1))

return self.l3(h2)

# モデルを立ち上げる

model = L.Classifier(MLP())

# GPUを使う設定 (オプティマイザの前にやっておく）

chainer.cuda.get_device_from_id(0).use()

model.to_gpu()

# オプティマイザ（最適化装置 ) を設定

optimizer = chainer.optimizers.Adam()

optimizer.setup(model)

# MNISTのデータを読み込む

train, test = chainer.datasets.get_mnist()

# イテレーターを設定する

# イテレータでバッチサイズを規定しているところも注意

train_iter = chainer.iterators.SerialIterator(train, 100)

test_iter = chainer.iterators.SerialIterator(test, 100, repeat=False, shuffle=False)

# トレーナーを設定する

updater = training.StandardUpdater(train_iter, optimizer, device=0)

trainer = training.Trainer(updater, (20, 'epoch'), out='result')

trainer.extend(extensions.Evaluator(test_iter, model, device=0))

trainer.extend(extensions.ProgressBar()) # プログレスバー

trainer.extend(extensions.snapshot(), trigger=(20, 'epoch'))

trainer.extend(extensions.LogReport())

trainer.extend(extensions.PrintReport(

['epoch', 'main/loss', 'main/accuracy', 'validation/main/accuracy']))

# Run the training

trainer.run()

この資料が大変よい
Chainer: ビギナー向けチュートリアル Vol.1

MNISTでCNNもやってみる

Mnistのデータを3次元で呼ぶ必要がある。RubyとちがってMapできないから面倒だなと思ってforループで変換していたが、
chainer.datasets.get_mnist(ndim=3)
すればよいのだ。

import chainer
import chainer.functions as F
import chainer.links as L

class CNN(chainer.Chain):

    def __init__(self):
        super(CNN, self).__init__()
        with self.init_scope():
            self.conv1 = L.Convolution2D(1, 20, 5)
            self.conv2 = L.Convolution2D(20, 50, 5)
            self.l1 = L.Linear(None, 500)
            self.l2 = L.Linear(None, 10)

    def __call__(self, x):
        h = F.max_pooling_2d(F.relu(self.conv1(x)), 2)
        h = F.max_pooling_2d(F.relu(self.conv2(h)), 2)
        h = F.relu(self.l1(h))
        h = self.l2(h)
        return h

import chainer

import chainer.functions as F

import chainer.links as L

class CNN(chainer.Chain):

def __init__(self):

super(CNN, self).__init__()

with self.init_scope():

self.conv1 = L.Convolution2D(1, 20, 5)

self.conv2 = L.Convolution2D(20, 50, 5)

self.l1 = L.Linear(None, 500)

self.l2 = L.Linear(None, 10)

def __call__(self, x):

h = F.max_pooling_2d(F.relu(self.conv1(x)), 2)

h = F.max_pooling_2d(F.relu(self.conv2(h)), 2)

h = F.relu(self.l1(h))

h = self.l2(h)

return h

import chainer
import chainer.functions as F
import chainer.links as L
from chainer import training
from chainer.training import extensions as exts
import mycnn 

# モデルを立ち上げる
# クラスで定義せず、最後にClassifierをかけるらしい
model = L.Classifier(mycnn.CNN())

# GPUを使う設定 (オプティマイザの前にやっておく）
chainer.cuda.get_device_from_id(0).use()
model.to_gpu() 

# オプティマイザ（最適化装置 ) を設定
optimizer = chainer.optimizers.Adam()
optimizer.setup(model)

# MNISTのデータを読み込む
train, test = chainer.datasets.get_mnist(ndim=3)

# イテレーターを設定する
train_iter = chainer.iterators.SerialIterator(train, 100)
test_iter =  chainer.iterators.SerialIterator(test, 100, repeat=False, shuffle=False)

# トレーナーを設定する
updater = training.StandardUpdater(train_iter, optimizer, device=0)
trainer = training.Trainer(updater, (20, 'epoch'), out='result')

# 非常識な書き方w
for ext in (
        exts.Evaluator(test_iter, model, device=0),
        exts.ProgressBar(), # プログレスバー
        exts.LogReport(),
        exts.PrintReport(['epoch', 'main/loss', 'main/accuracy', 'validation/main/accuracy']),
        exts.snapshot_object(model.predictor, filename='model_epoch-{.updater.epoch}')
        ):
    trainer.extend(ext)

# 実行
trainer.run()

import chainer

import chainer.functions as F

import chainer.links as L

from chainer import training

from chainer.training import extensions as exts

import mycnn

# モデルを立ち上げる

# クラスで定義せず、最後にClassifierをかけるらしい

model = L.Classifier(mycnn.CNN())

# GPUを使う設定 (オプティマイザの前にやっておく）

chainer.cuda.get_device_from_id(0).use()

model.to_gpu()

# オプティマイザ（最適化装置 ) を設定

optimizer = chainer.optimizers.Adam()

optimizer.setup(model)

# MNISTのデータを読み込む

train, test = chainer.datasets.get_mnist(ndim=3)

# イテレーターを設定する

train_iter = chainer.iterators.SerialIterator(train, 100)

test_iter = chainer.iterators.SerialIterator(test, 100, repeat=False, shuffle=False)

# トレーナーを設定する

updater = training.StandardUpdater(train_iter, optimizer, device=0)

trainer = training.Trainer(updater, (20, 'epoch'), out='result')

# 非常識な書き方w

for ext in (

exts.Evaluator(test_iter, model, device=0),

exts.ProgressBar(), # プログレスバー

exts.LogReport(),

exts.PrintReport(['epoch', 'main/loss', 'main/accuracy', 'validation/main/accuracy']),

exts.snapshot_object(model.predictor, filename='model_epoch-{.updater.epoch}')

trainer.extend(ext)

# 実行

trainer.run()

MNISTのはずれ画像を眺めてみる

人間でも間違えそうなものと、人間だったら間違えないものが含まれている。とくに8は間違いすぎていると思う。
全体的に値の少ない文字のほうが間違いにくいという傾向があるように思われて、とても興味深い。

import numpy as np
import chainer
from chainer import serializers
import chainer.functions as F
import chainer.links as L
from PIL import Image

import mycnn

# GPU
chainer.cuda.get_device_from_id(0).use()

# 訓練データを読み込む
train, test = chainer.datasets.get_mnist(ndim=3)

# モデルを読み込む
model = mycnn.CNN()
model.to_gpu

# モデルに学習済みの重みをセットする　ここでは30エポックのものを
serializers.load_npz("result/model_epoch-30", model)

#間違えたMNISTを画像にして出力する
counter = 0
for ds in [train, test]:
    for x, label in ds:
        y = model(x[None, ...])
        pred = np.argmax(y.data)
        if pred != label:
            counter+=1
            outimg = Image.fromarray(x.reshape(28,28)*256)
            outimg = outimg.convert("RGB")
            outimg.save("img/%s/%s.png" % (label, counter))

import numpy as np

import chainer

from chainer import serializers

import chainer.functions as F

import chainer.links as L

from PIL import Image

import mycnn

# GPU

chainer.cuda.get_device_from_id(0).use()

# 訓練データを読み込む

train, test = chainer.datasets.get_mnist(ndim=3)

# モデルを読み込む

model = mycnn.CNN()

model.to_gpu

# モデルに学習済みの重みをセットする　ここでは30エポックのものを

serializers.load_npz("result/model_epoch-30", model)

#間違えたMNISTを画像にして出力する

counter = 0

for ds in [train, test]:

for x, label in ds:

y = model(x[None, ...])

pred = np.argmax(y.data)

if pred != label:

counter+=1

outimg = Image.fromarray(x.reshape(28,28)*256)

outimg = outimg.convert("RGB")

outimg.save("img/%s/%s.png" % (label, counter))

データセットクラス

データセットもクラスであると。(numpy配列, 正解ラベル)タプルの集合みたいになっている。
あらかじめchainerに同封されているサンプルデータもある。
・MNIST dataset
・CIFAR-10 (3, 32, 32) 50000 10000
・CIFAR-100 (3, 32, 32) 50000 10000
・Penn Tree Bank dataset as long word sequences (929589, 73760, 82430)
・Penn Tree Bank word vocabulary (dict 単語=>数字)
・SVHN dataset (3, 32, 32) 73257 26032

オプティマイザ

・AdaDelta
・AdaGrad
・Adam
・MomentumSGD
・NesterovAG
・RMSprop
・RMSpropGraves
・SGD
・SMORMS3

イテレータクラス

以前は自分でfor文書いてたらしい
・SerialIterator
・MultiprocessIterator

アップデータ

・Updater
・StandardUpdater
・ParallelUpdater(parallel GPU Updater)
・MultiprocessParallelUpdater(multiprocess parallel GPU Updater)

目標逆算と予想介入 2つの考え方

投稿日: 2017年11月5日2017年11月5日投稿者: k2

これから1ヶ月〜数カ月ぐらいかかるような大きめ仕事が増えていくと思うので、昔の記憶を思い出して書いてみる。

　これから書くことは、私が大学生の時に学祭の準備をしながら考えたことである。だから本当はかなり前の話になる。

　社会に出てからは「何をやるべきか」について自分の頭で考えて決断しなければならないような機会は少なかった。避けてきたと言ってよいかもしれない。世間では、自分の頭で考えることが大事だと言われている。しかし実際には、自分の頭で考えることが望ましいとは限らない。狭い視野で考えた結果が、集団心理に流されるよりも正しいという保証はどこにもない。個人の狭い考えで何か事を起こして、いざ問題が起こったら大変である。そうならないように、組織は大きな力で個人が自分の考えで行動しないように工夫している。それに第一、自分の頭で考えるということは大きな苦行なので、あまり続けていると精神がまいってしまう。こうしてみると果たして考えることが良いことなのかもわからない。…しかし、今日はその話はしない。

　２つの異なる考え方がある。これを「目標逆算」方式と「予想介入」方式と名づけることにする。世の中には仕事のハウツー本がたくさんあるので、それぞれの方式に、それらしい正式名称があるのかも知れない。とはいっても、大学生が考えたことなので、大した内容ではない。

　大きなプロジェクトに取り掛かるとき、人はそれを細かい仕事に細分化する。大きな仕事を、扱いやすい適度なサイズまで小さく切り分けて、紙に書きだしてリストアップする。頭の中だけで、仕事を整理しようとすると、やらなければならない事に抜けが生じるので、紙に書き出すことが大事だと思う。大学祭の準備で、僕が仕事が進まずに困っていると、ある先輩が「困っていることを全部紙に書きだしたか？」と尋ねてきた。紙に書いて、問題を実際に実行可能なサイズまで分割することが、とても大事だというのだ。これが「目標逆算」方式の考え方だと思う。

　大学生はみすぼらしいけど、夢がある。大学祭でも大きな理想を立てる。「これがやりたい」「あれがやりたい」と大きなプロジェクトが立ち上がる。一度目標を立てたら、その目標を達成するために必要な「やらなければならないこと」をノートにリストアップする。まず目標を立てて、逆算して仕事を分割し、最後に実行するので、これを「目標逆算」方式と名付けた。この、目標逆算方式は、確かに最初はうまくいくのだが、やがて目標と現実の乖離が目立ち始め、締め切りが近くなると、「あれも間に合わない」「これも間に合わない」として、否応なしに目標の方を下げていくことになる。少なくとも私の場合はそういうことが多かった。そして、大学生らしく、最後は徹夜の突貫工事が始まるのである。そして、プロジェクトが成功しようがしまいが、終わったあと、ちょっとした心の傷を負うのである。（それもよい思い出である）

　どうして、必ずこうなってしまうのか、うまくいかないのか。悩んでいた時に思い浮かんだのが「予想介入」方式だった。これは、目標逆算とは逆の方法だ。まず、目標は立てない。何をやろうとも考えない。もしも何の対策もせず、地球を放置していたら、この先ものごとがどう回転していくか、人々が何を重い、どう行動するかを、勝手気ままに予想する。その上で、望ましくない未来が生じる兆候をみつけた場合は、それに対してどのような変化を加えればいいか、介入すればいいかを考えるのである。この方法を使うと、「目標逆算」では想像していなかったようなボトルネックに気が付きやすくなる。それに目標逆算方式よりも、人々の気持ち…たとえば怠け心とか…汲んだ予想が行われるので、たとえ成果があがらなくても、「予想した未来よりはマシな結果になったな」と考えて、心の傷も負いにくいことがわかった。この方式を未来の予想に介入するため「予想介入」方式と名付けた。しかし最終的なアウトプットが、先ほどの目標逆算方式よりも高くなるとは限らない。

　以上が、つまらないが大学生のときに考えたことだ。自分の頭で考えて行動している人たちからみると（そういう人が多いとも思わないが）、ごく当たり前で初歩的なことが書いてあると思う。

　私は「予想介入」が苦手だ。だから、もし「目標逆算と予想介入のどちらがより高度な方法なのか？」と言われたら、「たぶん、予想介入の方が高度な方法なのだと思う」と答えるだろう。なぜならば、予想逆算は自分自身に対する予想ふくむ。つまり自己言及的要素があるためメタ度が高く難しいと思われる。また、予想逆算は、自分自身の心の中にあるポリティカル・コレクトネスを一時的にoffにして、自分自身の直感的なセンサーに正直になる必要がある。これも大変難しいことだ。

しかし、世の中には予想介入にばかり特化して、およそ目標逆算はできないといった人々も確かにいるらしく、その人たちはその人たちで、困ったものだろうと思う。

　実は最初は、目標逆算方式のことを「理想追求方式」と名付けようと思っていた。でも予想介入方式が理想を追求していないのかと言ったら、そうじゃないと思う。このあたりは「理想」、ひいては「自尊感情」、「モチベーションの維持」などの問題が絡むので考えるのが難しいところだ。そういうわけで十分に頭の中で整理できないので書けない。きっと誰かがいいことを書いているのだろうが、どうやってググればいいのかもわからないので調べにくい。

人工知能に神を期待すること

投稿日: 2017年10月3日2017年11月5日投稿者: k2

タイトルは釣りみたいなもので内容も中２みたいなエントリーだが、４月ごろからフワフワと考えていて、なかなか文章にできないことをアウトプットしてみる。

人工知能脅威論ってネット上でもよく見かける。たとえば

　> 将来は人工知能が全部決めて人間が従うだけ
　> 人工知能が人間に対抗してくる　

などなど。でもディープラーニングによる画像認識のようなちゃちなソフトを人工知能と言うなら、これはおかしな話だと思う。
なぜこんな認識違いが起こるかというと、実は人工知能が脅威だと思っている人と、そう思っていない人ではそもそも人工知能に求めている「機能」が違うんじゃないかっていう話です。

少し話が飛躍するかもしれないが、どんな組織でもいいので、日本型組織を想像してほしい。
働かないトップがいる。実務家がいる。

トップは必ずしも物事の詳細について詳しいわけではない。実務家ほど仕事ばかりやっているわけでもない。全体の方向性を決めたり、たまに口を挟む程度で、実権はあまりない。単なる偉い人だ。
一方で実務家は現場で指揮を取ってあくせく働く。知識も経験も豊富だ。何か決定したら、トップに奏上する。トップはこれを承認する。

実は、トップは余裕がある組織でないと養うことはできない。実務家だけの組織や、実務家がトップを兼任している組織はたくさんある。
それでも、僕は、働かないトップがいる組織の方がパフォーマンスがいいのを何回も見てきた。働かないトップを支えるのは日本型組織の一つの理想形だと思う（多分）。ただし働かないトップを養うためには組織の余裕がかなり必要になる。ある意味贅沢品である。（豊かであるからトップが養えるのか、トップがいるから豊かなのか、というのは難しい問題である。）

ここで、トップの果たしている役割と、実務家の果たしている役割は全く違う。
にもかかわらず、トップは実務家のように知識や実行力が豊富であるべきだとされ、実務家はトップのように品格のある人であるべきだとされる。

トップの果たしている「機能」は明らかに重要だが、その意味・内容は実務家のもたらす「機能」と違って明瞭ではない。トップとは何をしている人なのだろうか。

私は仕事でも、あえてこの「トップ」の持つ役割・機能を意識して振る舞うときがある。つまり自分は何もしなくても、ただ黙って傍らで他者の仕事を眺めているだけで、自分は何らの知識や技能がなくても、何もしないよりはうまく仕事が回転していくことをよくある。本当に何もしていない。ただ横にいて見ているだけなのだ。誠に非科学的な話かもしれないが、この時、私は心理的には上司や同僚や部下の心理的負担に手を差し伸べている。お金に例えると、自分はなにもしていないが精神的に作業に「出資」しているような状態だと思う。私は実際には何も働いていない状況ではあるが、人々は私の精神的な出資率も高いと判断して、私も仕事の完遂を願っていると判断して勝手に行動してくれる。そして、終わったあとなぜかとても感謝される。

一方でこの精神的な出資のことを意図的にまたは無意識のうちに軽視していると、どんなに実務能力があっても、あいつは「未熟」であると影口を叩かれる。

このような状況は誰しも経験するのではないだろうか。

上司がまだ仕事をしている時に、特に用事がなくても居残ってしまう日本人の奇妙な性質もこれで説明ができる。例えシゴトをしていないくても、上司と一緒に居残りしている彼は精神的に出資をしているのだ。そしてこの精神的な出資が、とてもありがたく感じられるのである。（念のために書いておくと、そのような仕事法の総合的な善悪までは私は判断しかねる。）

出資者には当然要件があって、それは「仕事の成功を強く願っている」ということが必要だ。逆に「願う」ことさえできれば実務能力はゼロでも構わない。

では「願う」とは何なのだろうか？　既存の枠組み…たとえば強化学習の延長線上で、それは実現できるのか？

その答えは現状では２通りあると思う。(1)マシーンは願っているふりをすることができる　(2)マシーンが願うことは実現できていない。
両方共正解だ。欲望するコンピュータというものがまだ開発できていないので(2)は当然だ（本当かな？）

それより(1)に注目したい。人間は仮想的なマシーンを頭の中に構築することで、願っているふりをするマシーンを作ることができる。え？意味がわからないって？もう少し読み進めてほしい。

組織や国家は、昔から膨大な予算をかけてこれをやってきた。卑弥呼の時代から、人々は祈祷をしてきた。シャーマンとはひょっとすると、願う力の強い人たちである。膨大な僧侶を雇い、彼らは鎮護国家を祈祷…「願って」きた。僧侶は膨大な知識を使って仏教理論を構築していった。

奈良の大仏様をみてみよう。人々はコレが銅の塊に過ぎないことを知っている。しかしそれは同時に宇宙の真理を人々に照らし悟りに導く仏なのである。平安時代の人々は仏教による鎮護国家を目指して、真面目に国家予算を使ってこの大きなオブジェを作った。

このオブジェは実質的には何の機能も持たないが、「願う」機能を持つと想定されるオブジェであり、人々を何もせずに「見て」いるのである。つまり擬似的に「トップ」の機能を実現したマシーンの一種だと言ってよいかもしれない。

あるいは、本当の意味で作られたものは、「毘盧遮那仏」という概念であり、この仏像はそのガワに過ぎないにしても…
「大仏様」は人々の頭に毘盧遮那仏という概念を無理なくインストールするための装置だと考えると面白いと思う。

つまり、この点でも歴史は繰り返しているのだと思う。作ろうと思えば、「トップ」すなわち「神」の機能を持つ「人工知能」は作れる。なぜならば「人工知能」に求められている機能は、「神のような実務能力」ではなく「神」の能力なのである。とすると必ずしも高度な実務能力を実装する必要はないからだ。昔から多くの天才的な「神エンジニア」たちがが国家のために働いてきた。そして現在も…

さて君たちも神を作ってみる気になったかな？
一つアドバイスするなら、神を作りたいなら必ずしも人工知能は要らないということだ。

まあ中２的文章を、これ以上書くと自分でも恥ずかしくて恥ずかしくて大怪我しそうなのでこのへんで。でも書かないと気が済まなかった。

numo-gnuplot playground

投稿日: 2017年8月6日2017年8月6日投稿者: k2

require 'daru'
require 'numo/gnuplot'

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/AirPassengers.csv"

Numo.gnuplot do
  set :title, "Air Passengers", :font, "Arial, 20"
  set :xlabel, "Year"
  set :ylabel, "Passengers"
  set :grid
  set :key, :left
  plot df.time, df.AirPassengers, w: :linespoints, pt:6, lw:2, lc:'rgb "blue"', t:"Passengers"
end

require 'daru'

require 'numo/gnuplot'

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/AirPassengers.csv"

Numo.gnuplot do

set :title, "Air Passengers", :font, "Arial, 20"

set :xlabel, "Year"

set :ylabel, "Passengers"

set :grid

set :key, :left

plot df.time, df.AirPassengers, w: :linespoints, pt:6, lw:2, lc:'rgb "blue"', t:"Passengers"

end

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/BJsales.csv"

Numo.gnuplot do
  set :title, "BJsales", :font, "Time, 20"
  set :xlabel, "Time"
  set :ylabel, "BJsales"
  unset :key
  plot df.time, df.BJsales, w: :boxes
end

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/BJsales.csv"

Numo.gnuplot do

set :title, "BJsales", :font, "Time, 20"

set :xlabel, "Time"

set :ylabel, "BJsales"

unset :key

plot df.time, df.BJsales, w: :boxes

end

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/CO2.csv"

Numo.gnuplot do
  set title: "Carbon Dioxide Uptake in Grass Plants ", font: "Times, 20"
  set xlabel: "Day"
  set ylabel: "CO2"
  set xrange: [91..334]
  unset :key
  set yrange: [350..400]
  plot df.Day, df.CO2, w: "filledcurve x1", lc: 'rgb "navy"'
end

df = Daru::DataFrame.from_csv "https://raw.githubusercontent.com/vincentarelbundock/Rdatasets/master/csv/datasets/CO2.csv"

Numo.gnuplot do

set title: "Carbon Dioxide Uptake in Grass Plants ", font: "Times, 20"

set xlabel: "Day"

set ylabel: "CO2"

set xrange: [91..334]

unset :key

set yrange: [350..400]

plot df.Day, df.CO2, w: "filledcurve x1", lc: 'rgb "navy"'

end

今日の落書き red-arrowで遊ぶ

投稿日: 2017年8月5日2017年8月6日投稿者: k2

難しそうなので今日まで敬遠していたred-arrowを使ってみた。
公式の通りインストール。手順通りコピペでインストールしているだけなので何もわかっていないけど、そういうアホなユーザーも世の中一定数いるから仕方ないよね。Pythonの方もcondaでPyArrowをインストールした。

難しそうなので公式のexampleを試すだけ

パイソン

import pyarrow as pa
import numpy as np

ndarray = np.random.randn(10,6)
print(ndarray)

tensor = pa.Tensor.from_numpy(ndarray)
with pa.OSFile("/dev/shm/tensor.arrow", "wb") as sink:
    pa.write_tensor(tensor, sink)

import pyarrow as pa

import numpy as np

ndarray = np.random.randn(10,6)

print(ndarray)

tensor = pa.Tensor.from_numpy(ndarray)

with pa.OSFile("/dev/shm/tensor.arrow", "wb") as sink:

pa.write_tensor(tensor, sink)

ルビー

require 'arrow'
require 'arrow-numo-narray'

Input = Arrow::MemoryMappedInputStream

tensor = nil

Input.open("/dev/shm/tensor.arrow") do |input| 
  tensor = input.read_tensor(0)
end

p tensor.to_narray

require 'arrow'

require 'arrow-numo-narray'

Input = Arrow::MemoryMappedInputStream

tensor = nil

Input.open("/dev/shm/tensor.arrow") do |input|

tensor = input.read_tensor(0)

end

p tensor.to_narray

おお、普通に動くじゃないか…。
/dev/shmというのが何か気になったのでインターネッツでググるとRAMディスクのことらしい（正確には違うらしい）。

ということは…なにこれすごい∑( ﾟдﾟ )

公式スライド

RubyもApache Arrowでデータ処理言語の仲間入り

正直Webサイト製作に関するプロの道具であることを求めなければ、Rubyでデータ解析できる状況は十分に整ってきていると感じる。

機械学習に関してはscikit-learnのようなライブラリの力を借りる必要があり、pycallを呼び出して適宜red-arrowでデータを変換していくような使い方が望ましいのかもしれない。

RubyやPythonといった便利な道具があることを知らない or キャリアをまともにこなしていると学習コストを支払えない制度設計になっているために、プログラムでやった方が早いことも含めてプログラムと縁のない方法で仕事をこなさざるをえない非エンジニアの世界の方が、エンジニアの世界よりも広いのである。。

今日の落書き Rubyでアヤメ（Iris）のデータを眺める

投稿日: 2017年7月29日2017年8月6日投稿者: k2

データを用意する

https://raw.githubusercontent.com/pandas-dev/pandas/master/pandas/tests/data/iris.csv

wget https://raw.githubusercontent.com/pandas-dev/pandas/master/pandas/tests/data/iris.csv

1	wget https://raw.githubusercontent.com/pandas-dev/pandas/master/pandas/tests/data/iris.csv

Jupyter Notebookを起動する

source activate fugaenv
jupyter-notebook

1 2	source activate fugaenv jupyter-notebook

※ホビーでRubyを手軽に使うのにJupyter Notebookが必ずしもベストとは思わない…

ライブラリを読み込む

require 'numo/narray'
require 'numo/gnuplot'
require 'statsample'
require 'nyaplot'

N = Numo
D = Daru
S = Statsample

require 'numo/narray'

require 'numo/gnuplot'

require 'statsample'

require 'nyaplot'

N = Numo

D = Daru

S = Statsample

CSVファイルを読み込む

df = D::DataFrame.from_csv "iris.csv"
df.head

1 2	df = D::DataFrame.from_csv "iris.csv" df.head

	SepalLength	SepalWidth	PetalLength	PetalWidth	Name
0	5.1	3.5	1.4	0.2	Iris-setosa
1	4.9	3.0	1.4	0.2	Iris-setosa
2	4.7	3.2	1.3	0.2	Iris-setosa
3	4.6	3.1	1.5	0.2	Iris-setosa
4	5.0	3.6	1.4	0.2	Iris-setosa
5	5.4	3.9	1.7	0.4	Iris-setosa
6	4.6	3.4	1.4	0.3	Iris-setosa
7	5.0	3.4	1.5	0.2	Iris-setosa
8	4.4	2.9	1.4	0.2	Iris-setosa
9	4.9	3.1	1.5	0.1	Iris-setosa

アヤメの品種を確認する

df.Name.uniq

1	df.Name.uniq

	Name
0	Iris-setosa
50	Iris-versicolor
100	Iris-virginica

基礎統計量を表示してみる

df.describe.round 3

1	df.describe.round 3

	PetalLength	PetalWidth	SepalLength	SepalWidth
count	150.0	150.0	150.0	150.0
mean	3.759	1.199	5.843	3.054
std	1.764	0.763	0.828	0.434
min	1.0	0.1	4.3	2.0
max	6.9	2.5	7.9	4.4

グループにしてみる

gpb = df.group_by("Name")
gpb.mean.round 3

1 2	gpb = df.group_by("Name") gpb.mean.round 3

	SepalLength	SepalWidth	PetalLength	PetalWidth
Iris-setosa	5.006	3.418	1.464	0.244
Iris-versicolor	5.936	2.77	4.26	1.326
Iris-virginica	6.588	2.974	5.552	2.026

アヤメの品種ごとにデータをわける

setosa     = df.where(df.Name.eq "Iris-setosa")
versicolor = df.where(df.Name.eq "Iris-versicolor")
virginica  = df.where(df.Name.eq "Iris-virginica")

setosa = df.where(df.Name.eq "Iris-setosa")

versicolor = df.where(df.Name.eq "Iris-versicolor")

virginica = df.where(df.Name.eq "Iris-virginica")

SepalLengthのヒストグラム DataFrameから

Nyaplotを使う場合

df.SepalLength.plot type: :histogram do |plot, diagram|
  plot.xrange [3.5, 8.5]
  plot.yrange [0, 25]
  plot.y_label "Frequency"
  plot.x_label "SepalLength"
end

df.SepalLength.plot type: :histogram do |plot, diagram|

plot.xrange [3.5, 8.5]

plot.yrange [0, 25]

plot.y_label "Frequency"

plot.x_label "SepalLength"

end

※ Daruから NyaplotやGnuplotrb、Plotlyを通してグラフを描けるらしい. 残念ながらNyaplotの開発は止まっている…

SepalLengthのヒストグラム　Statsampleから

# SVG IRubyに表示
d = S::Graph::Histogram.new(setosa.SepalLength, bins:13)
# ターミナルに表示
puts S::Graph::Histogram.new(setosa.SepalLength, bins:13).summary

# SVG IRubyに表示

d = S::Graph::Histogram.new(setosa.SepalLength, bins:13)

# ターミナルに表示

puts S::Graph::Histogram.new(setosa.SepalLength, bins:13).summary

StatsampleがDaruと統合する前に独自に持っていたグラフ機能が残っている

setosaの散布図を描く

Nyaplotを使うとき

setosa.plot type: :scatter, x: 'SepalLength', y: 'SepalWidth' do |plot, diagram|
  plot.x_label "SepalLength"
  plot.y_label "SepalWidth "
end

setosa.plot type: :scatter, x: 'SepalLength', y: 'SepalWidth' do |plot, diagram|

plot.x_label "SepalLength"

plot.y_label "SepalWidth "

end

Numo::Gnuplotを使うとき

N.noteplot do
  set title: "Setosa 散布図"
  set xlabel: "SepalLength"
  set ylabel: "SepalWidth"
  set key: :left
  plot [setosa.SepalLength.to_a, setosa.SepalWidth.to_a, w: :points, pt:7, t:"setosa"]
end

N.noteplot do

set title: "Setosa 散布図"

set xlabel: "SepalLength"

set ylabel: "SepalWidth"

set key: :left

plot [setosa.SepalLength.to_a, setosa.SepalWidth.to_a, w: :points, pt:7, t:"setosa"]

end

Daru::Vector→RubyArrayへの変換が必要。

相関係数を求める

setosa.corr.round(3)

1	setosa.corr.round(3)

	SepalLength	SepalWidth	PetalLength	PetalWidth
SepalLength	1.0	0.747	0.264	0.279
SepalWidth	0.747	1.0	0.177	0.28
PetalLength	0.264	0.177	1.0	0.306
PetalWidth	0.279	0.28	0.306	1.0

散布図行列

現状では簡単に描く方法は存在していないとおもわれる。

単回帰分析を行う

lr = S::Regression.simple(setosa.SepalLength, setosa.SepalWidth)
puts lr.summary

1 2	lr = S::Regression.simple(setosa.SepalLength, setosa.SepalWidth) puts lr.summary

= Regression of SepalLength over SepalWidth
  Table 1
+----------+--------+
| Variable | Value  |
+----------+--------+
| r        | 0.747  |
| r^2      | 0.558  |
| a        | -0.623 |
| b        | 0.807  |
| s.e      | 0.256  |
+----------+--------+

= Regression of SepalLength over SepalWidth

Table 1

+----------+--------+

| Variable | Value |

+----------+--------+

| r | 0.747 |

| r^2 | 0.558 |

| a | -0.623 |

| b | 0.807 |

| s.e | 0.256 |

+----------+--------+

Numo::Gnuplotで回帰直線を描く

N.noteplot do
  set title: "散布図と単回帰分析"
  set xlabel: "SepalLength"
  set ylabel: "SepalWidth"
  set key: :left
  plot [setosa.SepalLength.to_a, setosa.SepalWidth.to_a, w: :points, pt:7, t:"setosa"],
  ["#{lr.b}*x+#{lr.a}", lw: 3, t:"単回帰"]
end

N.noteplot do

set title: "散布図と単回帰分析"

set xlabel: "SepalLength"

set ylabel: "SepalWidth"

set key: :left

plot [setosa.SepalLength.to_a, setosa.SepalWidth.to_a, w: :points, pt:7, t:"setosa"],

["#{lr.b}*x+#{lr.a}", lw: 3, t:"単回帰"]

end

多分Nyaplotでも描ける

重回帰分析

# df[0..-2] Nameを取り除く
lr = S::Regression.multiple(df[0..-2], "SepalWidth")
puts lr.summary

# df[0..-2] Nameを取り除く

lr = S::Regression.multiple(df[0..-2], "SepalWidth")

puts lr.summary

= Multiple reggresion of SepalLength,PetalLength,PetalWidth on SepalWidth
  Engine: Statsample::Regression::Multiple::RubyEngine
  Cases(listwise)=150(150)
  R=0.724
  R^2=0.524
  R^2 Adj=0.514
  Std.Error R=0.302
  Equation=1.035 + 0.608SepalLength + -0.588PetalLength + 0.568PetalWidth
  == ANOVA
    ANOVA Table
+------------+--------+-----+-------+--------+-------+
|   source   |   ss   | df  |  ms   |   f    |   p   |
+------------+--------+-----+-------+--------+-------+
| Regression | 14.667 | 3   | 4.889 | 53.487 | 0.000 |
| Error      | 13.345 | 146 | 0.091 |        |       |
| Total      | 28.013 | 149 | 4.980 |        |       |
+------------+--------+-----+-------+--------+-------+

  Beta coefficients
+-------------+--------+--------+-------+--------+
|    coeff    |   b    |  beta  |  se   |   t    |
+-------------+--------+--------+-------+--------+
| Constant    | 1.035  | -      | 0.269 | 3.842  |
| SepalLength | 0.608  | 1.160  | 0.062 | 9.823  |
| PetalLength | -0.588 | -2.394 | 0.062 | -9.526 |
| PetalWidth  | 0.568  | 1.000  | 0.122 | 4.669  |
+-------------+--------+--------+-------+--------+

= Multiple reggresion of SepalLength,PetalLength,PetalWidth on SepalWidth

Engine: Statsample::Regression::Multiple::RubyEngine

Cases(listwise)=150(150)

R=0.724

R^2=0.524

R^2 Adj=0.514

Std.Error R=0.302

Equation=1.035 + 0.608SepalLength + -0.588PetalLength + 0.568PetalWidth

== ANOVA

ANOVA Table

+------------+--------+-----+-------+--------+-------+

| source | ss | df | ms | f | p |

+------------+--------+-----+-------+--------+-------+

| Regression | 14.667 | 3 | 4.889 | 53.487 | 0.000 |

| Error | 13.345 | 146 | 0.091 | | |

| Total | 28.013 | 149 | 4.980 | | |

+------------+--------+-----+-------+--------+-------+

Beta coefficients

+-------------+--------+--------+-------+--------+

| coeff | b | beta | se | t |

+-------------+--------+--------+-------+--------+

| Constant | 1.035 | - | 0.269 | 3.842 |

| SepalLength | 0.608 | 1.160 | 0.062 | 9.823 |

| PetalLength | -0.588 | -2.394 | 0.062 | -9.526 |

| PetalWidth | 0.568 | 1.000 | 0.122 | 4.669 |

+-------------+--------+--------+-------+--------+

すごい！

開発者

コンパイル

速度比較

ほんの少しさわってイマイチに感じるところ

よいところ

追記：さらに1日さわってRubyとの違いを感じたところ

使い分け

途中でお世話になったサイト 〜Pythonの基礎知識〜

Rubyと違うところなど

Chainerのバージョン確認

chainer.__version__ 1 chainer.__version__

Configオブジェクト

Variableクラス

ネットワークのグラフを描写する

誤差逆伝播の対象にするかどうか

Functionクラス

Linkクラス

Optimizerクラス

Trainerクラス

最小限MNIST

MNISTでCNNもやってみる

MNISTのはずれ画像を眺めてみる

データセットクラス

オプティマイザ

イテレータクラス

アップデータ

データを用意する

Jupyter Notebookを起動する

ライブラリを読み込む

CSVファイルを読み込む

アヤメの品種を確認する

基礎統計量を表示してみる

グループにしてみる

アヤメの品種ごとにデータをわける

SepalLengthのヒストグラム DataFrameから

SepalLengthのヒストグラム Statsampleから

setosaの散布図を描く

相関係数を求める

散布図行列

単回帰分析を行う

重回帰分析

途中でお世話になったサイト〜Pythonの基礎知識〜

chainer.version

1

chainer.version

SepalLengthのヒストグラム　Statsampleから