一言日記 2019/07/26

今日は午前中に課題が上手くいかなくて辛くなってた.

普通に3限サボる勢いだったが,今日の授業内容がGPUについてだったことを思い出し,12時40分過ぎに家を出た.

 

授業の後は院試の勉強で疲弊したのでバの作業はほぼ出来なかった.

 

帰宅後も課題で消耗し,とても疲れたのではやくおうちにかえりたい.

一言日記 2019/07/24

今日は工学倫理最後の授業だった.

授業が終わった後研究室に行くと,机に帰宅部活動記録が置かれていたので1巻だけ読んだ.

とほほぎすは好き.

 

夜には機械学習の追加課題をようやく終わらせた.

あと心残りは,バイトの月1ミーティング(7/29),機械工学通論の期末テスト(7/30),一昨日出された課題(8/5まで)だけとなった.

 

はやくおうちにかえりたい.

一言日記 2019/07/23

今日は科学技術計算の最後の授業だった.

内容は2次元の場合の有限要素法の流れとその並列化についてだった.

 

メッシュ分割にCADや3Dプリンターを使うことがあるらしい.

数値計算はプログラムで全部完結するものだと思っていたので驚いた.

 

機械学習の追加課題を今日中(寝るまでが今日)に終わらせたいが,科学技術計算のために6時30分過ぎに起きたので既に眠い.

一言日記 2019/07/22

今日は12時前までぐっすり寝て,高木さんを見てから研究室に行った.

 

色々あって課題がまた増えたので機械学習の追加課題を早急に終わらせる必要が出てきた.

早く課題に追われることもなく期末テストもなく院試を頑張るだけ,になりたい(これになるのは8月6日以降であることが知られている).

一言日記 2019/07/20

今日は昼過ぎからpythonを睨んでた.

6時間くらいかけてようやくLeNet-5を使った学習(MNISTデータセットの手書き文字認識)が上手くできた.

Epoch 1 loss(train) = variable(230.29222106933594), accuracy(train) = 0.1032, accuracy(test) = 0.101
Epoch 2 loss(train) = variable(219.98751831054688), accuracy(train) = 0.3816, accuracy(test) = 0.3776
Epoch 3 loss(train) = variable(129.0580291748047), accuracy(train) = 0.6319, accuracy(test) = 0.6383
Epoch 4 loss(train) = variable(82.83393096923828), accuracy(train) = 0.7655, accuracy(test) = 0.7681
Epoch 5 loss(train) = variable(61.799598693847656), accuracy(train) = 0.8188, accuracy(test) = 0.8188
:
: Epoch 18 loss(train) = variable(14.283223152160645), accuracy(train) = 0.9605, accuracy(test) = 0.9506 Epoch 19 loss(train) = variable(13.457979202270508), accuracy(train) = 0.9619, accuracy(test) = 0.9533 Epoch 20 loss(train) = variable(12.705121994018555), accuracy(train) = 0.9629, accuracy(test) = 0.9547

ただ,SGDでパラメータを最適化した場合だと,下のように精度が11%で止まってしまう.

Adamだと上のように上手くいく.

謎.

Epoch 1 loss(train) = variable(230.16461181640625), accuracy(train) = 0.1127, accuracy(test) = 0.1135
Epoch 2 loss(train) = variable(230.06752014160156), accuracy(train) = 0.1127, accuracy(test) = 0.1135
Epoch 3 loss(train) = variable(230.06521606445312), accuracy(train) = 0.1127, accuracy(test) = 0.1135
Epoch 4 loss(train) = variable(230.06492614746094), accuracy(train) = 0.1127, accuracy(test) = 0.1135
Epoch 5 loss(train) = variable(230.06471252441406), accuracy(train) = 0.1127, accuracy(test) = 0.1135
:
: Epoch 18 loss(train) = variable(230.0627899169922), accuracy(train) = 0.1127, accuracy(test) = 0.1135 Epoch 19 loss(train) = variable(230.06265258789062), accuracy(train) = 0.1127, accuracy(test) = 0.1135 Epoch 20 loss(train) = variable(230.06248474121094), accuracy(train) = 0.1127, accuracy(test) = 0.1135

明日はResNetと格闘する.