2021-10-01から1ヶ月間の記事一覧

わかる

今日は人のコードを読んだ。知らないことが多い。調べて理解すると楽しい。

理論

ニューラルネットワークのノートブックはネットワーク設計のやり方をしらないからむずかしい。

原因不明

なんだかkeatsのコードが学習の途中で失敗するみたい。メモリオーバーでもなさそうなのに途中でだめってなんやろう。 昨日とかメール見てなかったけど圧力コンペがあと1週間で終わるみたい。RNN系が使えるようになりたいな。

つづき

昨日saveしたノートブックのバージョンはエラーになっていた。そのバージョンを見てもジュピターノートブックのスクリプトがソースコード?として表示されていてよくわからなかったけど、手で実行して行ってみるとメモリ不足のような気がした。落ちたとこを…

ゆとり

スコアを上げることにこだわらずグラフを描いたり特徴量を増やしたりを短い時間でやった。cpuでサブミットしたけど途中で止まらず終わるかなぁ。

あれ

キューに入ってたサブミットが2分で失敗していた。特徴量増やしすぎてメモリオーバーみたい。

改良

圧力コンペに戻って他の方のnotebookを参考に特徴量を増やしてサブミット。てしたけどTPUを使う設定にしていたが、6時間経ってもキューに入ったまま。kaggleの環境もリソースが足りないみたい。

残り少し

圧力コンペ再開。ちょっとだけど。後11日で終わっちゃう。一日1submitはできないだろうなぁ。

再開

つくりかけたプログラムまだ完成してないけどそろそろ圧力コンペに戻ろう。

なんやー

何日もかかって時系列の予測できないなって思ってたけどどこかで読んだ通り正規化したらいけそう。一回試したときは正規化してもダメだったんだけどそのときは別の原因だったのかな。 pytorch じゃなくてkerasでまず試すか。

これはよかったのか

Kaggleから離れて時系列データの予測を調べはじめて結構日数が経ったけど結果が出てない。 そういえばkaggleから時系列データの機械学習を学ぶコースができたってメールが来たな。

今日のRNN

RNNよくわかってない。動かしているコードが明らかに間違っていることはわかった。

あまり

出勤日プラス残業であんまり機械学習の勉強は出来なかった。変数の値がどう変わっていくかをグラフか文字で見てコードを理解しよう。

RNNもいい結果出ない

LSTM を使って予測するツールをつくろうとして精度が出ないので立ち返ってRNNも試してみたけどやっぱり精度が出ない。データ数が少ないと使えないのかな。

エラーをとりたい

LSTM を使ったツールをつくろうとしてるけどなんかエラーがでて最後まで実行できない。勉強するのみ。

実験中

lstmを使ったプログラムをつくってるけど何エポック回しても精度がよくならないから間違ってるんやろな。

今日の夜活

30分くらいコード書いた。明日は出社。早く寝ないと。

連携

Google ColabとGoogle Driveの連携させるとこをつくった。必要な部分。

進捗

遅くまで勉強した。開始が遅くて30分だけだけど。のんびり時間を使うのも心に余裕を持つために必要なのかも。

iPadの作業環境

iPadでオンスクリーンキーボードでGoogle Colabを使うのを試行錯誤。範囲選択できないのがたいへん生産性を落としてるなぁ。外付けキーボード買ってるでしょってことなんやろうけど。

ちょっとやった

3ポモドーロくらいPyTorch とRNN, LSTMを勉強した。勉強といってもアルゴリズムではなくて使い方についてだけど。理論も知りたい。

今日も進捗なし

そんな日もある。多いけど。

休み

今日は朝にちょっとだけ勉強したような気もするけどだいたい休息。

止まる

Google Colab、iPadで使っているからか長くかかる学習をすると途中でとまってるなー。

出社と会議

仕事に行ったのに8000歩歩いてない。会議が多かったからやな。いいことじゃないなー。 物理的な紙とかデバイスのやりとりは出社してないとできない。滅多にないことだし事務的なことだが。

Colab 2

昨日のつづき。GoogleColabでtpu なしで動かして寝よう。kaggleのノートブックだとやり方が間違っているのか途中で終わっちゃうことが多いけどcolabはうまくいくかな。

Colab

lightgbmからnnにしただけでLBの順位がかなり上がった。驚き。ただ、nnはモデルをつくるのにすごく時間がかかるので無料で続けるためにkaggleとgoogle colabのノートブックを両方使っていこうと思っている。しかしiPadのオンスクリーンキーボードでgoogle co…

gpu

lightgbmではランク下の方やったし他の人がNNでやってる人が多かったのでkeats + Tensorflowでやってみた。普通にTraningするだけでもぜんぜん終わらない。NNはyouないとあかんのか。ということでkaggle とgoogle colabでtpu を使うことに。iPadでもFilesア…

少し上がったけどまだ差が大きい

Ventilator コンペ、Optuneでハイパラチューニングして提出したらちょっとLeader Boardの順位上がった。けど順位上の方の人とは2桁くらい順位が違う。

初サブミット

Ventilator コンペ、サブミットしたら最下位に近かった。伸び代しかない。