2021-10-01から1ヶ月間の記事一覧
今日は人のコードを読んだ。知らないことが多い。調べて理解すると楽しい。
ニューラルネットワークのノートブックはネットワーク設計のやり方をしらないからむずかしい。
なんだかkeatsのコードが学習の途中で失敗するみたい。メモリオーバーでもなさそうなのに途中でだめってなんやろう。 昨日とかメール見てなかったけど圧力コンペがあと1週間で終わるみたい。RNN系が使えるようになりたいな。
昨日saveしたノートブックのバージョンはエラーになっていた。そのバージョンを見てもジュピターノートブックのスクリプトがソースコード?として表示されていてよくわからなかったけど、手で実行して行ってみるとメモリ不足のような気がした。落ちたとこを…
スコアを上げることにこだわらずグラフを描いたり特徴量を増やしたりを短い時間でやった。cpuでサブミットしたけど途中で止まらず終わるかなぁ。
キューに入ってたサブミットが2分で失敗していた。特徴量増やしすぎてメモリオーバーみたい。
圧力コンペに戻って他の方のnotebookを参考に特徴量を増やしてサブミット。てしたけどTPUを使う設定にしていたが、6時間経ってもキューに入ったまま。kaggleの環境もリソースが足りないみたい。
圧力コンペ再開。ちょっとだけど。後11日で終わっちゃう。一日1submitはできないだろうなぁ。
つくりかけたプログラムまだ完成してないけどそろそろ圧力コンペに戻ろう。
何日もかかって時系列の予測できないなって思ってたけどどこかで読んだ通り正規化したらいけそう。一回試したときは正規化してもダメだったんだけどそのときは別の原因だったのかな。 pytorch じゃなくてkerasでまず試すか。
Kaggleから離れて時系列データの予測を調べはじめて結構日数が経ったけど結果が出てない。 そういえばkaggleから時系列データの機械学習を学ぶコースができたってメールが来たな。
RNNよくわかってない。動かしているコードが明らかに間違っていることはわかった。
出勤日プラス残業であんまり機械学習の勉強は出来なかった。変数の値がどう変わっていくかをグラフか文字で見てコードを理解しよう。
LSTM を使って予測するツールをつくろうとして精度が出ないので立ち返ってRNNも試してみたけどやっぱり精度が出ない。データ数が少ないと使えないのかな。
LSTM を使ったツールをつくろうとしてるけどなんかエラーがでて最後まで実行できない。勉強するのみ。
lstmを使ったプログラムをつくってるけど何エポック回しても精度がよくならないから間違ってるんやろな。
30分くらいコード書いた。明日は出社。早く寝ないと。
Google ColabとGoogle Driveの連携させるとこをつくった。必要な部分。
遅くまで勉強した。開始が遅くて30分だけだけど。のんびり時間を使うのも心に余裕を持つために必要なのかも。
iPadでオンスクリーンキーボードでGoogle Colabを使うのを試行錯誤。範囲選択できないのがたいへん生産性を落としてるなぁ。外付けキーボード買ってるでしょってことなんやろうけど。
3ポモドーロくらいPyTorch とRNN, LSTMを勉強した。勉強といってもアルゴリズムではなくて使い方についてだけど。理論も知りたい。
そんな日もある。多いけど。
今日は朝にちょっとだけ勉強したような気もするけどだいたい休息。
Google Colab、iPadで使っているからか長くかかる学習をすると途中でとまってるなー。
仕事に行ったのに8000歩歩いてない。会議が多かったからやな。いいことじゃないなー。 物理的な紙とかデバイスのやりとりは出社してないとできない。滅多にないことだし事務的なことだが。
昨日のつづき。GoogleColabでtpu なしで動かして寝よう。kaggleのノートブックだとやり方が間違っているのか途中で終わっちゃうことが多いけどcolabはうまくいくかな。
lightgbmからnnにしただけでLBの順位がかなり上がった。驚き。ただ、nnはモデルをつくるのにすごく時間がかかるので無料で続けるためにkaggleとgoogle colabのノートブックを両方使っていこうと思っている。しかしiPadのオンスクリーンキーボードでgoogle co…
lightgbmではランク下の方やったし他の人がNNでやってる人が多かったのでkeats + Tensorflowでやってみた。普通にTraningするだけでもぜんぜん終わらない。NNはyouないとあかんのか。ということでkaggle とgoogle colabでtpu を使うことに。iPadでもFilesア…
Ventilator コンペ、Optuneでハイパラチューニングして提出したらちょっとLeader Boardの順位上がった。けど順位上の方の人とは2桁くらい順位が違う。
Ventilator コンペ、サブミットしたら最下位に近かった。伸び代しかない。