こんにちは.
クリスマス前に始めたクソでかモデルのONNX化が一向に終わらず,一緒に年まで越しそうになっているザビカエルです.
急を要するわけでもないので放置していますが,もうこの子はだめなんでしょうか? (一度試して中断した際のログは正常に進んでいた)
諸事情でモデルの情報が出せないかつ構造が複雑なのでどうしようもないですが,知見あれば教えてください.
さて,今回は2022年の振り返りブログです.
本当は振り返りではなく必要最低限の内容に留めるつもりだったのですが,Dec 30th deadline の査読結果の通知が一向に来ないため落ち着かず,気を紛らわせるために書くことにしました.とはいえ今年はほとんど研究関係に時間を使っていたため人生の進捗は特になく,雑多な話が続きます.特に得るものもないと思いますが,暇つぶし程度にお付き合いください.
1月
ありがたいことに2021年の12月に就職活動を終えることができたので,早い段階で研究をまとめ,4月くらいから内定先でインターンしたいなーと考えていました.あの日までは......
いままでやってた研究とほぼ同じ内容の論文が1ヶ月前に出てたので終わりです
— ザビカエル (@xavifrog) January 6, 2022
探さないでください
これを見つけたのは年末年始休み中で,久しぶりにまとまった時間ができたからと自研究関係のサーベイをしていた時でした.自研究は対話システムの1テーマと強化学習の知見がどちらも必要な内容であり,危機意識がありつつも早々テーマ被りはないだろうと呑気にしていたため,論文の題名を見た際は本当に血の気が引きました.
該当論文は内容が完全に一致していたわけではないですが,データセットの違いレベルしか差分がなく,インターンや就活の片手間にやっていた自研究の新規性は完全に潰えました.その日から次のミーティングまでの記憶がありません.
余談ですが,該当論文の投稿学会的に2021年の6月には論文が完成していた計算になり,修士からテーマを変更していた自分がもし研究一本でやっていたとしても同じ結果になっていたでしょう.自分のレベル/熱量等などから博士課程には進むつもりはなかったので,2021年は長期インターンや夏インターンに参加し,外部の実績を積んで早めに就活を終えようという戦略がリスクヘッジとして機能した形になります.人生やっといてよかったなーという感じですね.
2月
テーマ被りの一件から立ち直り,何らかの手段で新規性を見出して国際会議に出そうと足掻いていたような気がしますが,特段覚えていることはないです.正直弊研の傾向的に修士の間で国際会議に出せるのは半分といった感じで,特に私が所属しているチームでは2年間国際会議論文が出ていなかったこと,研究(ML)と就職業種(SWE)が異なることから,全てを諦めてインターン等に振り切ることもできました.しかし,研究者見習いとしての意地や,将来後悔して必要がない劣等感を覚えることになりそうという考えから研究を続けることにしていたのでした.
そんな感じで研究方面の進捗はなかったのですが,プライベートでガチ事件が発生しました.
私の家には現22歳の老猫がいるのですが,その子は元々外と内を自由に行き来する子で,引っ越し後に高齢なこともあって内猫に移行しました.しかしトイレは外にこだわりがあり,トイレ時は家族の誰かが付き添って庭の土壌に連れて行っています.
そして,その夜は普段と変わらず,母が風呂に入っている間に猫のトイレの付き添いをしていました.
ふと庭の横道を見ると人の気配がするのです.当時父は単身赴任中だったので,いるとすれば母ですが,前述の通り風呂に入っています.不審に思い,ライト(トイレが真夜中になることもあるため携帯している)を向けて見ると,なんとグレーのパーカーを帽子まで被りながら黒マスクという,ザ・不審者という風体の男が立っていたのです!
......要は風呂を覗くために不法侵入した犯罪者でした.そいつは明かりに気が付いたのか,バッという効果音が出そうな速度で振り返り,相対した私との数秒の睨み合いが発生.我に帰った私が怒鳴りつけた(記憶にないのですが,後ほど聞くとかなり大きい声だったらしい.人生で一番大きかったかも)所,一目散に逃げ始めました.当然私も追いかける訳ですが,勝手口のサンダル(途中で破損)であったこと,足が遅いこと,何より老猫を一人残して飛び出してきてしまったことなどがあって200mほどで追跡を諦め,通行人に通報を依頼,帰宅しました.
ちなみに猫は私の声で何か発生したと感づいた母に回収されていました.昔みたいに走り回れる訳でないのが今回ばかりは幸いしました.
どうやら似たような事件が発生していたようで,警察の方の見回り強化対応になりましたが,結局その後どうなったかは把握できていません.この一件後に勝手口のサンダルがグレードアップしたので,もし再度出現したらしっかり確保し,ついでにプロレス技でもかけてやりたいと思います.年末は不審者が多いそうなので,皆さんもお気をつけください.
3月
研究方面はそこそこにやっていたように思います.私は研究室の催しを企画する係であるので(私をよく知っている人は意外かもしれませんが,案外こういうことに縁がある),いわゆる追いコン(オンライン)のために色々な手配をしたり,ミニゲームのロケハン(学校版GeoGuessrをやった)をしたりしていました.また,研究室経由で時たまアルバイトを依頼されることがあり,それを受けて先輩がやっていた仕事の引き継ぎ・保守などを請け負った覚えがあります.こういう小さい仕事はwantedlyに書いていないのですが,職務経歴書の際はどうすればいいのかが最近の悩みです.
プライベート方面ではサークルの後輩の小説の壁打ちに付き合い始めたことがあります.その2年下の後輩は同じ学科所属(別研究室)かつ趣味が通じることもあって仲良くさせてもらっていたのですが,コロナ禍以降はサークル活動自体もなくなり,TwitterでFFしている程度で疎遠になっていました.とはいえツイートやたまに来るチャットを見るに病んでおり,どうしたものかなと思っていたところ,たまたま地震か何かで二人とも寝付けなくなっていた時に良い機会と思い,声をかけてみたのでした.
話を聞くと,彼は商業小説を出したいと言っており,実際に書いたものを見せてくれました.
これ以降に書くことは後輩にも言っているのですが,ザ・アマチュア小説という感じで,小説のフォーマット(地の文とセリフの割合など)はめちゃくちゃだし,文体は整っておらず,何を伝えたいのかもわからないという状態でした.私自身は幼い頃から商業・アマチュア,純文学・ライトノベル問わず乱読し,小説の組み立てについて研究していたこともあった(絵の方が合っていたのでそっちにいきましたが)ため,このままだと商業どころか1次選考も厳しいと感じていたのですが,本人はそれを正しく認識できておらず,感想の伝え方に窮しました.
結局色々あり,私達は彼の小説を議題とした週一の1on1をすることにしました.その理由はいくつかあります.
・二次創作ながらもコミケできちんとした作品を頒布しており,口だけではなかったこと
・小説の作法を知らないだけで,理解すれば伸びる可能性があったこと.特にセリフ回しについては二次創作をしていたからか光るものがあった
・ほっとくと死にそうだったため.数少ない友人は大切にしたいし,友人と話す時間が週一で取れると考えれば悪くない
・Rのインターンで経験した新規事業開発のメソッドを小説に転用できるはずだと考えたため.また,インターン先各社のメンターの方々には非常にお世話になり,その経験をもとに誰かのメンターをやってみようと思ったこと
・自分が創作の時間を取れないことの代償行動として
ということで今現在も週一の1on1は継続しています.
ちなみに後輩が書いている作品がこちらです.
人間が宇宙進出した世界で,主人公らがある場所を目指して旅をするというSF作品です.3月から文章力も成長し,色眼鏡抜きでも小説として良くなったと思いますし,コンスタントに週一更新しているので,興味があればぜひご覧ください.
4月
M2の一年間が始まりました.個人研究はどうにか新規性を出すために強化学習の中でも変化球な分野や,交渉対話そのものを人間がどう行なっているかと言った観点でサーベイを行なっていました.
また,新年度になったことで研究室の新しい共同研究プロジェクトが始まり,NLPの知見が必要ということで私も参加することになりました.前述の通り,インターンから得た経験を元にしてメンターの動き方やプロジェクトマネジメントを試してみたいという思いもありましたし,同時にアサインされた同期がそういったコミュニケーションに長けていたので学び取りたいということを考えていたように思います.また,自然言語処理特有の不確実性や期待値の齟齬などを上流で対応しなくては着地が難しくなるだろうと思ったのも一因です.
という訳で4月は自分の研究と後輩のオンボーディングに費やしていました.
5月
個人研究の方ではサーベイの結果を元に実験を行なったものの上手くいかないという期間でした.
あとは共同研究のお仕事をしました.
6月
個人研究の方は実験していく中で可能性が見え始めたという所でした.
また,共同研究のお仕事をしました.
7月
個人研究の方は実験が一部成功し,人工知能学会の対話システム研究会であるSIG-SLUDに投稿することにしました.
かわらず共同研究のお仕事もしました.
8月
日本語論文を書きました.今思い返しても酷い出来で,当時の自分も自信を持って発表できるわけではなかったのですが,この時に得た課題感で国際会議に投稿することになるので,やっておいて良かったなーと思います(発表を見に来ていただいた方には拙い内容で申し訳なかったです......)
共同研究はゼミの方針でお休みでした.何かしらの期限が迫っている人間用の定期MTGはありましたが,私の経験上,B4の夏休みが最後の休みらしい休み(M1はインターン,M2は研究)となるので,楽しんでほしいということで特段仕事をお願いすることはしなかった覚えがあります(単純に私が兼業できなかったというのもありますが......).しかし,9月初週のMTGでは進捗を用意してくれており,ありがたかったです.
9月
9月は個人研究とその他諸々の間で苦悩した時期でした.SIG-SLUDで発表したのは良かったのですが,そもそも綺麗に問題を解決できた訳ではなく,新規性も十分でないため,すぐに国際会議に投稿できるという状態ではありませんでした.当初目標としていたEMNLPやAACL-IJCNLP(SRW)に投稿できず,タスク的に適していたICAART(10/10締め切り) を目指すにしても道筋が立っていないという状態で,メンタルに来るものがありました.
また,共同研究で発生した,必須ではないが9月中にやった方が良いこと(ML外)を片付ける必要があったり,データベーススペシャリスト試験に申し込んでいたので勉強したりとてんやわんやで,脳内がショートしていた覚えがあります.
結局ICAARTの投稿を諦め,その他のあれこれを片付けました.
10月
在学中に発表できる国際会議がない(と思っていた)のでNLP2023を目標に研究を続けました.締め切りのストレスがなくなった影響か視野が広くなり,研究会で得た課題感に対していくつかのアイデアを試したところ,幸運にも上手くいき始めるというフェーズでした.
共同研究は直面した問題を後輩が別手法の提案という形で乗り越えてくれ,自分の至らなさに悲しくなったり,後輩の成長に嬉しくなったりしていました.
プライベートではデータベーススペシャリスト試験を受験しましたが,先に結果を言うと落ちました.申し込み当初は研究を終わらせて自分の勉強に専念できている予定でしたが,前述の通りそういうわけにはいかず,純粋に勉強不足でした.特に午後1は概念設計とSQLに張っていたため,概念設計に60分使ってしまった時点で厳しかったです.早く解けるようにするというのも勉強の内なので,やはり勉強不足ですね(午後2は自信があったので点数だけでも知りたかった)
結果を見ると以下の感じだったのですが,午後1は30点くらいだと思っていたので逆に悔しくなってしまいました.ただ,データベースはB3の授業以来取り組めていなかったので良い勉強になりました.
また来年頑張ろうと思います.
そもそもなぜ応用情報も持っていないのにデータベーススペシャリストを受けたかと言うと,データベースへの学習意欲が物凄く高かったからなのですが,この理由を書くと長くなるので別のブログに書くことにします.
11月
個人研究で戦える成果を得ることができたと同時に,在学中に発表することができるICICTと言う国際会議(有名でない.IEEE系列で採択率40~50%程度)を見つけたので頑張って論文を書きました.なんだかんだ初めての国際学会だったのですが,研究室のお金でネイティブチェックを受けさせていただくなどして何とか投稿できました.私は高校の教科の中で英語が最も苦手だったので感慨深いです.指導教授の先生やネイティブチェックでお世話になった方に感謝しています.
共同研究は後輩が活躍してくれてほぼ任せていた感じでした.
12月
無事論文を投稿できたので,あらかじめ予定していたゼミ同期との伊勢志摩旅行に行きました.鳥羽水族館で"この子達はこれ以上種として進化しないんだなー"となったり,志摩スペイン村のジェットコースター『ピレネー』で命の危険を感じたり,伊勢神宮に参拝したりを2泊3日でやりました.久しぶりの人との旅行は楽しかったです.
個人研究の方はとりあえず査読の結果待ちで,自分の勉強をしています.ありがたいことに1月から内定先で働けることになったので,使うであろうgolangの勉強などをしているところです.
共同研究では研究の本筋でないが,仕事として発生することをやっています.
プライベートでは密かに憧れていた内定先のアドベントカレンダーへの記事投稿をしました.内容としてはParameterized Action Spaceという強化学習における特殊な行動空間の話です.記事はこちら(ちなみに旅行中の空き時間も書いてました😇).
私はqiitaのある記事をとっかかりに強化学習の勉強を始めました.今回の内容はかなりニッチなので刺さる人はあまりいないと思いますが,先人のように,これから強化学習に取り組む誰かの役に立てたなら嬉しいです.
2022まとめ
良かったこと
・国際学会に投稿できたこと.結果がどうあれ,とりあえずバットを振りきることができたので将来余計な感情を抱かなくてすみそう.
・査読なし論文を一本投稿.技術記事を初めて執筆した.
・人との関わりやチームを大切にする意識が高まった結果,以前リーダーしていたチームよりも良いチームとして研究を終えられそうなこと.これはインターン先各社でお世話になった影響です.ありがとうございました.
悪かったこと
・メンティーとのコミュニケーションが不十分だったように感じていること.元々そういったことが不得手であった上,特に共同研究ではメンティーに金銭が発生していないので,どこまで踏み込むべきなのかと悩む日々でした.私がB4だった際は絶賛コロナ禍で,先輩とのコミュニケーションがMTG以外でほぼ発生せず,かつ個人研究であったのでメンター的な先輩がいなかったことも一因としてあります.来年はメンティー側になるので,メンターとなる方や書籍などから色々と学び取ろうと思います.
・ソフトウェアエンジニアリングの勉強が想定していたよりできなかったこと.これは職に関することなので結構深刻なのですが,過ぎ去ってしまったことは仕方ないので今後研鑽を怠らないようにするしかないですね.2023年は勝負の年になるので覚悟して取り組んでいきます.
最後に
さて,ここまで書きましたが,まだ査読の結果が返ってきていません.
まあ年末年始ですからね......
なるようにしかならないと思うので気長に待つとします.
なお,共同研究の内容については(無事に進めば)人工知能学会に投稿することになっており,確定したタイミングでツイートなりすると思うので,採用関係者各位はチェックしておくと質の良い青田が刈れると思います.
2022年は計画通りにはいかない一年でしたが,実りのある一年でもあったように思います.とはいえ,良い意味でも悪い意味でも落ち着いていたので,2023年はよりアクティブに物事に取り組むことを信条として進んでいきます.
お付き合いいただきありがとうございました.
良い年をお過ごしください.