hikettei
Github: https://github.com/hikettei
SpeakerDeck: https://speakerdeck.com/hikettei
Discord: @hikettei
Email: [email protected]
技術 / 興味関心
プログラミング言語
Common Lisp
中学2年生の時にOn Lispという書籍に出会って感銘を受けて以来ずっと書いてます。(受験期を除けば2~3年くらいの経験アリ)
数あるプログラミングの中で一番得意です。僕にCommon Lispを書かせてくれれば息をするノリでコードを生成します。
Common Lispに科学計算系のライブラリを再び盛り上げようとOSSライブラリを色々作ってました。
PyTorch-Likeな自動微分/行列演算/数理最適化ライブラリ
MetalのCommon Lisp Binding
OSSの深層学習コンパイラ (後述)
その他
バ先などではPython/C++あたりも使います。
深層学習モデル高速化のための科学計算
深層学習コンパイラ
Common Lispの深層学習周りを盛り上げたくて,フルスクラッチで深層学習コンパイラを自作しようとしてました
CPUをターゲットにチューニングする際,C++/OpenMP/SIMDを用いた行列演算と深く向き合いました
2023のU22 プロコンで経済産業大臣賞受賞🏆
行列演算
gemmの高速な近似を実装する研究をちょっと追ってます
LUTベースの手法でSoTAを記録したMaddnessを自分で再現実装したりしました:
機会がなくてGPUとは触れてこなかったので,今年はCUDAとか勉強したいです。
深層学習モデルの量子化
現在のインターン先の企業で勉強させていただいています
実装寄りのことを多くやってます,OSSのDLコンパイラいじる等。
Transformer系列のアーキテクチャ
昔から興味があって2022年くらいから色々追ってます
Reformerの再実装とかやりました
今年はLLMをキャッチアップしたい
属性
(昔は)英語得意を自称してました 今はTypo Masterです
高校辞めてから勉強するモチベを失ってます。今年は英検一級取りたい
好きなゲーム: GTA/Minecraft/原神/プロセカ
音楽: HIPHOP, ニューフォーク(https://open.spotify.com/intl-ja/artist/53l3yjX8ITilPIlCRsVKEB)あたりを好んで聴いてます。MC Battleいつか見に行きたい
作業環境としてはEmacsをずっと使ってます
高校卒業後どう生きてくかで真剣に悩んでます... 一番極めたいのはCSですが,自分の学力と経済状況で行きたい(行ける)大学が見当たらず。。。う〜ん