推論最適化エンジニア

この求人について

ai&のEngineering部門で、AI推論・学習基盤のカーネル最適化を担当します。フレームワークの下層でCUDAおよびROCm/HIPのカスタムカーネルを設計・実装し、プロファイリングから本番導入までを担います。NVIDIAとAMDのGPUアーキテクチャ、メモリサブシステム、スケジューラ、キャッシュ階層の違いを踏まえ、各ハードウェアに適した処理を開発します。GEMM、attention、normalization、convolution、Flash Attention系・MLA・paged attention、量子化処理、融合演算、マルチGPU間の通信カーネルなどが対象です。FP16、BF16、FP8、e5m2、確率的丸めを含む精度形式を評価し、精度と性能のバランスを検討します。Nsight Compute、rocprof、Perfetto、VTune、独自計測を使ってボトルネックを分析し、メモリ帯域、warp divergence、occupancy、キャッシュ利用などの課題を改善します。勤務地は横浜または東京都です。