機械学習 – テンサーコアって何？ tirole 2020年9月14日 機械学習 – テンサーコアって何？2020-09-14T22:22:21+09:00 プログラミング, 機械学習 コメントはありません 4×4行列のFMAを1サイクルで行う演算コアです。入力はfp16、出力はfp32です。 D = AB + C D: fp16 or fp32 A and B: fp16 C: fp16 or fp32 参考：nvidia programming tensor cores in cuda9
コメントを残す