标签: #PyTorch
用亲手运行、亲手测量的数据来写 Kubernetes、DevOps 与 MLOps · 1 篇
tensor_core_unlock_actual_measurement_1_matrix_multiplication_1_6x_real_time_ball_finding_0_9
NVIDIA的消费级显卡以一半的速度运行通过FP32累加的FP16、BF16和TF32 Tensor Core运算。第三方内核模块 gpu-unlock 会在引导时通过 GPU 安全处理器的启动路径解除此限制。在一台 24GB GPU 服务器上运行后，内核日志中的速度选择寄存器从 0x43301046 变为 0x88888888，8192³ 矩阵乘法的 BF16 吞吐量从 70.1 提升至 113.0 TFLOPS，达到了 1.61 倍
2026-10-31 · 29 分钟阅读 #GPU#텐서 코어#커널 모듈#프로파일링#PyTorch