TT Lab
はじめる
学ぶ 学習パス コース

AIダイエット失敗事件

実際にINT8モデルを作り、精度と性能を測る

중급 · レッスン 34 · ラボ 10

ラボを始める

カリキュラム

同じ数字でも単位が違った

小さくしたAIが数字を読めなくなった

小さなモデルの過大な性能主張を見抜く

エクスポートで固まるもの

軸がひとつ固まるとバッチが通らない

グラフ最適化が変えるもの

動的量子化

較正データが範囲を決める

スケールとゼロ点

精度低下の測り方

演算子ごとの対応と置き換え

実行プロバイダと誤差の蓄積

参考ドキュメント