]> git.sesse.net Git - ffmpeg/commitdiff
avcodec/cfhd: fix overflow in multiplication in LUT calculation
authorPaul B Mahol <onemda@gmail.com>
Tue, 4 Aug 2020 06:20:36 +0000 (08:20 +0200)
committerPaul B Mahol <onemda@gmail.com>
Tue, 4 Aug 2020 06:22:51 +0000 (08:22 +0200)
libavcodec/cfhd.c

index 36fdc840a6075ef6a59f3b9abb30cd66ebee6d44..611fae53d85756a3e0e47f2b81df6bd73514fb94 100644 (file)
@@ -65,7 +65,7 @@ static av_cold int cfhd_init(AVCodecContext *avctx)
     }
 
     for (int i = 0; i < 256; i++)
-        s->lut[1][i] = i + ((768 * i * i * i) / (256 * 256 * 256));
+        s->lut[1][i] = i + ((768LL * i * i * i) / (256 * 256 * 256));
 
     return ff_cfhd_init_vlcs(s);
 }