]> git.sesse.net Git - ffmpeg/commit
avcodec/prores_ks: Fix luma quantization if q >= MAX_STORED_Q
authorAlex Mogurenko <alex@mogurenko.com>
Fri, 28 Dec 2018 20:30:08 +0000 (22:30 +0200)
committerDerek Buitenhuis <derek.buitenhuis@gmail.com>
Sun, 30 Dec 2018 16:24:39 +0000 (11:24 -0500)
commite4788ae31b2e9af45d11f4bf4498c075dcc25a6c
tree4c4b03664faf73eada0c1f2b81cef81c45f289e1
parenta53a9f1c8d1ffad80956027ffee5f506c98f28ff
avcodec/prores_ks: Fix luma quantization if q >= MAX_STORED_Q

The problem occurs in slice quant estimation and slice encoding:

If the slice quant is larger than  MAX_STORED_Q we don't use pre-calculated
quant matrices, but generate a new one, but both qmat and qmat_chroma both
point to the same table, so the luma table ends up having chroma table
values.

Add custom_chroma_q the same way as custom_q.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
libavcodec/proresenc_kostya.c