]> git.sesse.net Git - ffmpeg/commit
hwcontext_vulkan: correctly download and upload flipped images
authorLynne <dev@lynne.ee>
Tue, 21 Apr 2020 17:55:24 +0000 (18:55 +0100)
committerLynne <dev@lynne.ee>
Tue, 21 Apr 2020 18:00:51 +0000 (19:00 +0100)
commite3c7b22451799a2890062b756b645cc5f2e8752e
treeef206df1bc4102b46da44c91f8b975e218d0783d
parent8a4fda029a3d0ff6d1ae007a986d3a18b35dac8a
hwcontext_vulkan: correctly download and upload flipped images

We derive the destination buffer stride from the input stride,
which meant if the image was flipped with a negative stride,
we'd be FFALIGNING a negative number which ends up being huge,
thus making the Vulkan buffer allocation fail and the whole
image transfer fail.

Only found out about this as OpenGL compositors can copy an entire
image with a single call if its flipped, rather than iterate over
each line.
libavutil/hwcontext_vulkan.c