]> git.sesse.net Git - ffmpeg/commitdiff
avcodec/cuviddec: use correct type for extradata_size
authorTimo Rothenpieler <timo@rothenpieler.org>
Thu, 1 Oct 2020 18:49:59 +0000 (20:49 +0200)
committerTimo Rothenpieler <timo@rothenpieler.org>
Thu, 1 Oct 2020 18:49:59 +0000 (20:49 +0200)
libavcodec/cuviddec.c

index 5d099e31a2d6f85f25b7b70171596ed43f03be98..aab6d00c8ded2d9f2e448fe2dcc2cd4c6943b99d 100644 (file)
@@ -795,7 +795,7 @@ static av_cold int cuvid_decode_init(AVCodecContext *avctx)
     CUcontext cuda_ctx = NULL;
     CUcontext dummy;
     uint8_t *extradata;
-    uint32_t extradata_size;
+    ssize_t extradata_size;
     int ret = 0;
 
     enum AVPixelFormat pix_fmts[3] = { AV_PIX_FMT_CUDA,
@@ -955,7 +955,7 @@ static av_cold int cuvid_decode_init(AVCodecContext *avctx)
     }
 
     ctx->cuparse_ext = av_mallocz(sizeof(*ctx->cuparse_ext)
-            + FFMAX(extradata_size - sizeof(ctx->cuparse_ext->raw_seqhdr_data), 0));
+            + FFMAX(extradata_size - (ssize_t)sizeof(ctx->cuparse_ext->raw_seqhdr_data), 0));
     if (!ctx->cuparse_ext) {
         ret = AVERROR(ENOMEM);
         goto error;