]> git.sesse.net Git - ffmpeg/blob - libavcodec/qsvdec_mpeg2.c
wmv2enc: Check memory allocation
[ffmpeg] / libavcodec / qsvdec_mpeg2.c
1 /*
2  * Intel MediaSDK QSV based MPEG2 decoder
3  *
4  * copyright (c) 2015 Anton Khirnov
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23
24 #include <stdint.h>
25 #include <string.h>
26
27 #include <mfx/mfxvideo.h>
28
29 #include "libavutil/common.h"
30 #include "libavutil/fifo.h"
31 #include "libavutil/opt.h"
32
33 #include "avcodec.h"
34 #include "internal.h"
35 #include "qsv_internal.h"
36 #include "qsvdec.h"
37 #include "qsv.h"
38
39 typedef struct QSVMPEG2Context {
40     AVClass *class;
41     QSVContext qsv;
42
43     AVFifoBuffer *packet_fifo;
44
45     AVPacket input_ref;
46 } QSVMPEG2Context;
47
48 static void qsv_clear_buffers(QSVMPEG2Context *s)
49 {
50     AVPacket pkt;
51     while (av_fifo_size(s->packet_fifo) >= sizeof(pkt)) {
52         av_fifo_generic_read(s->packet_fifo, &pkt, sizeof(pkt), NULL);
53         av_packet_unref(&pkt);
54     }
55
56     av_packet_unref(&s->input_ref);
57 }
58
59 static av_cold int qsv_decode_close(AVCodecContext *avctx)
60 {
61     QSVMPEG2Context *s = avctx->priv_data;
62
63     ff_qsv_decode_close(&s->qsv);
64
65     qsv_clear_buffers(s);
66
67     av_fifo_free(s->packet_fifo);
68
69     return 0;
70 }
71
72 static av_cold int qsv_decode_init(AVCodecContext *avctx)
73 {
74     QSVMPEG2Context *s = avctx->priv_data;
75     int ret;
76
77     s->packet_fifo = av_fifo_alloc(sizeof(AVPacket));
78     if (!s->packet_fifo) {
79         ret = AVERROR(ENOMEM);
80         goto fail;
81     }
82
83     s->qsv.iopattern = MFX_IOPATTERN_OUT_SYSTEM_MEMORY;
84
85     return 0;
86 fail:
87     qsv_decode_close(avctx);
88     return ret;
89 }
90
91 static int qsv_decode_frame(AVCodecContext *avctx, void *data,
92                             int *got_frame, AVPacket *avpkt)
93 {
94     QSVMPEG2Context *s = avctx->priv_data;
95     AVFrame *frame    = data;
96     int ret;
97
98     /* buffer the input packet */
99     if (avpkt->size) {
100         AVPacket input_ref = { 0 };
101
102         if (av_fifo_space(s->packet_fifo) < sizeof(input_ref)) {
103             ret = av_fifo_realloc2(s->packet_fifo,
104                                    av_fifo_size(s->packet_fifo) + sizeof(input_ref));
105             if (ret < 0)
106                 return ret;
107         }
108
109         ret = av_packet_ref(&input_ref, avpkt);
110         if (ret < 0)
111             return ret;
112         av_fifo_generic_write(s->packet_fifo, &input_ref, sizeof(input_ref), NULL);
113     }
114
115     /* process buffered data */
116     while (!*got_frame) {
117         /* prepare the input data -- convert to Annex B if needed */
118         if (s->input_ref.size <= 0) {
119             /* no more data */
120             if (av_fifo_size(s->packet_fifo) < sizeof(AVPacket))
121                 return avpkt->size ? avpkt->size : ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, avpkt);
122
123             av_packet_unref(&s->input_ref);
124             av_fifo_generic_read(s->packet_fifo, &s->input_ref, sizeof(s->input_ref), NULL);
125         }
126
127         ret = ff_qsv_process_data(avctx, &s->qsv, frame, got_frame, &s->input_ref);
128         if (ret < 0)
129             return ret;
130
131         s->input_ref.size -= ret;
132         s->input_ref.data += ret;
133     }
134
135     return avpkt->size;
136 }
137
138 static void qsv_decode_flush(AVCodecContext *avctx)
139 {
140     QSVMPEG2Context *s = avctx->priv_data;
141
142     qsv_clear_buffers(s);
143     ff_qsv_decode_flush(avctx, &s->qsv);
144 }
145
146 AVHWAccel ff_mpeg2_qsv_hwaccel = {
147     .name           = "mpeg2_qsv",
148     .type           = AVMEDIA_TYPE_VIDEO,
149     .id             = AV_CODEC_ID_MPEG2VIDEO,
150     .pix_fmt        = AV_PIX_FMT_QSV,
151 };
152
153 #define OFFSET(x) offsetof(QSVMPEG2Context, x)
154 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
155 static const AVOption options[] = {
156     { "async_depth", "Internal parallelization depth, the higher the value the higher the latency.", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 0, INT_MAX, VD },
157     { NULL },
158 };
159
160 static const AVClass class = {
161     .class_name = "mpeg2_qsv",
162     .item_name  = av_default_item_name,
163     .option     = options,
164     .version    = LIBAVUTIL_VERSION_INT,
165 };
166
167 AVCodec ff_mpeg2_qsv_decoder = {
168     .name           = "mpeg2_qsv",
169     .long_name      = NULL_IF_CONFIG_SMALL("MPEG-2 video (Intel Quick Sync Video acceleration)"),
170     .priv_data_size = sizeof(QSVMPEG2Context),
171     .type           = AVMEDIA_TYPE_VIDEO,
172     .id             = AV_CODEC_ID_MPEG2VIDEO,
173     .init           = qsv_decode_init,
174     .decode         = qsv_decode_frame,
175     .flush          = qsv_decode_flush,
176     .close          = qsv_decode_close,
177     .capabilities   = CODEC_CAP_DELAY | CODEC_CAP_DR1,
178     .priv_class     = &class,
179 };