]> git.sesse.net Git - ffmpeg/blob - libavcodec/flvdec.c
libopusdec: fix out-of-bounds read
[ffmpeg] / libavcodec / flvdec.c
1 /*
2  * FLV decoding.
3  *
4  * This file is part of Libav.
5  *
6  * Libav is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * Libav is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with Libav; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/imgutils.h"
22
23 #include "flv.h"
24 #include "h263.h"
25 #include "mpegvideo.h"
26 #include "mpegvideodata.h"
27
28 void ff_flv2_decode_ac_esc(GetBitContext *gb, int *level, int *run, int *last)
29 {
30     int is11 = get_bits1(gb);
31     *last = get_bits1(gb);
32     *run  = get_bits(gb, 6);
33     if (is11)
34         *level = get_sbits(gb, 11);
35     else
36         *level = get_sbits(gb, 7);
37 }
38
39 int ff_flv_decode_picture_header(MpegEncContext *s)
40 {
41     int format, width, height;
42
43     /* picture header */
44     if (get_bits_long(&s->gb, 17) != 1) {
45         av_log(s->avctx, AV_LOG_ERROR, "Bad picture start code\n");
46         return -1;
47     }
48     format = get_bits(&s->gb, 5);
49     if (format != 0 && format != 1) {
50         av_log(s->avctx, AV_LOG_ERROR, "Bad picture format\n");
51         return -1;
52     }
53     s->h263_flv       = format + 1;
54     s->picture_number = get_bits(&s->gb, 8); /* picture timestamp */
55     format            = get_bits(&s->gb, 3);
56     switch (format) {
57     case 0:
58         width  = get_bits(&s->gb, 8);
59         height = get_bits(&s->gb, 8);
60         break;
61     case 1:
62         width  = get_bits(&s->gb, 16);
63         height = get_bits(&s->gb, 16);
64         break;
65     case 2:
66         width  = 352;
67         height = 288;
68         break;
69     case 3:
70         width  = 176;
71         height = 144;
72         break;
73     case 4:
74         width  = 128;
75         height = 96;
76         break;
77     case 5:
78         width  = 320;
79         height = 240;
80         break;
81     case 6:
82         width  = 160;
83         height = 120;
84         break;
85     default:
86         width = height = 0;
87         break;
88     }
89     if (av_image_check_size(width, height, 0, s->avctx))
90         return -1;
91     s->width  = width;
92     s->height = height;
93
94     s->pict_type = AV_PICTURE_TYPE_I + get_bits(&s->gb, 2);
95     s->droppable = s->pict_type > AV_PICTURE_TYPE_P;
96     if (s->droppable)
97         s->pict_type = AV_PICTURE_TYPE_P;
98
99     skip_bits1(&s->gb); /* deblocking flag */
100     s->chroma_qscale = s->qscale = get_bits(&s->gb, 5);
101
102     s->h263_plus = 0;
103
104     s->unrestricted_mv   = 1;
105     s->h263_long_vectors = 0;
106
107     /* PEI */
108     while (get_bits1(&s->gb) != 0)
109         skip_bits(&s->gb, 8);
110     s->f_code = 1;
111
112     if (s->avctx->debug & FF_DEBUG_PICT_INFO) {
113         av_log(s->avctx, AV_LOG_DEBUG, "%c esc_type:%d, qp:%d num:%d\n",
114                s->droppable ? 'D' : av_get_picture_type_char(s->pict_type),
115                s->h263_flv - 1, s->qscale, s->picture_number);
116     }
117
118     s->y_dc_scale_table = s->c_dc_scale_table = ff_mpeg1_dc_scale_table;
119
120     return 0;
121 }
122
123 AVCodec ff_flv_decoder = {
124     .name           = "flv",
125     .long_name      = NULL_IF_CONFIG_SMALL("FLV / Sorenson Spark / Sorenson H.263 (Flash Video)"),
126     .type           = AVMEDIA_TYPE_VIDEO,
127     .id             = AV_CODEC_ID_FLV1,
128     .priv_data_size = sizeof(MpegEncContext),
129     .init           = ff_h263_decode_init,
130     .close          = ff_h263_decode_end,
131     .decode         = ff_h263_decode_frame,
132     .capabilities   = AV_CODEC_CAP_DRAW_HORIZ_BAND | AV_CODEC_CAP_DR1,
133     .pix_fmts       = (const enum AVPixelFormat[]) { AV_PIX_FMT_YUV420P,
134                                                      AV_PIX_FMT_NONE },
135 };