]> git.sesse.net Git - ffmpeg/blob - libavcodec/xl.c
xldec: return meaningful error code
[ffmpeg] / libavcodec / xl.c
1 /*
2  * Miro VideoXL codec
3  * Copyright (c) 2004 Konstantin Shishkov
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Miro VideoXL codec.
25  */
26
27 #include "libavutil/common.h"
28 #include "libavutil/intreadwrite.h"
29 #include "avcodec.h"
30
31 typedef struct VideoXLContext{
32     AVCodecContext *avctx;
33     AVFrame pic;
34 } VideoXLContext;
35
36 static const int xl_table[32] = {
37    0,   1,   2,   3,   4,   5,   6,   7,
38    8,   9,  12,  15,  20,  25,  34,  46,
39   64,  82,  94, 103, 108, 113, 116, 119,
40  120, 121, 122, 123, 124, 125, 126, 127};
41
42 static int decode_frame(AVCodecContext *avctx,
43                         void *data, int *data_size,
44                         AVPacket *avpkt)
45 {
46     const uint8_t *buf = avpkt->data;
47     int buf_size = avpkt->size;
48     VideoXLContext * const a = avctx->priv_data;
49     AVFrame * const p = &a->pic;
50     uint8_t *Y, *U, *V;
51     int i, j, ret;
52     int stride;
53     uint32_t val;
54     int y0, y1, y2, y3 = 0, c0 = 0, c1 = 0;
55
56     if (avctx->width & 3) {
57         av_log(avctx, AV_LOG_ERROR, "width is not a multiple of 4\n");
58         return AVERROR_INVALIDDATA;
59     }
60
61     if (buf_size < avctx->width * avctx->height) {
62         av_log(avctx, AV_LOG_ERROR, "Packet is too small\n");
63         return AVERROR_INVALIDDATA;
64     }
65
66     if(p->data[0])
67         avctx->release_buffer(avctx, p);
68
69     p->reference = 0;
70     if ((ret = avctx->get_buffer(avctx, p)) < 0) {
71         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
72         return ret;
73     }
74     p->pict_type= AV_PICTURE_TYPE_I;
75     p->key_frame= 1;
76
77     Y = a->pic.data[0];
78     U = a->pic.data[1];
79     V = a->pic.data[2];
80
81     stride = avctx->width - 4;
82
83     for (i = 0; i < avctx->height; i++) {
84         /* lines are stored in reversed order */
85         buf += stride;
86
87         for (j = 0; j < avctx->width; j += 4) {
88             /* value is stored in LE dword with word swapped */
89             val = AV_RL32(buf);
90             buf -= 4;
91             val = ((val >> 16) & 0xFFFF) | ((val & 0xFFFF) << 16);
92
93             if(!j)
94                 y0 = (val & 0x1F) << 2;
95             else
96                 y0 = y3 + xl_table[val & 0x1F];
97             val >>= 5;
98             y1 = y0 + xl_table[val & 0x1F];
99             val >>= 5;
100             y2 = y1 + xl_table[val & 0x1F];
101             val >>= 6; /* align to word */
102             y3 = y2 + xl_table[val & 0x1F];
103             val >>= 5;
104             if(!j)
105                 c0 = (val & 0x1F) << 2;
106             else
107                 c0 += xl_table[val & 0x1F];
108             val >>= 5;
109             if(!j)
110                 c1 = (val & 0x1F) << 2;
111             else
112                 c1 += xl_table[val & 0x1F];
113
114             Y[j + 0] = y0 << 1;
115             Y[j + 1] = y1 << 1;
116             Y[j + 2] = y2 << 1;
117             Y[j + 3] = y3 << 1;
118
119             U[j >> 2] = c0 << 1;
120             V[j >> 2] = c1 << 1;
121         }
122
123         buf += avctx->width + 4;
124         Y += a->pic.linesize[0];
125         U += a->pic.linesize[1];
126         V += a->pic.linesize[2];
127     }
128
129     *data_size = sizeof(AVFrame);
130     *(AVFrame*)data = a->pic;
131
132     return buf_size;
133 }
134
135 static av_cold int decode_init(AVCodecContext *avctx){
136     VideoXLContext * const a = avctx->priv_data;
137
138     avcodec_get_frame_defaults(&a->pic);
139     avctx->pix_fmt= AV_PIX_FMT_YUV411P;
140
141     return 0;
142 }
143
144 static av_cold int decode_end(AVCodecContext *avctx){
145     VideoXLContext * const a = avctx->priv_data;
146     AVFrame *pic = &a->pic;
147
148     if (pic->data[0])
149         avctx->release_buffer(avctx, pic);
150
151     return 0;
152 }
153
154 AVCodec ff_xl_decoder = {
155     .name           = "xl",
156     .type           = AVMEDIA_TYPE_VIDEO,
157     .id             = AV_CODEC_ID_VIXL,
158     .priv_data_size = sizeof(VideoXLContext),
159     .init           = decode_init,
160     .close          = decode_end,
161     .decode         = decode_frame,
162     .capabilities   = CODEC_CAP_DR1,
163     .long_name      = NULL_IF_CONFIG_SMALL("Miro VideoXL"),
164 };