]> git.sesse.net Git - ffmpeg/blob - libavcodec/arbc.c
Merge commit '0676de935b1e81bc5b5698fef3e7d48ff2ea77ff'
[ffmpeg] / libavcodec / arbc.c
1 /*
2  * Gryphon's Anim Compressor decoder
3  * Copyright (c) 2019 Paul B Mahol
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <stdio.h>
23 #include <stdlib.h>
24 #include <string.h>
25
26 #include "libavutil/imgutils.h"
27 #include "libavutil/internal.h"
28 #include "libavutil/intreadwrite.h"
29 #include "libavutil/mem.h"
30
31 #include "avcodec.h"
32 #include "bytestream.h"
33 #include "internal.h"
34
35 typedef struct ARBCContext {
36     GetByteContext gb;
37
38     AVFrame *prev_frame;
39 } ARBCContext;
40
41 static void fill_tile4(AVCodecContext *avctx, int color, AVFrame *frame)
42 {
43     ARBCContext *s = avctx->priv_data;
44     GetByteContext *gb = &s->gb;
45     int nb_tiles = bytestream2_get_le16(gb);
46     int h = avctx->height - 1;
47
48     if ((avctx->width / 4 + 1) * (avctx->height / 4 + 1) < nb_tiles)
49         return;
50
51     for (int i = 0; i < nb_tiles; i++) {
52         int y = bytestream2_get_byte(gb);
53         int x = bytestream2_get_byte(gb);
54         uint16_t mask = bytestream2_get_le16(gb);
55         int start_y = y * 4, start_x = x * 4;
56         int end_y = start_y + 4, end_x = start_x + 4;
57
58         for (int j = start_y; j < end_y; j++) {
59             for (int k = start_x; k < end_x; k++) {
60                 if (mask & 0x8000) {
61                     if (j >= avctx->height || k >= avctx->width) {
62                         mask = mask << 1;
63                         continue;
64                     }
65                     AV_WB24(&frame->data[0][frame->linesize[0] * (h - j) + 3 * k], color);
66                 }
67                 mask = mask << 1;
68             }
69         }
70     }
71 }
72
73 static void fill_tileX(AVCodecContext *avctx, int tile_width, int tile_height,
74                        int color, AVFrame *frame)
75 {
76     ARBCContext *s = avctx->priv_data;
77     GetByteContext *gb = &s->gb;
78     const int step_h = tile_height / 4;
79     const int step_w = tile_width / 4;
80     int nb_tiles = bytestream2_get_le16(gb);
81     int h = avctx->height - 1;
82
83     if ((avctx->width / tile_width + 1) * (avctx->height / tile_height + 1) < nb_tiles)
84         return;
85
86     for (int i = 0; i < nb_tiles; i++) {
87         int y = bytestream2_get_byte(gb);
88         int x = bytestream2_get_byte(gb);
89         uint16_t mask = bytestream2_get_le16(gb);
90         int start_y = y * tile_height, start_x = x * tile_width;
91         int end_y = start_y + tile_height, end_x = start_x + tile_width;
92
93         for (int j = start_y; j < end_y; j += step_h) {
94             for (int k = start_x; k < end_x; k += step_w) {
95                 if (mask & 0x8000U) {
96                     for (int m = 0; m < step_h; m++) {
97                         for (int n = 0; n < step_w; n++) {
98                             if (j + m >= avctx->height || k + n >= avctx->width)
99                                 continue;
100                             AV_WB24(&frame->data[0][frame->linesize[0] * (h - (j + m)) + 3 * (k + n)], color);
101                         }
102                     }
103                 }
104                 mask = mask << 1;
105             }
106         }
107     }
108 }
109
110 static int decode_frame(AVCodecContext *avctx, void *data,
111                         int *got_frame, AVPacket *avpkt)
112 {
113     ARBCContext *s = avctx->priv_data;
114     AVFrame *frame = data;
115     int ret, nb_segments, keyframe = 1;
116
117     if (avpkt->size < 10)
118         return AVERROR_INVALIDDATA;
119
120     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
121     bytestream2_skip(&s->gb, 8);
122     nb_segments = bytestream2_get_le16(&s->gb);
123     if (nb_segments == 0)
124         keyframe = 0;
125
126     if (7 * nb_segments > bytestream2_get_bytes_left(&s->gb))
127         return AVERROR_INVALIDDATA;
128
129     if ((ret = ff_get_buffer(avctx, frame, AV_GET_BUFFER_FLAG_REF)) < 0)
130         return ret;
131
132     if (s->prev_frame->data[0]) {
133         ret = av_frame_copy(frame, s->prev_frame);
134         if (ret < 0)
135             return ret;
136     }
137
138     for (int i = 0; i < nb_segments; i++) {
139         int resolution_flag;
140         int fill;
141
142         if (bytestream2_get_bytes_left(&s->gb) <= 0)
143             return AVERROR_INVALIDDATA;
144
145         fill = bytestream2_get_byte(&s->gb) << 16;
146         bytestream2_skip(&s->gb, 1);
147         fill |= bytestream2_get_byte(&s->gb) << 8;
148         bytestream2_skip(&s->gb, 1);
149         fill |= bytestream2_get_byte(&s->gb) << 0;
150         bytestream2_skip(&s->gb, 1);
151         resolution_flag = bytestream2_get_byte(&s->gb);
152
153         if (resolution_flag & 0x10)
154             fill_tileX(avctx, 1024, 1024, fill, frame);
155         if (resolution_flag & 0x08)
156             fill_tileX(avctx, 256, 256, fill, frame);
157         if (resolution_flag & 0x04)
158             fill_tileX(avctx, 64, 64, fill, frame);
159         if (resolution_flag & 0x02)
160             fill_tileX(avctx, 16, 16, fill, frame);
161         if (resolution_flag & 0x01)
162             fill_tile4(avctx, fill, frame);
163     }
164
165     av_frame_unref(s->prev_frame);
166     if ((ret = av_frame_ref(s->prev_frame, frame)) < 0)
167         return ret;
168
169     frame->pict_type = keyframe ? AV_PICTURE_TYPE_I : AV_PICTURE_TYPE_P;
170     frame->key_frame = keyframe;
171     *got_frame = 1;
172
173     return avpkt->size;
174 }
175
176 static av_cold int decode_init(AVCodecContext *avctx)
177 {
178     ARBCContext *s = avctx->priv_data;
179
180     avctx->pix_fmt = AV_PIX_FMT_RGB24;
181
182     s->prev_frame = av_frame_alloc();
183     if (!s->prev_frame)
184         return AVERROR(ENOMEM);
185
186     return 0;
187 }
188
189 static void decode_flush(AVCodecContext *avctx)
190 {
191     ARBCContext *s = avctx->priv_data;
192
193     av_frame_unref(s->prev_frame);
194 }
195
196 static av_cold int decode_close(AVCodecContext *avctx)
197 {
198     ARBCContext *s = avctx->priv_data;
199
200     av_frame_free(&s->prev_frame);
201
202     return 0;
203 }
204
205 AVCodec ff_arbc_decoder = {
206     .name           = "arbc",
207     .long_name      = NULL_IF_CONFIG_SMALL("Gryphon's Anim Compressor"),
208     .type           = AVMEDIA_TYPE_VIDEO,
209     .id             = AV_CODEC_ID_ARBC,
210     .priv_data_size = sizeof(ARBCContext),
211     .init           = decode_init,
212     .decode         = decode_frame,
213     .flush          = decode_flush,
214     .close          = decode_close,
215     .capabilities   = AV_CODEC_CAP_DR1,
216     .caps_internal  = FF_CODEC_CAP_INIT_CLEANUP,
217 };