]> git.sesse.net Git - ffmpeg/blob - libavcodec/ffv1.c
Merge commit '4024b566d664a4b161d677554be52f32e7ad4236'
[ffmpeg] / libavcodec / ffv1.c
1 /*
2  * FFV1 codec for libavcodec
3  *
4  * Copyright (c) 2003-2013 Michael Niedermayer <michaelni@gmx.at>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * FF Video Codec 1 (a lossless codec)
26  */
27
28 #include "libavutil/attributes.h"
29 #include "libavutil/avassert.h"
30 #include "libavutil/crc.h"
31 #include "libavutil/opt.h"
32 #include "libavutil/imgutils.h"
33 #include "libavutil/pixdesc.h"
34 #include "libavutil/timer.h"
35
36 #include "avcodec.h"
37 #include "internal.h"
38 #include "rangecoder.h"
39 #include "golomb.h"
40 #include "mathops.h"
41 #include "ffv1.h"
42
43 av_cold int ff_ffv1_common_init(AVCodecContext *avctx)
44 {
45     FFV1Context *s = avctx->priv_data;
46
47     if (!avctx->width || !avctx->height)
48         return AVERROR_INVALIDDATA;
49
50     s->avctx = avctx;
51     s->flags = avctx->flags;
52
53     s->picture.f = av_frame_alloc();
54     s->last_picture.f = av_frame_alloc();
55     if (!s->picture.f || !s->last_picture.f)
56         return AVERROR(ENOMEM);
57
58     s->width  = avctx->width;
59     s->height = avctx->height;
60
61     // defaults
62     s->num_h_slices = 1;
63     s->num_v_slices = 1;
64
65     return 0;
66 }
67
68 av_cold int ff_ffv1_init_slice_state(FFV1Context *f, FFV1Context *fs)
69 {
70     int j, i;
71
72     fs->plane_count  = f->plane_count;
73     fs->transparency = f->transparency;
74     for (j = 0; j < f->plane_count; j++) {
75         PlaneContext *const p = &fs->plane[j];
76
77         if (fs->ac != AC_GOLOMB_RICE) {
78             if (!p->state)
79                 p->state = av_malloc_array(p->context_count, CONTEXT_SIZE *
80                                      sizeof(uint8_t));
81             if (!p->state)
82                 return AVERROR(ENOMEM);
83         } else {
84             if (!p->vlc_state) {
85                 p->vlc_state = av_mallocz_array(p->context_count, sizeof(VlcState));
86                 if (!p->vlc_state)
87                     return AVERROR(ENOMEM);
88                 for (i = 0; i < p->context_count; i++) {
89                     p->vlc_state[i].error_sum = 4;
90                     p->vlc_state[i].count     = 1;
91                 }
92             }
93         }
94     }
95
96     if (fs->ac == AC_RANGE_CUSTOM_TAB) {
97         //FIXME only redo if state_transition changed
98         for (j = 1; j < 256; j++) {
99             fs->c. one_state[      j] = f->state_transition[j];
100             fs->c.zero_state[256 - j] = 256 - fs->c.one_state[j];
101         }
102     }
103
104     return 0;
105 }
106
107 av_cold int ff_ffv1_init_slices_state(FFV1Context *f)
108 {
109     int i, ret;
110     for (i = 0; i < f->max_slice_count; i++) {
111         FFV1Context *fs = f->slice_context[i];
112         if ((ret = ff_ffv1_init_slice_state(f, fs)) < 0)
113             return AVERROR(ENOMEM);
114     }
115     return 0;
116 }
117
118 av_cold int ff_ffv1_init_slice_contexts(FFV1Context *f)
119 {
120     int i;
121
122     f->max_slice_count = f->num_h_slices * f->num_v_slices;
123     av_assert0(f->max_slice_count > 0);
124
125     for (i = 0; i < f->max_slice_count; i++) {
126         int sx          = i % f->num_h_slices;
127         int sy          = i / f->num_h_slices;
128         int sxs         = f->avctx->width  *  sx      / f->num_h_slices;
129         int sxe         = f->avctx->width  * (sx + 1) / f->num_h_slices;
130         int sys         = f->avctx->height *  sy      / f->num_v_slices;
131         int sye         = f->avctx->height * (sy + 1) / f->num_v_slices;
132         FFV1Context *fs = av_mallocz(sizeof(*fs));
133
134         if (!fs)
135             goto memfail;
136
137         f->slice_context[i] = fs;
138         memcpy(fs, f, sizeof(*fs));
139         memset(fs->rc_stat2, 0, sizeof(fs->rc_stat2));
140
141         fs->slice_width  = sxe - sxs;
142         fs->slice_height = sye - sys;
143         fs->slice_x      = sxs;
144         fs->slice_y      = sys;
145
146         fs->sample_buffer = av_malloc_array((fs->width + 6), 3 * MAX_PLANES *
147                                       sizeof(*fs->sample_buffer));
148         if (!fs->sample_buffer) {
149             av_freep(&f->slice_context[i]);
150             goto memfail;
151         }
152     }
153     return 0;
154
155 memfail:
156     while(--i >= 0) {
157         av_freep(&f->slice_context[i]->sample_buffer);
158         av_freep(&f->slice_context[i]);
159     }
160     return AVERROR(ENOMEM);
161 }
162
163 int ff_ffv1_allocate_initial_states(FFV1Context *f)
164 {
165     int i;
166
167     for (i = 0; i < f->quant_table_count; i++) {
168         f->initial_states[i] = av_malloc_array(f->context_count[i],
169                                          sizeof(*f->initial_states[i]));
170         if (!f->initial_states[i])
171             return AVERROR(ENOMEM);
172         memset(f->initial_states[i], 128,
173                f->context_count[i] * sizeof(*f->initial_states[i]));
174     }
175     return 0;
176 }
177
178 void ff_ffv1_clear_slice_state(FFV1Context *f, FFV1Context *fs)
179 {
180     int i, j;
181
182     for (i = 0; i < f->plane_count; i++) {
183         PlaneContext *p = &fs->plane[i];
184
185         p->interlace_bit_state[0] = 128;
186         p->interlace_bit_state[1] = 128;
187
188         if (fs->ac != AC_GOLOMB_RICE) {
189             if (f->initial_states[p->quant_table_index]) {
190                 memcpy(p->state, f->initial_states[p->quant_table_index],
191                        CONTEXT_SIZE * p->context_count);
192             } else
193                 memset(p->state, 128, CONTEXT_SIZE * p->context_count);
194         } else {
195             for (j = 0; j < p->context_count; j++) {
196                 p->vlc_state[j].drift     = 0;
197                 p->vlc_state[j].error_sum = 4;    //FFMAX((RANGE + 32)/64, 2);
198                 p->vlc_state[j].bias      = 0;
199                 p->vlc_state[j].count     = 1;
200             }
201         }
202     }
203 }
204
205
206 av_cold int ff_ffv1_close(AVCodecContext *avctx)
207 {
208     FFV1Context *s = avctx->priv_data;
209     int i, j;
210
211     if (s->picture.f)
212         ff_thread_release_buffer(avctx, &s->picture);
213     av_frame_free(&s->picture.f);
214
215     if (s->last_picture.f)
216         ff_thread_release_buffer(avctx, &s->last_picture);
217     av_frame_free(&s->last_picture.f);
218
219     for (j = 0; j < s->max_slice_count; j++) {
220         FFV1Context *fs = s->slice_context[j];
221         for (i = 0; i < s->plane_count; i++) {
222             PlaneContext *p = &fs->plane[i];
223
224             av_freep(&p->state);
225             av_freep(&p->vlc_state);
226         }
227         av_freep(&fs->sample_buffer);
228     }
229
230     av_freep(&avctx->stats_out);
231     for (j = 0; j < s->quant_table_count; j++) {
232         av_freep(&s->initial_states[j]);
233         for (i = 0; i < s->max_slice_count; i++) {
234             FFV1Context *sf = s->slice_context[i];
235             av_freep(&sf->rc_stat2[j]);
236         }
237         av_freep(&s->rc_stat2[j]);
238     }
239
240     for (i = 0; i < s->max_slice_count; i++)
241         av_freep(&s->slice_context[i]);
242
243     return 0;
244 }