]> git.sesse.net Git - ffmpeg/blob - libavcodec/jpeglsenc.c
lavc: remove disabled FF_API_COLOR_TABLE_ID cruft
[ffmpeg] / libavcodec / jpeglsenc.c
1 /*
2  * JPEG-LS encoder
3  * Copyright (c) 2003 Michael Niedermayer
4  * Copyright (c) 2006 Konstantin Shishkov
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 /**
24  * @file
25  * JPEG-LS encoder.
26  */
27
28 #include "avcodec.h"
29 #include "get_bits.h"
30 #include "golomb.h"
31 #include "internal.h"
32 #include "mathops.h"
33 #include "mjpeg.h"
34 #include "jpegls.h"
35
36
37 /**
38  * Encode error from regular symbol
39  */
40 static inline void ls_encode_regular(JLSState *state, PutBitContext *pb, int Q, int err){
41     int k;
42     int val;
43     int map;
44
45     for(k = 0; (state->N[Q] << k) < state->A[Q]; k++);
46
47     map = !state->near && !k && (2 * state->B[Q] <= -state->N[Q]);
48
49     if(err < 0)
50         err += state->range;
51     if(err >= ((state->range + 1) >> 1)) {
52         err -= state->range;
53         val = 2 * FFABS(err) - 1 - map;
54     } else
55         val = 2 * err + map;
56
57     set_ur_golomb_jpegls(pb, val, k, state->limit, state->qbpp);
58
59     ff_jpegls_update_state_regular(state, Q, err);
60 }
61
62 /**
63  * Encode error from run termination
64  */
65 static inline void ls_encode_runterm(JLSState *state, PutBitContext *pb, int RItype, int err, int limit_add){
66     int k;
67     int val, map;
68     int Q = 365 + RItype;
69     int temp;
70
71     temp = state->A[Q];
72     if(RItype)
73         temp += state->N[Q] >> 1;
74     for(k = 0; (state->N[Q] << k) < temp; k++);
75     map = 0;
76     if(!k && err && (2 * state->B[Q] < state->N[Q]))
77         map = 1;
78
79     if(err < 0)
80         val = - (2 * err) - 1 - RItype + map;
81     else
82         val = 2 * err - RItype - map;
83     set_ur_golomb_jpegls(pb, val, k, state->limit - limit_add - 1, state->qbpp);
84
85     if(err < 0)
86         state->B[Q]++;
87     state->A[Q] += (val + 1 - RItype) >> 1;
88
89     ff_jpegls_downscale_state(state, Q);
90 }
91
92 /**
93  * Encode run value as specified by JPEG-LS standard
94  */
95 static inline void ls_encode_run(JLSState *state, PutBitContext *pb, int run, int comp, int trail){
96     while(run >= (1 << ff_log2_run[state->run_index[comp]])){
97         put_bits(pb, 1, 1);
98         run -= 1 << ff_log2_run[state->run_index[comp]];
99         if(state->run_index[comp] < 31)
100             state->run_index[comp]++;
101     }
102     /* if hit EOL, encode another full run, else encode aborted run */
103     if(!trail && run) {
104         put_bits(pb, 1, 1);
105     }else if(trail){
106         put_bits(pb, 1, 0);
107         if(ff_log2_run[state->run_index[comp]])
108             put_bits(pb, ff_log2_run[state->run_index[comp]], run);
109     }
110 }
111
112 /**
113  * Encode one line of image
114  */
115 static inline void ls_encode_line(JLSState *state, PutBitContext *pb, void *last, void *cur, int last2, int w, int stride, int comp, int bits){
116     int x = 0;
117     int Ra, Rb, Rc, Rd;
118     int D0, D1, D2;
119
120     while(x < w) {
121         int err, pred, sign;
122
123         /* compute gradients */
124         Ra = x ? R(cur, x - stride) : R(last, x);
125         Rb = R(last, x);
126         Rc = x ? R(last, x - stride) : last2;
127         Rd = (x >= w - stride) ? R(last, x) : R(last, x + stride);
128         D0 = Rd - Rb;
129         D1 = Rb - Rc;
130         D2 = Rc - Ra;
131
132         /* run mode */
133         if((FFABS(D0) <= state->near) && (FFABS(D1) <= state->near) && (FFABS(D2) <= state->near)) {
134             int RUNval, RItype, run;
135
136             run = 0;
137             RUNval = Ra;
138             while(x < w && (FFABS(R(cur, x) - RUNval) <= state->near)){
139                 run++;
140                 W(cur, x, Ra);
141                 x += stride;
142             }
143             ls_encode_run(state, pb, run, comp, x < w);
144             if(x >= w)
145                 return;
146             Rb = R(last, x);
147             RItype = (FFABS(Ra - Rb) <= state->near);
148             pred = RItype ? Ra : Rb;
149             err = R(cur, x) - pred;
150
151             if(!RItype && Ra > Rb)
152                 err = -err;
153
154             if(state->near){
155                 if(err > 0)
156                     err = (state->near + err) / state->twonear;
157                 else
158                     err = -(state->near - err) / state->twonear;
159
160                 if(RItype || (Rb >= Ra))
161                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
162                 else
163                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
164                 W(cur, x, Ra);
165             }
166             if(err < 0)
167                 err += state->range;
168             if(err >= ((state->range + 1) >> 1))
169                 err -= state->range;
170
171             ls_encode_runterm(state, pb, RItype, err, ff_log2_run[state->run_index[comp]]);
172
173             if(state->run_index[comp] > 0)
174                 state->run_index[comp]--;
175         } else { /* regular mode */
176             int context;
177
178             context = ff_jpegls_quantize(state, D0) * 81 + ff_jpegls_quantize(state, D1) * 9 + ff_jpegls_quantize(state, D2);
179             pred = mid_pred(Ra, Ra + Rb - Rc, Rb);
180
181             if(context < 0){
182                 context = -context;
183                 sign = 1;
184                 pred = av_clip(pred - state->C[context], 0, state->maxval);
185                 err = pred - R(cur, x);
186             }else{
187                 sign = 0;
188                 pred = av_clip(pred + state->C[context], 0, state->maxval);
189                 err = R(cur, x) - pred;
190             }
191
192             if(state->near){
193                 if(err > 0)
194                     err = (state->near + err) / state->twonear;
195                 else
196                     err = -(state->near - err) / state->twonear;
197                 if(!sign)
198                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
199                 else
200                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
201                 W(cur, x, Ra);
202             }
203
204             ls_encode_regular(state, pb, context, err);
205         }
206         x += stride;
207     }
208 }
209
210 static void ls_store_lse(JLSState *state, PutBitContext *pb){
211     /* Test if we have default params and don't need to store LSE */
212     JLSState state2 = { 0 };
213     state2.bpp = state->bpp;
214     state2.near = state->near;
215     ff_jpegls_reset_coding_parameters(&state2, 1);
216     if(state->T1 == state2.T1 && state->T2 == state2.T2 && state->T3 == state2.T3 && state->reset == state2.reset)
217         return;
218     /* store LSE type 1 */
219     put_marker(pb, LSE);
220     put_bits(pb, 16, 13);
221     put_bits(pb, 8,   1);
222     put_bits(pb, 16, state->maxval);
223     put_bits(pb, 16, state->T1);
224     put_bits(pb, 16, state->T2);
225     put_bits(pb, 16, state->T3);
226     put_bits(pb, 16, state->reset);
227 }
228
229 static int encode_picture_ls(AVCodecContext *avctx, AVPacket *pkt,
230                              const AVFrame *pict, int *got_packet)
231 {
232     JpeglsContext * const s = avctx->priv_data;
233     AVFrame * const p = &s->picture;
234     const int near = avctx->prediction_method;
235     PutBitContext pb, pb2;
236     GetBitContext gb;
237     uint8_t *buf2, *zero, *cur, *last;
238     JLSState *state;
239     int i, size, ret;
240     int comps;
241
242     *p = *pict;
243     p->pict_type= AV_PICTURE_TYPE_I;
244     p->key_frame= 1;
245
246     if(avctx->pix_fmt == AV_PIX_FMT_GRAY8 || avctx->pix_fmt == AV_PIX_FMT_GRAY16)
247         comps = 1;
248     else
249         comps = 3;
250
251     if ((ret = ff_alloc_packet(pkt, avctx->width*avctx->height*comps*4 +
252                                     FF_MIN_BUFFER_SIZE)) < 0) {
253         av_log(avctx, AV_LOG_ERROR, "Error getting output packet.\n");
254         return ret;
255     }
256
257     buf2 = av_malloc(pkt->size);
258
259     init_put_bits(&pb, pkt->data, pkt->size);
260     init_put_bits(&pb2, buf2, pkt->size);
261
262     /* write our own JPEG header, can't use mjpeg_picture_header */
263     put_marker(&pb, SOI);
264     put_marker(&pb, SOF48);
265     put_bits(&pb, 16, 8 + comps * 3); // header size depends on components
266     put_bits(&pb,  8, (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8); // bpp
267     put_bits(&pb, 16, avctx->height);
268     put_bits(&pb, 16, avctx->width);
269     put_bits(&pb,  8, comps);         // components
270     for(i = 1; i <= comps; i++) {
271         put_bits(&pb,  8, i);    // component ID
272         put_bits(&pb,  8, 0x11); // subsampling: none
273         put_bits(&pb,  8, 0);    // Tiq, used by JPEG-LS ext
274     }
275
276     put_marker(&pb, SOS);
277     put_bits(&pb, 16, 6 + comps * 2);
278     put_bits(&pb,  8, comps);
279     for(i = 1; i <= comps; i++) {
280         put_bits(&pb,  8, i);  // component ID
281         put_bits(&pb,  8, 0);  // mapping index: none
282     }
283     put_bits(&pb,  8, near);
284     put_bits(&pb,  8, (comps > 1) ? 1 : 0); // interleaving: 0 - plane, 1 - line
285     put_bits(&pb,  8, 0); // point transform: none
286
287     state = av_mallocz(sizeof(JLSState));
288     /* initialize JPEG-LS state from JPEG parameters */
289     state->near = near;
290     state->bpp = (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8;
291     ff_jpegls_reset_coding_parameters(state, 0);
292     ff_jpegls_init_state(state);
293
294     ls_store_lse(state, &pb);
295
296     zero = av_mallocz(p->linesize[0]);
297     last = zero;
298     cur = p->data[0];
299     if(avctx->pix_fmt == AV_PIX_FMT_GRAY8){
300         int t = 0;
301
302         for(i = 0; i < avctx->height; i++) {
303             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0,  8);
304             t = last[0];
305             last = cur;
306             cur += p->linesize[0];
307         }
308     }else if(avctx->pix_fmt == AV_PIX_FMT_GRAY16){
309         int t = 0;
310
311         for(i = 0; i < avctx->height; i++) {
312             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0, 16);
313             t = *((uint16_t*)last);
314             last = cur;
315             cur += p->linesize[0];
316         }
317     }else if(avctx->pix_fmt == AV_PIX_FMT_RGB24){
318         int j, width;
319         int Rc[3] = {0, 0, 0};
320
321         width = avctx->width * 3;
322         for(i = 0; i < avctx->height; i++) {
323             for(j = 0; j < 3; j++) {
324                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
325                 Rc[j] = last[j];
326             }
327             last = cur;
328             cur += s->picture.linesize[0];
329         }
330     }else if(avctx->pix_fmt == AV_PIX_FMT_BGR24){
331         int j, width;
332         int Rc[3] = {0, 0, 0};
333
334         width = avctx->width * 3;
335         for(i = 0; i < avctx->height; i++) {
336             for(j = 2; j >= 0; j--) {
337                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
338                 Rc[j] = last[j];
339             }
340             last = cur;
341             cur += s->picture.linesize[0];
342         }
343     }
344
345     av_free(zero);
346     av_free(state);
347
348     // the specification says that after doing 0xff escaping unused bits in the
349     // last byte must be set to 0, so just append 7 "optional" zero-bits to
350     // avoid special-casing.
351     put_bits(&pb2, 7, 0);
352     size = put_bits_count(&pb2);
353     flush_put_bits(&pb2);
354     /* do escape coding */
355     init_get_bits(&gb, buf2, size);
356     size -= 7;
357     while(get_bits_count(&gb) < size){
358         int v;
359         v = get_bits(&gb, 8);
360         put_bits(&pb, 8, v);
361         if(v == 0xFF){
362             v = get_bits(&gb, 7);
363             put_bits(&pb, 8, v);
364         }
365     }
366     avpriv_align_put_bits(&pb);
367     av_free(buf2);
368
369     /* End of image */
370     put_marker(&pb, EOI);
371     flush_put_bits(&pb);
372
373     emms_c();
374
375     pkt->size   = put_bits_count(&pb) >> 3;
376     pkt->flags |= AV_PKT_FLAG_KEY;
377     *got_packet = 1;
378     return 0;
379 }
380
381 static av_cold int encode_init_ls(AVCodecContext *ctx) {
382     JpeglsContext *c = (JpeglsContext*)ctx->priv_data;
383
384     c->avctx = ctx;
385     ctx->coded_frame = &c->picture;
386
387     if(ctx->pix_fmt != AV_PIX_FMT_GRAY8 && ctx->pix_fmt != AV_PIX_FMT_GRAY16 && ctx->pix_fmt != AV_PIX_FMT_RGB24 && ctx->pix_fmt != AV_PIX_FMT_BGR24){
388         av_log(ctx, AV_LOG_ERROR, "Only grayscale and RGB24/BGR24 images are supported\n");
389         return -1;
390     }
391     return 0;
392 }
393
394 AVCodec ff_jpegls_encoder = { //FIXME avoid MPV_* lossless JPEG should not need them
395     .name           = "jpegls",
396     .type           = AVMEDIA_TYPE_VIDEO,
397     .id             = AV_CODEC_ID_JPEGLS,
398     .priv_data_size = sizeof(JpeglsContext),
399     .init           = encode_init_ls,
400     .encode2        = encode_picture_ls,
401     .pix_fmts       = (const enum AVPixelFormat[]){
402         AV_PIX_FMT_BGR24, AV_PIX_FMT_RGB24, AV_PIX_FMT_GRAY8, AV_PIX_FMT_GRAY16,
403         AV_PIX_FMT_NONE
404     },
405     .long_name      = NULL_IF_CONFIG_SMALL("JPEG-LS"),
406 };