git.sesse.net Git - ffmpeg/blob - libavcodec/jpeglsenc.c

   1 /*
   2  * JPEG-LS encoder
   3  * Copyright (c) 2003 Michael Niedermayer
   4  * Copyright (c) 2006 Konstantin Shishkov
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 /**
  24  * @file
  25  * JPEG-LS encoder.
  26  */
  27
  28 #include "avcodec.h"
  29 #include "get_bits.h"
  30 #include "put_bits.h"
  31 #include "golomb.h"
  32 #include "internal.h"
  33 #include "mathops.h"
  34 #include "dsputil.h"
  35 #include "mjpeg.h"
  36 #include "jpegls.h"
  37
  38
  39 /**
  40  * Encode error from regular symbol
  41  */
  42 static inline void ls_encode_regular(JLSState *state, PutBitContext *pb, int Q, int err){
  43     int k;
  44     int val;
  45     int map;
  46
  47     for(k = 0; (state->N[Q] << k) < state->A[Q]; k++);
  48
  49     map = !state->near && !k && (2 * state->B[Q] <= -state->N[Q]);
  50
  51     if(err < 0)
  52         err += state->range;
  53     if(err >= ((state->range + 1) >> 1)) {
  54         err -= state->range;
  55         val = 2 * FFABS(err) - 1 - map;
  56     } else
  57         val = 2 * err + map;
  58
  59     set_ur_golomb_jpegls(pb, val, k, state->limit, state->qbpp);
  60
  61     ff_jpegls_update_state_regular(state, Q, err);
  62 }
  63
  64 /**
  65  * Encode error from run termination
  66  */
  67 static inline void ls_encode_runterm(JLSState *state, PutBitContext *pb, int RItype, int err, int limit_add){
  68     int k;
  69     int val, map;
  70     int Q = 365 + RItype;
  71     int temp;
  72
  73     temp = state->A[Q];
  74     if(RItype)
  75         temp += state->N[Q] >> 1;
  76     for(k = 0; (state->N[Q] << k) < temp; k++);
  77     map = 0;
  78     if(!k && err && (2 * state->B[Q] < state->N[Q]))
  79         map = 1;
  80
  81     if(err < 0)
  82         val = - (2 * err) - 1 - RItype + map;
  83     else
  84         val = 2 * err - RItype - map;
  85     set_ur_golomb_jpegls(pb, val, k, state->limit - limit_add - 1, state->qbpp);
  86
  87     if(err < 0)
  88         state->B[Q]++;
  89     state->A[Q] += (val + 1 - RItype) >> 1;
  90
  91     ff_jpegls_downscale_state(state, Q);
  92 }
  93
  94 /**
  95  * Encode run value as specified by JPEG-LS standard
  96  */
  97 static inline void ls_encode_run(JLSState *state, PutBitContext *pb, int run, int comp, int trail){
  98     while(run >= (1 << ff_log2_run[state->run_index[comp]])){
  99         put_bits(pb, 1, 1);
 100         run -= 1 << ff_log2_run[state->run_index[comp]];
 101         if(state->run_index[comp] < 31)
 102             state->run_index[comp]++;
 103     }
 104     /* if hit EOL, encode another full run, else encode aborted run */
 105     if(!trail && run) {
 106         put_bits(pb, 1, 1);
 107     }else if(trail){
 108         put_bits(pb, 1, 0);
 109         if(ff_log2_run[state->run_index[comp]])
 110             put_bits(pb, ff_log2_run[state->run_index[comp]], run);
 111     }
 112 }
 113
 114 /**
 115  * Encode one line of image
 116  */
 117 static inline void ls_encode_line(JLSState *state, PutBitContext *pb, void *last, void *cur, int last2, int w, int stride, int comp, int bits){
 118     int x = 0;
 119     int Ra, Rb, Rc, Rd;
 120     int D0, D1, D2;
 121
 122     while(x < w) {
 123         int err, pred, sign;
 124
 125         /* compute gradients */
 126         Ra = x ? R(cur, x - stride) : R(last, x);
 127         Rb = R(last, x);
 128         Rc = x ? R(last, x - stride) : last2;
 129         Rd = (x >= w - stride) ? R(last, x) : R(last, x + stride);
 130         D0 = Rd - Rb;
 131         D1 = Rb - Rc;
 132         D2 = Rc - Ra;
 133
 134         /* run mode */
 135         if((FFABS(D0) <= state->near) && (FFABS(D1) <= state->near) && (FFABS(D2) <= state->near)) {
 136             int RUNval, RItype, run;
 137
 138             run = 0;
 139             RUNval = Ra;
 140             while(x < w && (FFABS(R(cur, x) - RUNval) <= state->near)){
 141                 run++;
 142                 W(cur, x, Ra);
 143                 x += stride;
 144             }
 145             ls_encode_run(state, pb, run, comp, x < w);
 146             if(x >= w)
 147                 return;
 148             Rb = R(last, x);
 149             RItype = (FFABS(Ra - Rb) <= state->near);
 150             pred = RItype ? Ra : Rb;
 151             err = R(cur, x) - pred;
 152
 153             if(!RItype && Ra > Rb)
 154                 err = -err;
 155
 156             if(state->near){
 157                 if(err > 0)
 158                     err = (state->near + err) / state->twonear;
 159                 else
 160                     err = -(state->near - err) / state->twonear;
 161
 162                 if(RItype || (Rb >= Ra))
 163                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
 164                 else
 165                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
 166                 W(cur, x, Ra);
 167             }
 168             if(err < 0)
 169                 err += state->range;
 170             if(err >= ((state->range + 1) >> 1))
 171                 err -= state->range;
 172
 173             ls_encode_runterm(state, pb, RItype, err, ff_log2_run[state->run_index[comp]]);
 174
 175             if(state->run_index[comp] > 0)
 176                 state->run_index[comp]--;
 177         } else { /* regular mode */
 178             int context;
 179
 180             context = ff_jpegls_quantize(state, D0) * 81 + ff_jpegls_quantize(state, D1) * 9 + ff_jpegls_quantize(state, D2);
 181             pred = mid_pred(Ra, Ra + Rb - Rc, Rb);
 182
 183             if(context < 0){
 184                 context = -context;
 185                 sign = 1;
 186                 pred = av_clip(pred - state->C[context], 0, state->maxval);
 187                 err = pred - R(cur, x);
 188             }else{
 189                 sign = 0;
 190                 pred = av_clip(pred + state->C[context], 0, state->maxval);
 191                 err = R(cur, x) - pred;
 192             }
 193
 194             if(state->near){
 195                 if(err > 0)
 196                     err = (state->near + err) / state->twonear;
 197                 else
 198                     err = -(state->near - err) / state->twonear;
 199                 if(!sign)
 200                     Ra = av_clip(pred + err * state->twonear, 0, state->maxval);
 201                 else
 202                     Ra = av_clip(pred - err * state->twonear, 0, state->maxval);
 203                 W(cur, x, Ra);
 204             }
 205
 206             ls_encode_regular(state, pb, context, err);
 207         }
 208         x += stride;
 209     }
 210 }
 211
 212 static void ls_store_lse(JLSState *state, PutBitContext *pb){
 213     /* Test if we have default params and don't need to store LSE */
 214     JLSState state2 = { 0 };
 215     state2.bpp = state->bpp;
 216     state2.near = state->near;
 217     ff_jpegls_reset_coding_parameters(&state2, 1);
 218     if(state->T1 == state2.T1 && state->T2 == state2.T2 && state->T3 == state2.T3 && state->reset == state2.reset)
 219         return;
 220     /* store LSE type 1 */
 221     put_marker(pb, LSE);
 222     put_bits(pb, 16, 13);
 223     put_bits(pb, 8,   1);
 224     put_bits(pb, 16, state->maxval);
 225     put_bits(pb, 16, state->T1);
 226     put_bits(pb, 16, state->T2);
 227     put_bits(pb, 16, state->T3);
 228     put_bits(pb, 16, state->reset);
 229 }
 230
 231 static int encode_picture_ls(AVCodecContext *avctx, AVPacket *pkt,
 232                              const AVFrame *pict, int *got_packet)
 233 {
 234     JpeglsContext * const s = avctx->priv_data;
 235     AVFrame * const p = &s->picture;
 236     const int near = avctx->prediction_method;
 237     PutBitContext pb, pb2;
 238     GetBitContext gb;
 239     uint8_t *buf2, *zero, *cur, *last;
 240     JLSState *state;
 241     int i, size, ret;
 242     int comps;
 243
 244     *p = *pict;
 245     p->pict_type= AV_PICTURE_TYPE_I;
 246     p->key_frame= 1;
 247
 248     if(avctx->pix_fmt == AV_PIX_FMT_GRAY8 || avctx->pix_fmt == AV_PIX_FMT_GRAY16)
 249         comps = 1;
 250     else
 251         comps = 3;
 252
 253     if ((ret = ff_alloc_packet2(avctx, pkt, avctx->width*avctx->height*comps*4 +
 254                                     FF_MIN_BUFFER_SIZE)) < 0)
 255         return ret;
 256
 257     buf2 = av_malloc(pkt->size);
 258
 259     init_put_bits(&pb, pkt->data, pkt->size);
 260     init_put_bits(&pb2, buf2, pkt->size);
 261
 262     /* write our own JPEG header, can't use mjpeg_picture_header */
 263     put_marker(&pb, SOI);
 264     put_marker(&pb, SOF48);
 265     put_bits(&pb, 16, 8 + comps * 3); // header size depends on components
 266     put_bits(&pb,  8, (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8); // bpp
 267     put_bits(&pb, 16, avctx->height);
 268     put_bits(&pb, 16, avctx->width);
 269     put_bits(&pb,  8, comps);         // components
 270     for(i = 1; i <= comps; i++) {
 271         put_bits(&pb,  8, i);    // component ID
 272         put_bits(&pb,  8, 0x11); // subsampling: none
 273         put_bits(&pb,  8, 0);    // Tiq, used by JPEG-LS ext
 274     }
 275
 276     put_marker(&pb, SOS);
 277     put_bits(&pb, 16, 6 + comps * 2);
 278     put_bits(&pb,  8, comps);
 279     for(i = 1; i <= comps; i++) {
 280         put_bits(&pb,  8, i);  // component ID
 281         put_bits(&pb,  8, 0);  // mapping index: none
 282     }
 283     put_bits(&pb,  8, near);
 284     put_bits(&pb,  8, (comps > 1) ? 1 : 0); // interleaving: 0 - plane, 1 - line
 285     put_bits(&pb,  8, 0); // point transform: none
 286
 287     state = av_mallocz(sizeof(JLSState));
 288     /* initialize JPEG-LS state from JPEG parameters */
 289     state->near = near;
 290     state->bpp = (avctx->pix_fmt == AV_PIX_FMT_GRAY16) ? 16 : 8;
 291     ff_jpegls_reset_coding_parameters(state, 0);
 292     ff_jpegls_init_state(state);
 293
 294     ls_store_lse(state, &pb);
 295
 296     zero = av_mallocz(FFABS(p->linesize[0]));
 297     if (!zero) {
 298         av_free(state);
 299         return AVERROR(ENOMEM);
 300     }
 301     last = zero;
 302     cur = p->data[0];
 303     if(avctx->pix_fmt == AV_PIX_FMT_GRAY8){
 304         int t = 0;
 305
 306         for(i = 0; i < avctx->height; i++) {
 307             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0,  8);
 308             t = last[0];
 309             last = cur;
 310             cur += p->linesize[0];
 311         }
 312     }else if(avctx->pix_fmt == AV_PIX_FMT_GRAY16){
 313         int t = 0;
 314
 315         for(i = 0; i < avctx->height; i++) {
 316             ls_encode_line(state, &pb2, last, cur, t, avctx->width, 1, 0, 16);
 317             t = *((uint16_t*)last);
 318             last = cur;
 319             cur += p->linesize[0];
 320         }
 321     }else if(avctx->pix_fmt == AV_PIX_FMT_RGB24){
 322         int j, width;
 323         int Rc[3] = {0, 0, 0};
 324
 325         width = avctx->width * 3;
 326         for(i = 0; i < avctx->height; i++) {
 327             for(j = 0; j < 3; j++) {
 328                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
 329                 Rc[j] = last[j];
 330             }
 331             last = cur;
 332             cur += s->picture.linesize[0];
 333         }
 334     }else if(avctx->pix_fmt == AV_PIX_FMT_BGR24){
 335         int j, width;
 336         int Rc[3] = {0, 0, 0};
 337
 338         width = avctx->width * 3;
 339         for(i = 0; i < avctx->height; i++) {
 340             for(j = 2; j >= 0; j--) {
 341                 ls_encode_line(state, &pb2, last + j, cur + j, Rc[j], width, 3, j, 8);
 342                 Rc[j] = last[j];
 343             }
 344             last = cur;
 345             cur += s->picture.linesize[0];
 346         }
 347     }
 348
 349     av_freep(&zero);
 350     av_freep(&state);
 351
 352     // the specification says that after doing 0xff escaping unused bits in the
 353     // last byte must be set to 0, so just append 7 "optional" zero-bits to
 354     // avoid special-casing.
 355     put_bits(&pb2, 7, 0);
 356     size = put_bits_count(&pb2);
 357     flush_put_bits(&pb2);
 358     /* do escape coding */
 359     init_get_bits(&gb, buf2, size);
 360     size -= 7;
 361     while(get_bits_count(&gb) < size){
 362         int v;
 363         v = get_bits(&gb, 8);
 364         put_bits(&pb, 8, v);
 365         if(v == 0xFF){
 366             v = get_bits(&gb, 7);
 367             put_bits(&pb, 8, v);
 368         }
 369     }
 370     avpriv_align_put_bits(&pb);
 371     av_free(buf2);
 372
 373     /* End of image */
 374     put_marker(&pb, EOI);
 375     flush_put_bits(&pb);
 376
 377     emms_c();
 378
 379     pkt->size   = put_bits_count(&pb) >> 3;
 380     pkt->flags |= AV_PKT_FLAG_KEY;
 381     *got_packet = 1;
 382     return 0;
 383 }
 384
 385 static av_cold int encode_init_ls(AVCodecContext *ctx) {
 386     JpeglsContext *c = (JpeglsContext*)ctx->priv_data;
 387
 388     c->avctx = ctx;
 389     ctx->coded_frame = &c->picture;
 390
 391     if(ctx->pix_fmt != AV_PIX_FMT_GRAY8 && ctx->pix_fmt != AV_PIX_FMT_GRAY16 && ctx->pix_fmt != AV_PIX_FMT_RGB24 && ctx->pix_fmt != AV_PIX_FMT_BGR24){
 392         av_log(ctx, AV_LOG_ERROR, "Only grayscale and RGB24/BGR24 images are supported\n");
 393         return -1;
 394     }
 395     return 0;
 396 }
 397
 398 AVCodec ff_jpegls_encoder = {
 399     .name           = "jpegls",
 400     .type           = AVMEDIA_TYPE_VIDEO,
 401     .id             = AV_CODEC_ID_JPEGLS,
 402     .priv_data_size = sizeof(JpeglsContext),
 403     .init           = encode_init_ls,
 404     .encode2        = encode_picture_ls,
 405     .pix_fmts       = (const enum AVPixelFormat[]){
 406         AV_PIX_FMT_BGR24, AV_PIX_FMT_RGB24, AV_PIX_FMT_GRAY8, AV_PIX_FMT_GRAY16,
 407         AV_PIX_FMT_NONE
 408     },
 409     .long_name      = NULL_IF_CONFIG_SMALL("JPEG-LS"),
 410 };