]> git.sesse.net Git - ffmpeg/blob - libavcodec/libopenjpegenc.c
avcodec/huffyuv: add GBRP support
[ffmpeg] / libavcodec / libopenjpegenc.c
1 /*
2  * JPEG 2000 encoding support via OpenJPEG
3  * Copyright (c) 2011 Michael Bradshaw <mjbshaw gmail com>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * JPEG 2000 encoder using libopenjpeg
25  */
26
27 #define  OPJ_STATIC
28
29 #include "libavutil/avassert.h"
30 #include "libavutil/common.h"
31 #include "libavutil/imgutils.h"
32 #include "libavutil/intreadwrite.h"
33 #include "libavutil/opt.h"
34 #include "avcodec.h"
35 #include "internal.h"
36
37 #if HAVE_OPENJPEG_1_5_OPENJPEG_H
38 # include <openjpeg-1.5/openjpeg.h>
39 #else
40 # include <openjpeg.h>
41 #endif
42
43 typedef struct {
44     AVClass *avclass;
45     opj_image_t *image;
46     opj_cio_t *stream;
47     opj_cparameters_t enc_params;
48     opj_cinfo_t *compress;
49     opj_event_mgr_t event_mgr;
50     int format;
51     int profile;
52     int prog_order;
53     int cinema_mode;
54     int numresolution;
55     int numlayers;
56     int disto_alloc;
57     int fixed_alloc;
58     int fixed_quality;
59 } LibOpenJPEGContext;
60
61 static void error_callback(const char *msg, void *data)
62 {
63     av_log(data, AV_LOG_ERROR, "%s\n", msg);
64 }
65
66 static void warning_callback(const char *msg, void *data)
67 {
68     av_log(data, AV_LOG_WARNING, "%s\n", msg);
69 }
70
71 static void info_callback(const char *msg, void *data)
72 {
73     av_log(data, AV_LOG_DEBUG, "%s\n", msg);
74 }
75
76 static opj_image_t *mj2_create_image(AVCodecContext *avctx, opj_cparameters_t *parameters)
77 {
78     const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(avctx->pix_fmt);
79     opj_image_cmptparm_t cmptparm[4] = {{0}};
80     opj_image_t *img;
81     int i;
82     int sub_dx[4];
83     int sub_dy[4];
84     int numcomps;
85     OPJ_COLOR_SPACE color_space = CLRSPC_UNKNOWN;
86
87     sub_dx[0] = sub_dx[3] = 1;
88     sub_dy[0] = sub_dy[3] = 1;
89     sub_dx[1] = sub_dx[2] = 1 << desc->log2_chroma_w;
90     sub_dy[1] = sub_dy[2] = 1 << desc->log2_chroma_h;
91
92     numcomps = desc->nb_components;
93
94     switch (avctx->pix_fmt) {
95     case AV_PIX_FMT_GRAY8:
96     case AV_PIX_FMT_GRAY8A:
97     case AV_PIX_FMT_GRAY16:
98         color_space = CLRSPC_GRAY;
99         break;
100     case AV_PIX_FMT_RGB24:
101     case AV_PIX_FMT_RGBA:
102     case AV_PIX_FMT_RGB48:
103     case AV_PIX_FMT_RGBA64:
104     case AV_PIX_FMT_GBR24P:
105     case AV_PIX_FMT_GBRP9:
106     case AV_PIX_FMT_GBRP10:
107     case AV_PIX_FMT_GBRP12:
108     case AV_PIX_FMT_GBRP14:
109     case AV_PIX_FMT_GBRP16:
110     case AV_PIX_FMT_XYZ12:
111         color_space = CLRSPC_SRGB;
112         break;
113     case AV_PIX_FMT_YUV410P:
114     case AV_PIX_FMT_YUV411P:
115     case AV_PIX_FMT_YUV420P:
116     case AV_PIX_FMT_YUV422P:
117     case AV_PIX_FMT_YUV440P:
118     case AV_PIX_FMT_YUV444P:
119     case AV_PIX_FMT_YUVA420P:
120     case AV_PIX_FMT_YUVA422P:
121     case AV_PIX_FMT_YUVA444P:
122     case AV_PIX_FMT_YUV420P9:
123     case AV_PIX_FMT_YUV422P9:
124     case AV_PIX_FMT_YUV444P9:
125     case AV_PIX_FMT_YUVA420P9:
126     case AV_PIX_FMT_YUVA422P9:
127     case AV_PIX_FMT_YUVA444P9:
128     case AV_PIX_FMT_YUV420P10:
129     case AV_PIX_FMT_YUV422P10:
130     case AV_PIX_FMT_YUV444P10:
131     case AV_PIX_FMT_YUVA420P10:
132     case AV_PIX_FMT_YUVA422P10:
133     case AV_PIX_FMT_YUVA444P10:
134     case AV_PIX_FMT_YUV420P12:
135     case AV_PIX_FMT_YUV422P12:
136     case AV_PIX_FMT_YUV444P12:
137     case AV_PIX_FMT_YUV420P14:
138     case AV_PIX_FMT_YUV422P14:
139     case AV_PIX_FMT_YUV444P14:
140     case AV_PIX_FMT_YUV420P16:
141     case AV_PIX_FMT_YUV422P16:
142     case AV_PIX_FMT_YUV444P16:
143     case AV_PIX_FMT_YUVA420P16:
144     case AV_PIX_FMT_YUVA422P16:
145     case AV_PIX_FMT_YUVA444P16:
146         color_space = CLRSPC_SYCC;
147         break;
148     default:
149         av_log(avctx, AV_LOG_ERROR,
150                "The requested pixel format '%s' is not supported\n",
151                av_get_pix_fmt_name(avctx->pix_fmt));
152         return NULL;
153     }
154
155     for (i = 0; i < numcomps; i++) {
156         cmptparm[i].prec = desc->comp[i].depth_minus1 + 1;
157         cmptparm[i].bpp  = desc->comp[i].depth_minus1 + 1;
158         cmptparm[i].sgnd = 0;
159         cmptparm[i].dx = sub_dx[i];
160         cmptparm[i].dy = sub_dy[i];
161         cmptparm[i].w = (avctx->width + sub_dx[i] - 1) / sub_dx[i];
162         cmptparm[i].h = (avctx->height + sub_dy[i] - 1) / sub_dy[i];
163     }
164
165     img = opj_image_create(numcomps, cmptparm, color_space);
166
167     // x0, y0 is the top left corner of the image
168     // x1, y1 is the width, height of the reference grid
169     img->x0 = 0;
170     img->y0 = 0;
171     img->x1 = (avctx->width  - 1) * parameters->subsampling_dx + 1;
172     img->y1 = (avctx->height - 1) * parameters->subsampling_dy + 1;
173
174     return img;
175 }
176
177 static av_cold int libopenjpeg_encode_init(AVCodecContext *avctx)
178 {
179     LibOpenJPEGContext *ctx = avctx->priv_data;
180     int err = AVERROR(ENOMEM);
181
182     opj_set_default_encoder_parameters(&ctx->enc_params);
183
184     ctx->enc_params.cp_rsiz = ctx->profile;
185     ctx->enc_params.mode = !!avctx->global_quality;
186     ctx->enc_params.cp_cinema = ctx->cinema_mode;
187     ctx->enc_params.prog_order = ctx->prog_order;
188     ctx->enc_params.numresolution = ctx->numresolution;
189     ctx->enc_params.cp_disto_alloc = ctx->disto_alloc;
190     ctx->enc_params.cp_fixed_alloc = ctx->fixed_alloc;
191     ctx->enc_params.cp_fixed_quality = ctx->fixed_quality;
192     ctx->enc_params.tcp_numlayers = ctx->numlayers;
193     ctx->enc_params.tcp_rates[0] = FFMAX(avctx->compression_level, 0) * 2;
194
195     if (ctx->cinema_mode > 0) {
196         ctx->enc_params.irreversible = 1;
197         ctx->enc_params.tcp_mct = 1;
198         ctx->enc_params.tile_size_on = 0;
199         /* no subsampling */
200         ctx->enc_params.cp_tdx=1;
201         ctx->enc_params.cp_tdy=1;
202         ctx->enc_params.subsampling_dx = 1;
203         ctx->enc_params.subsampling_dy = 1;
204         /* Tile and Image shall be at (0,0) */
205         ctx->enc_params.cp_tx0 = 0;
206         ctx->enc_params.cp_ty0 = 0;
207         ctx->enc_params.image_offset_x0 = 0;
208         ctx->enc_params.image_offset_y0 = 0;
209         /* Codeblock size= 32*32 */
210         ctx->enc_params.cblockw_init = 32;
211         ctx->enc_params.cblockh_init = 32;
212         ctx->enc_params.csty |= 0x01;
213         /* No ROI */
214         ctx->enc_params.roi_compno = -1;
215
216         if (ctx->enc_params.prog_order != CPRL) {
217             av_log(avctx, AV_LOG_ERROR, "prog_order forced to CPRL\n");
218             ctx->enc_params.prog_order = CPRL;
219         }
220         ctx->enc_params.tp_flag = 'C';
221         ctx->enc_params.tp_on = 1;
222     }
223
224     ctx->compress = opj_create_compress(ctx->format);
225     if (!ctx->compress) {
226         av_log(avctx, AV_LOG_ERROR, "Error creating the compressor\n");
227         return AVERROR(ENOMEM);
228     }
229
230     ctx->image = mj2_create_image(avctx, &ctx->enc_params);
231     if (!ctx->image) {
232         av_log(avctx, AV_LOG_ERROR, "Error creating the mj2 image\n");
233         err = AVERROR(EINVAL);
234         goto fail;
235     }
236     opj_setup_encoder(ctx->compress, &ctx->enc_params, ctx->image);
237
238     ctx->stream = opj_cio_open((opj_common_ptr)ctx->compress, NULL, 0);
239     if (!ctx->stream) {
240         av_log(avctx, AV_LOG_ERROR, "Error creating the cio stream\n");
241         err = AVERROR(ENOMEM);
242         goto fail;
243     }
244
245     avctx->coded_frame = av_frame_alloc();
246     if (!avctx->coded_frame) {
247         av_log(avctx, AV_LOG_ERROR, "Error allocating coded frame\n");
248         goto fail;
249     }
250
251     memset(&ctx->event_mgr, 0, sizeof(opj_event_mgr_t));
252     ctx->event_mgr.info_handler    = info_callback;
253     ctx->event_mgr.error_handler = error_callback;
254     ctx->event_mgr.warning_handler = warning_callback;
255     opj_set_event_mgr((opj_common_ptr)ctx->compress, &ctx->event_mgr, avctx);
256
257     return 0;
258
259 fail:
260     opj_cio_close(ctx->stream);
261     ctx->stream = NULL;
262     opj_destroy_compress(ctx->compress);
263     ctx->compress = NULL;
264     opj_image_destroy(ctx->image);
265     ctx->image = NULL;
266     av_freep(&avctx->coded_frame);
267     return err;
268 }
269
270 static int libopenjpeg_copy_packed8(AVCodecContext *avctx, const AVFrame *frame, opj_image_t *image)
271 {
272     int compno;
273     int x;
274     int y;
275     int *image_line;
276     int frame_index;
277     const int numcomps = image->numcomps;
278
279     for (compno = 0; compno < numcomps; ++compno) {
280         if (image->comps[compno].w > frame->linesize[0] / numcomps) {
281             av_log(avctx, AV_LOG_ERROR, "Error: frame's linesize is too small for the image\n");
282             return 0;
283         }
284     }
285
286     for (compno = 0; compno < numcomps; ++compno) {
287         for (y = 0; y < avctx->height; ++y) {
288             image_line = image->comps[compno].data + y * image->comps[compno].w;
289             frame_index = y * frame->linesize[0] + compno;
290             for (x = 0; x < avctx->width; ++x) {
291                 image_line[x] = frame->data[0][frame_index];
292                 frame_index += numcomps;
293             }
294             for (; x < image->comps[compno].w; ++x) {
295                 image_line[x] = image_line[x - 1];
296             }
297         }
298         for (; y < image->comps[compno].h; ++y) {
299             image_line = image->comps[compno].data + y * image->comps[compno].w;
300             for (x = 0; x < image->comps[compno].w; ++x) {
301                 image_line[x] = image_line[x - image->comps[compno].w];
302             }
303         }
304     }
305
306     return 1;
307 }
308
309 // for XYZ 12 bit
310 static int libopenjpeg_copy_packed12(AVCodecContext *avctx, const AVFrame *frame, opj_image_t *image)
311 {
312     int compno;
313     int x;
314     int y;
315     int *image_line;
316     int frame_index;
317     const int numcomps = image->numcomps;
318     uint16_t *frame_ptr = (uint16_t*)frame->data[0];
319
320     for (compno = 0; compno < numcomps; ++compno) {
321         if (image->comps[compno].w > frame->linesize[0] / numcomps) {
322             av_log(avctx, AV_LOG_ERROR, "Error: frame's linesize is too small for the image\n");
323             return 0;
324         }
325     }
326
327     for (compno = 0; compno < numcomps; ++compno) {
328         for (y = 0; y < avctx->height; ++y) {
329             image_line = image->comps[compno].data + y * image->comps[compno].w;
330             frame_index = y * (frame->linesize[0] / 2) + compno;
331             for (x = 0; x < avctx->width; ++x) {
332                 image_line[x] = frame_ptr[frame_index] >> 4;
333                 frame_index += numcomps;
334             }
335             for (; x < image->comps[compno].w; ++x) {
336                 image_line[x] = image_line[x - 1];
337             }
338         }
339         for (; y < image->comps[compno].h; ++y) {
340             image_line = image->comps[compno].data + y * image->comps[compno].w;
341             for (x = 0; x < image->comps[compno].w; ++x) {
342                 image_line[x] = image_line[x - image->comps[compno].w];
343             }
344         }
345     }
346
347     return 1;
348 }
349
350 static int libopenjpeg_copy_packed16(AVCodecContext *avctx, const AVFrame *frame, opj_image_t *image)
351 {
352     int compno;
353     int x;
354     int y;
355     int *image_line;
356     int frame_index;
357     const int numcomps = image->numcomps;
358     uint16_t *frame_ptr = (uint16_t*)frame->data[0];
359
360     for (compno = 0; compno < numcomps; ++compno) {
361         if (image->comps[compno].w > frame->linesize[0] / numcomps) {
362             av_log(avctx, AV_LOG_ERROR, "Error: frame's linesize is too small for the image\n");
363             return 0;
364         }
365     }
366
367     for (compno = 0; compno < numcomps; ++compno) {
368         for (y = 0; y < avctx->height; ++y) {
369             image_line = image->comps[compno].data + y * image->comps[compno].w;
370             frame_index = y * (frame->linesize[0] / 2) + compno;
371             for (x = 0; x < avctx->width; ++x) {
372                 image_line[x] = frame_ptr[frame_index];
373                 frame_index += numcomps;
374             }
375             for (; x < image->comps[compno].w; ++x) {
376                 image_line[x] = image_line[x - 1];
377             }
378         }
379         for (; y < image->comps[compno].h; ++y) {
380             image_line = image->comps[compno].data + y * image->comps[compno].w;
381             for (x = 0; x < image->comps[compno].w; ++x) {
382                 image_line[x] = image_line[x - image->comps[compno].w];
383             }
384         }
385     }
386
387     return 1;
388 }
389
390 static int libopenjpeg_copy_unpacked8(AVCodecContext *avctx, const AVFrame *frame, opj_image_t *image)
391 {
392     int compno;
393     int x;
394     int y;
395     int width;
396     int height;
397     int *image_line;
398     int frame_index;
399     const int numcomps = image->numcomps;
400
401     for (compno = 0; compno < numcomps; ++compno) {
402         if (image->comps[compno].w > frame->linesize[compno]) {
403             av_log(avctx, AV_LOG_ERROR, "Error: frame's linesize is too small for the image\n");
404             return 0;
405         }
406     }
407
408     for (compno = 0; compno < numcomps; ++compno) {
409         width = avctx->width / image->comps[compno].dx;
410         height = avctx->height / image->comps[compno].dy;
411         for (y = 0; y < height; ++y) {
412             image_line = image->comps[compno].data + y * image->comps[compno].w;
413             frame_index = y * frame->linesize[compno];
414             for (x = 0; x < width; ++x)
415                 image_line[x] = frame->data[compno][frame_index++];
416             for (; x < image->comps[compno].w; ++x) {
417                 image_line[x] = image_line[x - 1];
418             }
419         }
420         for (; y < image->comps[compno].h; ++y) {
421             image_line = image->comps[compno].data + y * image->comps[compno].w;
422             for (x = 0; x < image->comps[compno].w; ++x) {
423                 image_line[x] = image_line[x - image->comps[compno].w];
424             }
425         }
426     }
427
428     return 1;
429 }
430
431 static int libopenjpeg_copy_unpacked16(AVCodecContext *avctx, const AVFrame *frame, opj_image_t *image)
432 {
433     int compno;
434     int x;
435     int y;
436     int width;
437     int height;
438     int *image_line;
439     int frame_index;
440     const int numcomps = image->numcomps;
441     uint16_t *frame_ptr;
442
443     for (compno = 0; compno < numcomps; ++compno) {
444         if (image->comps[compno].w > frame->linesize[compno]) {
445             av_log(avctx, AV_LOG_ERROR, "Error: frame's linesize is too small for the image\n");
446             return 0;
447         }
448     }
449
450     for (compno = 0; compno < numcomps; ++compno) {
451         width = avctx->width / image->comps[compno].dx;
452         height = avctx->height / image->comps[compno].dy;
453         frame_ptr = (uint16_t*)frame->data[compno];
454         for (y = 0; y < height; ++y) {
455             image_line = image->comps[compno].data + y * image->comps[compno].w;
456             frame_index = y * (frame->linesize[compno] / 2);
457             for (x = 0; x < width; ++x)
458                 image_line[x] = frame_ptr[frame_index++];
459             for (; x < image->comps[compno].w; ++x) {
460                 image_line[x] = image_line[x - 1];
461             }
462         }
463         for (; y < image->comps[compno].h; ++y) {
464             image_line = image->comps[compno].data + y * image->comps[compno].w;
465             for (x = 0; x < image->comps[compno].w; ++x) {
466                 image_line[x] = image_line[x - image->comps[compno].w];
467             }
468         }
469     }
470
471     return 1;
472 }
473
474 static int libopenjpeg_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
475                                     const AVFrame *frame, int *got_packet)
476 {
477     LibOpenJPEGContext *ctx = avctx->priv_data;
478     opj_cinfo_t *compress = ctx->compress;
479     opj_image_t *image    = ctx->image;
480     opj_cio_t *stream     = ctx->stream;
481     int cpyresult = 0;
482     int ret, len;
483     AVFrame *gbrframe;
484
485     switch (avctx->pix_fmt) {
486     case AV_PIX_FMT_RGB24:
487     case AV_PIX_FMT_RGBA:
488     case AV_PIX_FMT_GRAY8A:
489         cpyresult = libopenjpeg_copy_packed8(avctx, frame, image);
490         break;
491     case AV_PIX_FMT_XYZ12:
492         cpyresult = libopenjpeg_copy_packed12(avctx, frame, image);
493         break;
494     case AV_PIX_FMT_RGB48:
495     case AV_PIX_FMT_RGBA64:
496         cpyresult = libopenjpeg_copy_packed16(avctx, frame, image);
497         break;
498     case AV_PIX_FMT_GBR24P:
499     case AV_PIX_FMT_GBRP9:
500     case AV_PIX_FMT_GBRP10:
501     case AV_PIX_FMT_GBRP12:
502     case AV_PIX_FMT_GBRP14:
503     case AV_PIX_FMT_GBRP16:
504         gbrframe = av_frame_alloc();
505         if (!gbrframe)
506             return AVERROR(ENOMEM);
507         av_frame_ref(gbrframe, frame);
508         gbrframe->data[0] = frame->data[2]; // swap to be rgb
509         gbrframe->data[1] = frame->data[0];
510         gbrframe->data[2] = frame->data[1];
511         gbrframe->linesize[0] = frame->linesize[2];
512         gbrframe->linesize[1] = frame->linesize[0];
513         gbrframe->linesize[2] = frame->linesize[1];
514         if (avctx->pix_fmt == AV_PIX_FMT_GBR24P) {
515             cpyresult = libopenjpeg_copy_unpacked8(avctx, gbrframe, image);
516         } else {
517             cpyresult = libopenjpeg_copy_unpacked16(avctx, gbrframe, image);
518         }
519         av_frame_free(&gbrframe);
520         break;
521     case AV_PIX_FMT_GRAY8:
522     case AV_PIX_FMT_YUV410P:
523     case AV_PIX_FMT_YUV411P:
524     case AV_PIX_FMT_YUV420P:
525     case AV_PIX_FMT_YUV422P:
526     case AV_PIX_FMT_YUV440P:
527     case AV_PIX_FMT_YUV444P:
528     case AV_PIX_FMT_YUVA420P:
529     case AV_PIX_FMT_YUVA422P:
530     case AV_PIX_FMT_YUVA444P:
531         cpyresult = libopenjpeg_copy_unpacked8(avctx, frame, image);
532         break;
533     case AV_PIX_FMT_GRAY16:
534     case AV_PIX_FMT_YUV420P9:
535     case AV_PIX_FMT_YUV422P9:
536     case AV_PIX_FMT_YUV444P9:
537     case AV_PIX_FMT_YUVA420P9:
538     case AV_PIX_FMT_YUVA422P9:
539     case AV_PIX_FMT_YUVA444P9:
540     case AV_PIX_FMT_YUV444P10:
541     case AV_PIX_FMT_YUV422P10:
542     case AV_PIX_FMT_YUV420P10:
543     case AV_PIX_FMT_YUVA444P10:
544     case AV_PIX_FMT_YUVA422P10:
545     case AV_PIX_FMT_YUVA420P10:
546     case AV_PIX_FMT_YUV420P12:
547     case AV_PIX_FMT_YUV422P12:
548     case AV_PIX_FMT_YUV444P12:
549     case AV_PIX_FMT_YUV420P14:
550     case AV_PIX_FMT_YUV422P14:
551     case AV_PIX_FMT_YUV444P14:
552     case AV_PIX_FMT_YUV444P16:
553     case AV_PIX_FMT_YUV422P16:
554     case AV_PIX_FMT_YUV420P16:
555     case AV_PIX_FMT_YUVA444P16:
556     case AV_PIX_FMT_YUVA422P16:
557     case AV_PIX_FMT_YUVA420P16:
558         cpyresult = libopenjpeg_copy_unpacked16(avctx, frame, image);
559         break;
560     default:
561         av_log(avctx, AV_LOG_ERROR,
562                "The frame's pixel format '%s' is not supported\n",
563                av_get_pix_fmt_name(avctx->pix_fmt));
564         return AVERROR(EINVAL);
565         break;
566     }
567
568     if (!cpyresult) {
569         av_log(avctx, AV_LOG_ERROR,
570                "Could not copy the frame data to the internal image buffer\n");
571         return -1;
572     }
573
574     cio_seek(stream, 0);
575     if (!opj_encode(compress, stream, image, NULL)) {
576         av_log(avctx, AV_LOG_ERROR, "Error during the opj encode\n");
577         return -1;
578     }
579
580     len = cio_tell(stream);
581     if ((ret = ff_alloc_packet2(avctx, pkt, len)) < 0) {
582         return ret;
583     }
584
585     memcpy(pkt->data, stream->buffer, len);
586     pkt->flags |= AV_PKT_FLAG_KEY;
587     *got_packet = 1;
588     return 0;
589 }
590
591 static av_cold int libopenjpeg_encode_close(AVCodecContext *avctx)
592 {
593     LibOpenJPEGContext *ctx = avctx->priv_data;
594
595     opj_cio_close(ctx->stream);
596     ctx->stream = NULL;
597     opj_destroy_compress(ctx->compress);
598     ctx->compress = NULL;
599     opj_image_destroy(ctx->image);
600     ctx->image = NULL;
601     av_freep(&avctx->coded_frame);
602     return 0;
603 }
604
605 #define OFFSET(x) offsetof(LibOpenJPEGContext, x)
606 #define VE AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_ENCODING_PARAM
607 static const AVOption options[] = {
608     { "format",        "Codec Format",      OFFSET(format),        AV_OPT_TYPE_INT,   { .i64 = CODEC_JP2   }, CODEC_J2K, CODEC_JP2,   VE, "format"      },
609     { "j2k",           NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CODEC_J2K   }, 0,         0,           VE, "format"      },
610     { "jp2",           NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CODEC_JP2   }, 0,         0,           VE, "format"      },
611     { "profile",       NULL,                OFFSET(profile),       AV_OPT_TYPE_INT,   { .i64 = STD_RSIZ    }, STD_RSIZ,  CINEMA4K,    VE, "profile"     },
612     { "jpeg2000",      NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = STD_RSIZ    }, 0,         0,           VE, "profile"     },
613     { "cinema2k",      NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CINEMA2K    }, 0,         0,           VE, "profile"     },
614     { "cinema4k",      NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CINEMA4K    }, 0,         0,           VE, "profile"     },
615     { "cinema_mode",   "Digital Cinema",    OFFSET(cinema_mode),   AV_OPT_TYPE_INT,   { .i64 = OFF         }, OFF,       CINEMA4K_24, VE, "cinema_mode" },
616     { "off",           NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = OFF         }, 0,         0,           VE, "cinema_mode" },
617     { "2k_24",         NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CINEMA2K_24 }, 0,         0,           VE, "cinema_mode" },
618     { "2k_48",         NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CINEMA2K_48 }, 0,         0,           VE, "cinema_mode" },
619     { "4k_24",         NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CINEMA4K_24 }, 0,         0,           VE, "cinema_mode" },
620     { "prog_order",    "Progression Order", OFFSET(prog_order),    AV_OPT_TYPE_INT,   { .i64 = LRCP        }, LRCP,      CPRL,        VE, "prog_order"  },
621     { "lrcp",          NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = LRCP        }, 0,         0,           VE, "prog_order"  },
622     { "rlcp",          NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = RLCP        }, 0,         0,           VE, "prog_order"  },
623     { "rpcl",          NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = RPCL        }, 0,         0,           VE, "prog_order"  },
624     { "pcrl",          NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = PCRL        }, 0,         0,           VE, "prog_order"  },
625     { "cprl",          NULL,                0,                     AV_OPT_TYPE_CONST, { .i64 = CPRL        }, 0,         0,           VE, "prog_order"  },
626     { "numresolution", NULL,                OFFSET(numresolution), AV_OPT_TYPE_INT,   { .i64 = 6           }, 1,         INT_MAX,     VE                },
627     { "numlayers",     NULL,                OFFSET(numlayers),     AV_OPT_TYPE_INT,   { .i64 = 1           }, 1,         10,          VE                },
628     { "disto_alloc",   NULL,                OFFSET(disto_alloc),   AV_OPT_TYPE_INT,   { .i64 = 1           }, 0,         1,           VE                },
629     { "fixed_alloc",   NULL,                OFFSET(fixed_alloc),   AV_OPT_TYPE_INT,   { .i64 = 0           }, 0,         1,           VE                },
630     { "fixed_quality", NULL,                OFFSET(fixed_quality), AV_OPT_TYPE_INT,   { .i64 = 0           }, 0,         1,           VE                },
631     { NULL },
632 };
633
634 static const AVClass openjpeg_class = {
635     .class_name = "libopenjpeg",
636     .item_name  = av_default_item_name,
637     .option     = options,
638     .version    = LIBAVUTIL_VERSION_INT,
639 };
640
641 AVCodec ff_libopenjpeg_encoder = {
642     .name           = "libopenjpeg",
643     .long_name      = NULL_IF_CONFIG_SMALL("OpenJPEG JPEG 2000"),
644     .type           = AVMEDIA_TYPE_VIDEO,
645     .id             = AV_CODEC_ID_JPEG2000,
646     .priv_data_size = sizeof(LibOpenJPEGContext),
647     .init           = libopenjpeg_encode_init,
648     .encode2        = libopenjpeg_encode_frame,
649     .close          = libopenjpeg_encode_close,
650     .capabilities   = 0,
651     .pix_fmts       = (const enum AVPixelFormat[]) {
652         AV_PIX_FMT_RGB24, AV_PIX_FMT_RGBA, AV_PIX_FMT_RGB48, AV_PIX_FMT_RGBA64,
653         AV_PIX_FMT_GBR24P,
654         AV_PIX_FMT_GBRP9, AV_PIX_FMT_GBRP10, AV_PIX_FMT_GBRP12, AV_PIX_FMT_GBRP14, AV_PIX_FMT_GBRP16,
655         AV_PIX_FMT_GRAY8, AV_PIX_FMT_GRAY8A, AV_PIX_FMT_GRAY16,
656         AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUV422P, AV_PIX_FMT_YUVA420P,
657         AV_PIX_FMT_YUV440P, AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUVA422P,
658         AV_PIX_FMT_YUV411P, AV_PIX_FMT_YUV410P, AV_PIX_FMT_YUVA444P,
659         AV_PIX_FMT_YUV420P9, AV_PIX_FMT_YUV422P9, AV_PIX_FMT_YUV444P9,
660         AV_PIX_FMT_YUVA420P9, AV_PIX_FMT_YUVA422P9, AV_PIX_FMT_YUVA444P9,
661         AV_PIX_FMT_YUV420P10, AV_PIX_FMT_YUV422P10, AV_PIX_FMT_YUV444P10,
662         AV_PIX_FMT_YUVA420P10, AV_PIX_FMT_YUVA422P10, AV_PIX_FMT_YUVA444P10,
663         AV_PIX_FMT_YUV420P12, AV_PIX_FMT_YUV422P12, AV_PIX_FMT_YUV444P12,
664         AV_PIX_FMT_YUV420P14, AV_PIX_FMT_YUV422P14, AV_PIX_FMT_YUV444P14,
665         AV_PIX_FMT_YUV420P16, AV_PIX_FMT_YUV422P16, AV_PIX_FMT_YUV444P16,
666         AV_PIX_FMT_YUVA420P16, AV_PIX_FMT_YUVA422P16, AV_PIX_FMT_YUVA444P16,
667         AV_PIX_FMT_XYZ12,
668         AV_PIX_FMT_NONE
669     },
670     .priv_class     = &openjpeg_class,
671 };