]> git.sesse.net Git - vlc/blob - modules/codec/theora.c
Do not assert memory allocations
[vlc] / modules / codec / theora.c
1 /*****************************************************************************
2  * theora.c: theora decoder module making use of libtheora.
3  *****************************************************************************
4  * Copyright (C) 1999-2001 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Gildas Bazin <gbazin@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #ifdef HAVE_CONFIG_H
28 # include "config.h"
29 #endif
30
31 #include <vlc_common.h>
32 #include <vlc_plugin.h>
33 #include <vlc_codec.h>
34 #include <vlc_sout.h>
35 #include <vlc_input.h>
36 #include <ogg/ogg.h>
37
38 #include <theora/theora.h>
39
40 /*****************************************************************************
41  * decoder_sys_t : theora decoder descriptor
42  *****************************************************************************/
43 struct decoder_sys_t
44 {
45     /* Module mode */
46     bool b_packetizer;
47
48     /*
49      * Input properties
50      */
51     int i_headers;
52
53     /*
54      * Theora properties
55      */
56     theora_info      ti;                        /* theora bitstream settings */
57     theora_comment   tc;                            /* theora comment header */
58     theora_state     td;                   /* theora bitstream user comments */
59
60     /*
61      * Decoding properties
62      */
63     bool b_decoded_first_keyframe;
64
65     /*
66      * Common properties
67      */
68     mtime_t i_pts;
69 };
70
71 /*****************************************************************************
72  * Local prototypes
73  *****************************************************************************/
74 static int  OpenDecoder   ( vlc_object_t * );
75 static int  OpenPacketizer( vlc_object_t * );
76 static void CloseDecoder  ( vlc_object_t * );
77
78 static void *DecodeBlock  ( decoder_t *, block_t ** );
79 static int  ProcessHeaders( decoder_t * );
80 static void *ProcessPacket ( decoder_t *, ogg_packet *, block_t ** );
81
82 static picture_t *DecodePacket( decoder_t *, ogg_packet * );
83
84 static void ParseTheoraComments( decoder_t * );
85 static void theora_CopyPicture( picture_t *, yuv_buffer * );
86
87 static int  OpenEncoder( vlc_object_t *p_this );
88 static void CloseEncoder( vlc_object_t *p_this );
89 static block_t *Encode( encoder_t *p_enc, picture_t *p_pict );
90
91 /*****************************************************************************
92  * Module descriptor
93  *****************************************************************************/
94 #define ENC_QUALITY_TEXT N_("Encoding quality")
95 #define ENC_QUALITY_LONGTEXT N_( \
96   "Enforce a quality between 1 (low) and 10 (high), instead " \
97   "of specifying a particular bitrate. This will produce a VBR stream." )
98
99 vlc_module_begin ()
100     set_category( CAT_INPUT )
101     set_subcategory( SUBCAT_INPUT_VCODEC )
102     set_shortname( "Theora" )
103     set_description( N_("Theora video decoder") )
104     set_capability( "decoder", 100 )
105     set_callbacks( OpenDecoder, CloseDecoder )
106     add_shortcut( "theora" )
107
108     add_submodule ()
109     set_description( N_("Theora video packetizer") )
110     set_capability( "packetizer", 100 )
111     set_callbacks( OpenPacketizer, CloseDecoder )
112     add_shortcut( "theora" )
113
114     add_submodule ()
115     set_description( N_("Theora video encoder") )
116     set_capability( "encoder", 150 )
117     set_callbacks( OpenEncoder, CloseEncoder )
118     add_shortcut( "theora" )
119
120 #   define ENC_CFG_PREFIX "sout-theora-"
121     add_integer( ENC_CFG_PREFIX "quality", 2, NULL, ENC_QUALITY_TEXT,
122                  ENC_QUALITY_LONGTEXT, false )
123 vlc_module_end ()
124
125 static const char *const ppsz_enc_options[] = {
126     "quality", NULL
127 };
128
129 /*****************************************************************************
130  * OpenDecoder: probe the decoder and return score
131  *****************************************************************************/
132 static int OpenDecoder( vlc_object_t *p_this )
133 {
134     decoder_t *p_dec = (decoder_t*)p_this;
135     decoder_sys_t *p_sys;
136
137     if( p_dec->fmt_in.i_codec != VLC_CODEC_THEORA )
138     {
139         return VLC_EGENERIC;
140     }
141
142     /* Allocate the memory needed to store the decoder's structure */
143     if( ( p_dec->p_sys = p_sys = malloc(sizeof(*p_sys)) ) == NULL )
144         return VLC_ENOMEM;
145     p_dec->p_sys->b_packetizer = false;
146
147     p_sys->i_pts = 0;
148     p_sys->b_decoded_first_keyframe = false;
149
150     /* Set output properties */
151     p_dec->fmt_out.i_cat = VIDEO_ES;
152     p_dec->fmt_out.i_codec = VLC_CODEC_I420;
153
154     /* Set callbacks */
155     p_dec->pf_decode_video = (picture_t *(*)(decoder_t *, block_t **))
156         DecodeBlock;
157     p_dec->pf_packetize    = (block_t *(*)(decoder_t *, block_t **))
158         DecodeBlock;
159
160     /* Init supporting Theora structures needed in header parsing */
161     theora_comment_init( &p_sys->tc );
162     theora_info_init( &p_sys->ti );
163
164     p_sys->i_headers = 0;
165
166     return VLC_SUCCESS;
167 }
168
169 static int OpenPacketizer( vlc_object_t *p_this )
170 {
171     decoder_t *p_dec = (decoder_t*)p_this;
172
173     int i_ret = OpenDecoder( p_this );
174
175     if( i_ret == VLC_SUCCESS )
176     {
177         p_dec->p_sys->b_packetizer = true;
178         p_dec->fmt_out.i_codec = VLC_CODEC_THEORA;
179     }
180
181     return i_ret;
182 }
183
184 /****************************************************************************
185  * DecodeBlock: the whole thing
186  ****************************************************************************
187  * This function must be fed with ogg packets.
188  ****************************************************************************/
189 static void *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
190 {
191     decoder_sys_t *p_sys = p_dec->p_sys;
192     block_t *p_block;
193     ogg_packet oggpacket;
194
195     if( !pp_block || !*pp_block ) return NULL;
196
197     p_block = *pp_block;
198
199     /* Block to Ogg packet */
200     oggpacket.packet = p_block->p_buffer;
201     oggpacket.bytes = p_block->i_buffer;
202     oggpacket.granulepos = p_block->i_dts;
203     oggpacket.b_o_s = 0;
204     oggpacket.e_o_s = 0;
205     oggpacket.packetno = 0;
206
207     /* Check for headers */
208     if( p_sys->i_headers == 0 && p_dec->fmt_in.i_extra )
209     {
210         /* Headers already available as extra data */
211         p_sys->i_headers = 3;
212     }
213     else if( oggpacket.bytes && p_sys->i_headers < 3 )
214     {
215         /* Backup headers as extra data */
216         uint8_t *p_extra;
217
218         p_dec->fmt_in.p_extra = xrealloc( p_dec->fmt_in.p_extra,
219                                 p_dec->fmt_in.i_extra + oggpacket.bytes + 2 );
220         p_extra = ((uint8_t *)p_dec->fmt_in.p_extra) + p_dec->fmt_in.i_extra;
221         *(p_extra++) = oggpacket.bytes >> 8;
222         *(p_extra++) = oggpacket.bytes & 0xFF;
223
224         memcpy( p_extra, oggpacket.packet, oggpacket.bytes );
225         p_dec->fmt_in.i_extra += oggpacket.bytes + 2;
226
227         block_Release( *pp_block );
228         p_sys->i_headers++;
229         return NULL;
230     }
231
232     if( p_sys->i_headers == 3 )
233     {
234         if( ProcessHeaders( p_dec ) != VLC_SUCCESS )
235         {
236             p_sys->i_headers = 0;
237             p_dec->fmt_in.i_extra = 0;
238             block_Release( *pp_block );
239             return NULL;
240         }
241         else p_sys->i_headers++;
242     }
243
244     return ProcessPacket( p_dec, &oggpacket, pp_block );
245 }
246
247 /*****************************************************************************
248  * ProcessHeaders: process Theora headers.
249  *****************************************************************************/
250 static int ProcessHeaders( decoder_t *p_dec )
251 {
252     decoder_sys_t *p_sys = p_dec->p_sys;
253     ogg_packet oggpacket;
254     uint8_t *p_extra;
255     int i_extra;
256
257     if( !p_dec->fmt_in.i_extra ) return VLC_EGENERIC;
258
259     oggpacket.granulepos = -1;
260     oggpacket.b_o_s = 1; /* yes this actually is a b_o_s packet :) */
261     oggpacket.e_o_s = 0;
262     oggpacket.packetno = 0;
263     p_extra = p_dec->fmt_in.p_extra;
264     i_extra = p_dec->fmt_in.i_extra;
265
266     /* Take care of the initial Vorbis header */
267     oggpacket.bytes = *(p_extra++) << 8;
268     oggpacket.bytes |= (*(p_extra++) & 0xFF);
269     oggpacket.packet = p_extra;
270     p_extra += oggpacket.bytes;
271     i_extra -= (oggpacket.bytes + 2);
272     if( i_extra < 0 )
273     {
274         msg_Err( p_dec, "header data corrupted");
275         return VLC_EGENERIC;
276     }
277
278     if( theora_decode_header( &p_sys->ti, &p_sys->tc, &oggpacket ) < 0 )
279     {
280         msg_Err( p_dec, "this bitstream does not contain Theora video data" );
281         return VLC_EGENERIC;
282     }
283
284     /* Set output properties */
285     switch( p_sys->ti.pixelformat )
286     {
287       case OC_PF_420:
288         p_dec->fmt_out.i_codec = VLC_CODEC_I420;
289         break;
290       case OC_PF_422:
291         p_dec->fmt_out.i_codec = VLC_CODEC_I422;
292         break;
293       case OC_PF_444:
294         p_dec->fmt_out.i_codec = VLC_CODEC_I444;
295         break;
296       case OC_PF_RSVD:
297       default:
298         msg_Err( p_dec, "unknown chroma in theora sample" );
299         break;
300     }
301     p_dec->fmt_out.video.i_width = p_sys->ti.width;
302     p_dec->fmt_out.video.i_height = p_sys->ti.height;
303     if( p_sys->ti.frame_width && p_sys->ti.frame_height )
304     {
305         p_dec->fmt_out.video.i_visible_width = p_sys->ti.frame_width;
306         p_dec->fmt_out.video.i_visible_height = p_sys->ti.frame_height;
307         if( p_sys->ti.offset_x || p_sys->ti.offset_y )
308         {
309             p_dec->fmt_out.video.i_x_offset = p_sys->ti.offset_x;
310             p_dec->fmt_out.video.i_y_offset = p_sys->ti.offset_y;
311         }
312     }
313
314     if( p_sys->ti.aspect_denominator && p_sys->ti.aspect_numerator )
315     {
316         p_dec->fmt_out.video.i_aspect = ((int64_t)VOUT_ASPECT_FACTOR) *
317             ( p_sys->ti.aspect_numerator * p_dec->fmt_out.video.i_width ) /
318             ( p_sys->ti.aspect_denominator * p_dec->fmt_out.video.i_height );
319     }
320     else
321     {
322         p_dec->fmt_out.video.i_aspect = VOUT_ASPECT_FACTOR *
323             p_sys->ti.frame_width / p_sys->ti.frame_height;
324     }
325
326     if( p_sys->ti.fps_numerator > 0 && p_sys->ti.fps_denominator > 0 )
327     {
328         p_dec->fmt_out.video.i_frame_rate = p_sys->ti.fps_numerator;
329         p_dec->fmt_out.video.i_frame_rate_base = p_sys->ti.fps_denominator;
330     }
331
332     msg_Dbg( p_dec, "%dx%d %.02f fps video, frame content "
333              "is %dx%d with offset (%d,%d)",
334              p_sys->ti.width, p_sys->ti.height,
335              (double)p_sys->ti.fps_numerator/p_sys->ti.fps_denominator,
336              p_sys->ti.frame_width, p_sys->ti.frame_height,
337              p_sys->ti.offset_x, p_sys->ti.offset_y );
338
339     /* Sanity check that seems necessary for some corrupted files */
340     if( p_sys->ti.width < p_sys->ti.frame_width ||
341         p_sys->ti.height < p_sys->ti.frame_height )
342     {
343         msg_Warn( p_dec, "trying to correct invalid theora header "
344                   "(frame size (%dx%d) is smaller than frame content (%d,%d))",
345                   p_sys->ti.width, p_sys->ti.height,
346                   p_sys->ti.frame_width, p_sys->ti.frame_height );
347
348         if( p_sys->ti.width < p_sys->ti.frame_width )
349             p_sys->ti.width = p_sys->ti.frame_width;
350         if( p_sys->ti.height < p_sys->ti.frame_height )
351             p_sys->ti.height = p_sys->ti.frame_height;
352     }
353
354     /* The next packet in order is the comments header */
355     oggpacket.b_o_s = 0;
356     oggpacket.bytes = *(p_extra++) << 8;
357     oggpacket.bytes |= (*(p_extra++) & 0xFF);
358     oggpacket.packet = p_extra;
359     p_extra += oggpacket.bytes;
360     i_extra -= (oggpacket.bytes + 2);
361     if( i_extra < 0 )
362     {
363         msg_Err( p_dec, "header data corrupted");
364         return VLC_EGENERIC;
365     }
366
367     /* The next packet in order is the comments header */
368     if( theora_decode_header( &p_sys->ti, &p_sys->tc, &oggpacket ) < 0 )
369     {
370         msg_Err( p_dec, "2nd Theora header is corrupted" );
371         return VLC_EGENERIC;
372     }
373
374     ParseTheoraComments( p_dec );
375
376     /* The next packet in order is the codebooks header
377      * We need to watch out that this packet is not missing as a
378      * missing or corrupted header is fatal. */
379     oggpacket.bytes = *(p_extra++) << 8;
380     oggpacket.bytes |= (*(p_extra++) & 0xFF);
381     oggpacket.packet = p_extra;
382     i_extra -= (oggpacket.bytes + 2);
383     if( i_extra < 0 )
384     {
385         msg_Err( p_dec, "header data corrupted");
386         return VLC_EGENERIC;
387     }
388
389     /* The next packet in order is the codebooks header
390      * We need to watch out that this packet is not missing as a
391      * missing or corrupted header is fatal */
392     if( theora_decode_header( &p_sys->ti, &p_sys->tc, &oggpacket ) < 0 )
393     {
394         msg_Err( p_dec, "3rd Theora header is corrupted" );
395         return VLC_EGENERIC;
396     }
397
398     if( !p_sys->b_packetizer )
399     {
400         /* We have all the headers, initialize decoder */
401         theora_decode_init( &p_sys->td, &p_sys->ti );
402     }
403     else
404     {
405         p_dec->fmt_out.i_extra = p_dec->fmt_in.i_extra;
406         p_dec->fmt_out.p_extra = xrealloc( p_dec->fmt_out.p_extra,
407                                                   p_dec->fmt_out.i_extra );
408         memcpy( p_dec->fmt_out.p_extra,
409                 p_dec->fmt_in.p_extra, p_dec->fmt_out.i_extra );
410     }
411
412     return VLC_SUCCESS;
413 }
414
415 /*****************************************************************************
416  * ProcessPacket: processes a theora packet.
417  *****************************************************************************/
418 static void *ProcessPacket( decoder_t *p_dec, ogg_packet *p_oggpacket,
419                             block_t **pp_block )
420 {
421     decoder_sys_t *p_sys = p_dec->p_sys;
422     block_t *p_block = *pp_block;
423     void *p_buf;
424
425     if( ( p_block->i_flags&(BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) ) != 0 )
426     {
427         /* Don't send the the first packet after a discontinuity to
428          * theora_decode, otherwise we get purple/green display artifacts
429          * appearing in the video output */
430         return NULL;
431     }
432
433     /* Date management */
434     if( p_block->i_pts > 0 && p_block->i_pts != p_sys->i_pts )
435     {
436         p_sys->i_pts = p_block->i_pts;
437     }
438
439     *pp_block = NULL; /* To avoid being fed the same packet again */
440
441     if( p_sys->b_packetizer )
442     {
443         /* Date management */
444         p_block->i_dts = p_block->i_pts = p_sys->i_pts;
445
446         if( p_sys->i_headers >= 3 )
447             p_block->i_length = p_sys->i_pts - p_block->i_pts;
448         else
449             p_block->i_length = 0;
450
451         p_buf = p_block;
452     }
453     else
454     {
455         if( p_sys->i_headers >= 3 )
456             p_buf = DecodePacket( p_dec, p_oggpacket );
457         else
458             p_buf = NULL;
459
460         if( p_block ) block_Release( p_block );
461     }
462
463     /* Date management */
464     p_sys->i_pts += ( INT64_C(1000000) * p_sys->ti.fps_denominator /
465                       p_sys->ti.fps_numerator ); /* 1 frame per packet */
466
467     return p_buf;
468 }
469
470 /*****************************************************************************
471  * DecodePacket: decodes a Theora packet.
472  *****************************************************************************/
473 static picture_t *DecodePacket( decoder_t *p_dec, ogg_packet *p_oggpacket )
474 {
475     decoder_sys_t *p_sys = p_dec->p_sys;
476     picture_t *p_pic;
477     yuv_buffer yuv;
478
479     theora_decode_packetin( &p_sys->td, p_oggpacket );
480
481     /* Check for keyframe */
482     if( !(p_oggpacket->packet[0] & 0x80) /* data packet */ &&
483         !(p_oggpacket->packet[0] & 0x40) /* intra frame */ )
484         p_sys->b_decoded_first_keyframe = true;
485
486     /* If we haven't seen a single keyframe yet, don't let Theora decode
487      * anything, otherwise we'll get display artifacts.  (This is impossible
488      * in the general case, but can happen if e.g. we play a network stream
489      * using a timed URL, such that the server doesn't start the video with a
490      * keyframe). */
491     if( p_sys->b_decoded_first_keyframe )
492         theora_decode_YUVout( &p_sys->td, &yuv );
493     else
494         return NULL;
495
496     /* Get a new picture */
497     p_pic = decoder_NewPicture( p_dec );
498     if( !p_pic ) return NULL;
499
500     theora_CopyPicture( p_pic, &yuv );
501
502     p_pic->date = p_sys->i_pts;
503
504     return p_pic;
505 }
506
507 /*****************************************************************************
508  * ParseTheoraComments:
509  *****************************************************************************/
510 static void ParseTheoraComments( decoder_t *p_dec )
511 {
512     char *psz_name, *psz_value, *psz_comment;
513     int i = 0;
514
515     while ( i < p_dec->p_sys->tc.comments )
516     {
517         psz_comment = strdup( p_dec->p_sys->tc.user_comments[i] );
518         if( !psz_comment )
519             break;
520         psz_name = psz_comment;
521         psz_value = strchr( psz_comment, '=' );
522         if( psz_value )
523         {
524             *psz_value = '\0';
525             psz_value++;
526
527             if( !p_dec->p_description )
528                 p_dec->p_description = vlc_meta_New();
529             if( p_dec->p_description )
530                 vlc_meta_AddExtra( p_dec->p_description, psz_name, psz_value );
531         }
532         free( psz_comment );
533         i++;
534     }
535 }
536
537 /*****************************************************************************
538  * CloseDecoder: theora decoder destruction
539  *****************************************************************************/
540 static void CloseDecoder( vlc_object_t *p_this )
541 {
542     decoder_t *p_dec = (decoder_t *)p_this;
543     decoder_sys_t *p_sys = p_dec->p_sys;
544
545     theora_info_clear( &p_sys->ti );
546     theora_comment_clear( &p_sys->tc );
547
548     free( p_sys );
549 }
550
551 /*****************************************************************************
552  * theora_CopyPicture: copy a picture from theora internal buffers to a
553  *                     picture_t structure.
554  *****************************************************************************/
555 static void theora_CopyPicture( picture_t *p_pic,
556                                 yuv_buffer *yuv )
557 {
558     int i_plane, i_line, i_dst_stride, i_src_stride;
559     uint8_t *p_dst, *p_src;
560
561     for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
562     {
563         p_dst = p_pic->p[i_plane].p_pixels;
564         p_src = i_plane ? (i_plane - 1 ? yuv->v : yuv->u ) : yuv->y;
565         i_dst_stride  = p_pic->p[i_plane].i_pitch;
566         i_src_stride  = i_plane ? yuv->uv_stride : yuv->y_stride;
567
568         for( i_line = 0; i_line < p_pic->p[i_plane].i_lines; i_line++ )
569         {
570             vlc_memcpy( p_dst, p_src,
571                         i_plane ? yuv->uv_width : yuv->y_width );
572             p_src += i_src_stride;
573             p_dst += i_dst_stride;
574         }
575     }
576 }
577
578 /*****************************************************************************
579  * encoder_sys_t : theora encoder descriptor
580  *****************************************************************************/
581 struct encoder_sys_t
582 {
583     /*
584      * Input properties
585      */
586     bool b_headers;
587
588     /*
589      * Theora properties
590      */
591     theora_info      ti;                        /* theora bitstream settings */
592     theora_comment   tc;                            /* theora comment header */
593     theora_state     td;                   /* theora bitstream user comments */
594
595     int i_width, i_height;
596 };
597
598 /*****************************************************************************
599  * OpenEncoder: probe the encoder and return score
600  *****************************************************************************/
601 static int OpenEncoder( vlc_object_t *p_this )
602 {
603     encoder_t *p_enc = (encoder_t *)p_this;
604     encoder_sys_t *p_sys;
605     ogg_packet header;
606     uint8_t *p_extra;
607     int i_quality, i;
608
609     if( p_enc->fmt_out.i_codec != VLC_CODEC_THEORA &&
610         !p_enc->b_force )
611     {
612         return VLC_EGENERIC;
613     }
614
615     /* Allocate the memory needed to store the decoder's structure */
616     if( ( p_sys = malloc(sizeof(encoder_sys_t)) ) == NULL )
617         return VLC_ENOMEM;
618     p_enc->p_sys = p_sys;
619
620     p_enc->pf_encode_video = Encode;
621     p_enc->fmt_in.i_codec = VLC_CODEC_I420;
622     p_enc->fmt_out.i_codec = VLC_CODEC_THEORA;
623
624     config_ChainParse( p_enc, ENC_CFG_PREFIX, ppsz_enc_options, p_enc->p_cfg );
625
626     i_quality = var_GetInteger( p_enc, ENC_CFG_PREFIX "quality" );
627     if( i_quality > 10 ) i_quality = 10;
628     if( i_quality < 0 ) i_quality = 0;
629
630     theora_info_init( &p_sys->ti );
631
632     p_sys->ti.width = p_enc->fmt_in.video.i_width;
633     p_sys->ti.height = p_enc->fmt_in.video.i_height;
634
635     if( p_sys->ti.width % 16 || p_sys->ti.height % 16 )
636     {
637         /* Pictures from the transcoder should always have a pitch
638          * which is a multiple of 16 */
639         p_sys->ti.width = (p_sys->ti.width + 15) >> 4 << 4;
640         p_sys->ti.height = (p_sys->ti.height + 15) >> 4 << 4;
641
642         msg_Dbg( p_enc, "padding video from %dx%d to %dx%d",
643                  p_enc->fmt_in.video.i_width, p_enc->fmt_in.video.i_height,
644                  p_sys->ti.width, p_sys->ti.height );
645     }
646
647     p_sys->ti.frame_width = p_enc->fmt_in.video.i_width;
648     p_sys->ti.frame_height = p_enc->fmt_in.video.i_height;
649     p_sys->ti.offset_x = 0 /*frame_x_offset*/;
650     p_sys->ti.offset_y = 0 /*frame_y_offset*/;
651
652     p_sys->i_width = p_sys->ti.width;
653     p_sys->i_height = p_sys->ti.height;
654
655     if( !p_enc->fmt_in.video.i_frame_rate ||
656         !p_enc->fmt_in.video.i_frame_rate_base )
657     {
658         p_sys->ti.fps_numerator = 25;
659         p_sys->ti.fps_denominator = 1;
660     }
661     else
662     {
663         p_sys->ti.fps_numerator = p_enc->fmt_in.video.i_frame_rate;
664         p_sys->ti.fps_denominator = p_enc->fmt_in.video.i_frame_rate_base;
665     }
666
667     if( p_enc->fmt_in.video.i_aspect )
668     {
669         uint64_t i_num, i_den;
670         unsigned i_dst_num, i_dst_den;
671
672         i_num = p_enc->fmt_in.video.i_aspect * (int64_t)p_sys->ti.height;
673         i_den = VOUT_ASPECT_FACTOR * p_sys->ti.width;
674         vlc_ureduce( &i_dst_num, &i_dst_den, i_num, i_den, 0 );
675         p_sys->ti.aspect_numerator = i_dst_num;
676         p_sys->ti.aspect_denominator = i_dst_den;
677     }
678     else
679     {
680         p_sys->ti.aspect_numerator = 4;
681         p_sys->ti.aspect_denominator = 3;
682     }
683
684     p_sys->ti.target_bitrate = p_enc->fmt_out.i_bitrate;
685     p_sys->ti.quality = ((float)i_quality) * 6.3;
686
687     p_sys->ti.dropframes_p = 0;
688     p_sys->ti.quick_p = 1;
689     p_sys->ti.keyframe_auto_p = 1;
690     p_sys->ti.keyframe_frequency = 64;
691     p_sys->ti.keyframe_frequency_force = 64;
692     p_sys->ti.keyframe_data_target_bitrate = p_enc->fmt_out.i_bitrate * 1.5;
693     p_sys->ti.keyframe_auto_threshold = 80;
694     p_sys->ti.keyframe_mindistance = 8;
695     p_sys->ti.noise_sensitivity = 1;
696
697     theora_encode_init( &p_sys->td, &p_sys->ti );
698     theora_comment_init( &p_sys->tc );
699
700     /* Create and store headers */
701     p_enc->fmt_out.i_extra = 3 * 2;
702     for( i = 0; i < 3; i++ )
703     {
704         if( i == 0 ) theora_encode_header( &p_sys->td, &header );
705         else if( i == 1 ) theora_encode_comment( &p_sys->tc, &header );
706         else if( i == 2 ) theora_encode_tables( &p_sys->td, &header );
707
708         p_enc->fmt_out.p_extra = xrealloc( p_enc->fmt_out.p_extra,
709                                       p_enc->fmt_out.i_extra + header.bytes );
710         p_extra = p_enc->fmt_out.p_extra;
711         p_extra += p_enc->fmt_out.i_extra + (i-3)*2;
712         p_enc->fmt_out.i_extra += header.bytes;
713
714         *(p_extra++) = header.bytes >> 8;
715         *(p_extra++) = header.bytes & 0xFF;
716
717         memcpy( p_extra, header.packet, header.bytes );
718     }
719
720     return VLC_SUCCESS;
721 }
722
723 /****************************************************************************
724  * Encode: the whole thing
725  ****************************************************************************
726  * This function spits out ogg packets.
727  ****************************************************************************/
728 static block_t *Encode( encoder_t *p_enc, picture_t *p_pict )
729 {
730     encoder_sys_t *p_sys = p_enc->p_sys;
731     ogg_packet oggpacket;
732     block_t *p_block;
733     yuv_buffer yuv;
734     int i;
735
736     /* Sanity check */
737     if( p_pict->p[0].i_pitch < (int)p_sys->i_width ||
738         p_pict->p[0].i_lines < (int)p_sys->i_height )
739     {
740         msg_Warn( p_enc, "frame is smaller than encoding size"
741                   "(%ix%i->%ix%i) -> dropping frame",
742                   p_pict->p[0].i_pitch, p_pict->p[0].i_lines,
743                   p_sys->i_width, p_sys->i_height );
744         return NULL;
745     }
746
747     /* Fill padding */
748     if( p_pict->p[0].i_visible_pitch < (int)p_sys->i_width )
749     {
750         for( i = 0; i < p_sys->i_height; i++ )
751         {
752             memset( p_pict->p[0].p_pixels + i * p_pict->p[0].i_pitch +
753                     p_pict->p[0].i_visible_pitch,
754                     *( p_pict->p[0].p_pixels + i * p_pict->p[0].i_pitch +
755                        p_pict->p[0].i_visible_pitch - 1 ),
756                     p_sys->i_width - p_pict->p[0].i_visible_pitch );
757         }
758         for( i = 0; i < p_sys->i_height / 2; i++ )
759         {
760             memset( p_pict->p[1].p_pixels + i * p_pict->p[1].i_pitch +
761                     p_pict->p[1].i_visible_pitch,
762                     *( p_pict->p[1].p_pixels + i * p_pict->p[1].i_pitch +
763                        p_pict->p[1].i_visible_pitch - 1 ),
764                     p_sys->i_width / 2 - p_pict->p[1].i_visible_pitch );
765             memset( p_pict->p[2].p_pixels + i * p_pict->p[2].i_pitch +
766                     p_pict->p[2].i_visible_pitch,
767                     *( p_pict->p[2].p_pixels + i * p_pict->p[2].i_pitch +
768                        p_pict->p[2].i_visible_pitch - 1 ),
769                     p_sys->i_width / 2 - p_pict->p[2].i_visible_pitch );
770         }
771     }
772
773     if( p_pict->p[0].i_visible_lines < (int)p_sys->i_height )
774     {
775         for( i = p_pict->p[0].i_visible_lines; i < p_sys->i_height; i++ )
776         {
777             memset( p_pict->p[0].p_pixels + i * p_pict->p[0].i_pitch, 0,
778                     p_sys->i_width );
779         }
780         for( i = p_pict->p[1].i_visible_lines; i < p_sys->i_height / 2; i++ )
781         {
782             memset( p_pict->p[1].p_pixels + i * p_pict->p[1].i_pitch, 0x80,
783                     p_sys->i_width / 2 );
784             memset( p_pict->p[2].p_pixels + i * p_pict->p[2].i_pitch, 0x80,
785                     p_sys->i_width / 2 );
786         }
787     }
788
789     /* Theora is a one-frame-in, one-frame-out system. Submit a frame
790      * for compression and pull out the packet. */
791
792     yuv.y_width  = p_sys->i_width;
793     yuv.y_height = p_sys->i_height;
794     yuv.y_stride = p_pict->p[0].i_pitch;
795
796     yuv.uv_width  = p_sys->i_width / 2;
797     yuv.uv_height = p_sys->i_height / 2;
798     yuv.uv_stride = p_pict->p[1].i_pitch;
799
800     yuv.y = p_pict->p[0].p_pixels;
801     yuv.u = p_pict->p[1].p_pixels;
802     yuv.v = p_pict->p[2].p_pixels;
803
804     if( theora_encode_YUVin( &p_sys->td, &yuv ) < 0 )
805     {
806         msg_Warn( p_enc, "failed encoding a frame" );
807         return NULL;
808     }
809
810     theora_encode_packetout( &p_sys->td, 0, &oggpacket );
811
812     /* Ogg packet to block */
813     p_block = block_New( p_enc, oggpacket.bytes );
814     memcpy( p_block->p_buffer, oggpacket.packet, oggpacket.bytes );
815     p_block->i_dts = p_block->i_pts = p_pict->date;
816
817     if( theora_packet_iskeyframe( &oggpacket ) )
818     {
819         p_block->i_flags |= BLOCK_FLAG_TYPE_I;
820     }
821
822     return p_block;
823 }
824
825 /*****************************************************************************
826  * CloseEncoder: theora encoder destruction
827  *****************************************************************************/
828 static void CloseEncoder( vlc_object_t *p_this )
829 {
830     encoder_t *p_enc = (encoder_t *)p_this;
831     encoder_sys_t *p_sys = p_enc->p_sys;
832
833     theora_info_clear( &p_sys->ti );
834     theora_comment_clear( &p_sys->tc );
835
836     free( p_sys );
837 }