]> git.sesse.net Git - vlc/blob - src/misc/es_format.c
aout: remove FI32 intermediate-only codec
[vlc] / src / misc / es_format.c
1 /*****************************************************************************
2  * es_format.c : es_format_t helpers.
3  *****************************************************************************
4  * Copyright (C) 2008 VLC authors and VideoLAN
5  * $Id$
6  *
7  * Author: Laurent Aimar <fenrir@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify it
10  * under the terms of the GNU Lesser General Public License as published by
11  * the Free Software Foundation; either version 2.1 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
17  * GNU Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public License
20  * along with this program; if not, write to the Free Software Foundation,
21  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 # include "config.h"
30 #endif
31
32 #include <vlc_common.h>
33 #include <vlc_es.h>
34
35
36 /*****************************************************************************
37  * BinaryLog: computes the base 2 log of a binary value
38  *****************************************************************************
39  * This functions is used by MaskToShift, to get a bit index from a binary
40  * value.
41  *****************************************************************************/
42 static int BinaryLog( uint32_t i )
43 {
44     int i_log = 0;
45
46     if( i == 0 ) return -31337;
47
48     if( i & 0xffff0000 ) i_log += 16;
49     if( i & 0xff00ff00 ) i_log += 8;
50     if( i & 0xf0f0f0f0 ) i_log += 4;
51     if( i & 0xcccccccc ) i_log += 2;
52     if( i & 0xaaaaaaaa ) i_log += 1;
53
54     return i_log;
55 }
56
57 /**
58  * It transforms a color mask into right and left shifts
59  * FIXME copied from video_output.c
60  */
61 static void MaskToShift( int *pi_left, int *pi_right, uint32_t i_mask )
62 {
63     uint32_t i_low, i_high;            /* lower and higher bits of the mask */
64
65     if( !i_mask )
66     {
67         *pi_left = *pi_right = 0;
68         return;
69     }
70
71     /* Get bits */
72     i_low = i_high = i_mask;
73
74     i_low &= - (int32_t)i_low;          /* lower bit of the mask */
75     i_high += i_low;                    /* higher bit of the mask */
76
77     /* Transform bits into an index. Also deal with i_high overflow, which
78      * is faster than changing the BinaryLog code to handle 64 bit integers. */
79     i_low =  BinaryLog (i_low);
80     i_high = i_high ? BinaryLog (i_high) : 32;
81
82     /* Update pointers and return */
83     *pi_left =   i_low;
84     *pi_right = (8 - i_high + i_low);
85 }
86
87 /* */
88 void video_format_FixRgb( video_format_t *p_fmt )
89 {
90     /* FIXME find right default mask */
91     if( !p_fmt->i_rmask || !p_fmt->i_gmask || !p_fmt->i_bmask )
92     {
93         switch( p_fmt->i_chroma )
94         {
95         case VLC_CODEC_RGB15:
96             p_fmt->i_rmask = 0x7c00;
97             p_fmt->i_gmask = 0x03e0;
98             p_fmt->i_bmask = 0x001f;
99             break;
100
101         case VLC_CODEC_RGB16:
102             p_fmt->i_rmask = 0xf800;
103             p_fmt->i_gmask = 0x07e0;
104             p_fmt->i_bmask = 0x001f;
105             break;
106
107         case VLC_CODEC_RGB24:
108             p_fmt->i_rmask = 0xff0000;
109             p_fmt->i_gmask = 0x00ff00;
110             p_fmt->i_bmask = 0x0000ff;
111             break;
112         case VLC_CODEC_RGB32:
113             p_fmt->i_rmask = 0x00ff0000;
114             p_fmt->i_gmask = 0x0000ff00;
115             p_fmt->i_bmask = 0x000000ff;
116             break;
117
118         default:
119             return;
120         }
121     }
122
123     MaskToShift( &p_fmt->i_lrshift, &p_fmt->i_rrshift,
124                  p_fmt->i_rmask );
125     MaskToShift( &p_fmt->i_lgshift, &p_fmt->i_rgshift,
126                  p_fmt->i_gmask );
127     MaskToShift( &p_fmt->i_lbshift, &p_fmt->i_rbshift,
128                  p_fmt->i_bmask );
129 }
130
131 void video_format_Setup( video_format_t *p_fmt, vlc_fourcc_t i_chroma,
132                          int i_width, int i_height,
133                          int i_sar_num, int i_sar_den )
134 {
135     p_fmt->i_chroma         = vlc_fourcc_GetCodec( VIDEO_ES, i_chroma );
136     p_fmt->i_width          =
137     p_fmt->i_visible_width  = i_width;
138     p_fmt->i_height         =
139     p_fmt->i_visible_height = i_height;
140     p_fmt->i_x_offset       =
141     p_fmt->i_y_offset       = 0;
142     vlc_ureduce( &p_fmt->i_sar_num, &p_fmt->i_sar_den,
143                  i_sar_num, i_sar_den, 0 );
144
145     switch( p_fmt->i_chroma )
146     {
147     case VLC_CODEC_YUVA:
148         p_fmt->i_bits_per_pixel = 32;
149         break;
150     case VLC_CODEC_I444:
151     case VLC_CODEC_J444:
152         p_fmt->i_bits_per_pixel = 24;
153         break;
154     case VLC_CODEC_I422:
155     case VLC_CODEC_YUYV:
156     case VLC_CODEC_YVYU:
157     case VLC_CODEC_UYVY:
158     case VLC_CODEC_VYUY:
159     case VLC_CODEC_J422:
160         p_fmt->i_bits_per_pixel = 16;
161         break;
162     case VLC_CODEC_I440:
163     case VLC_CODEC_J440:
164         p_fmt->i_bits_per_pixel = 16;
165         break;
166     case VLC_CODEC_I411:
167     case VLC_CODEC_YV12:
168     case VLC_CODEC_I420:
169     case VLC_CODEC_J420:
170         p_fmt->i_bits_per_pixel = 12;
171         break;
172     case VLC_CODEC_YV9:
173     case VLC_CODEC_I410:
174         p_fmt->i_bits_per_pixel = 9;
175         break;
176     case VLC_CODEC_Y211:
177         p_fmt->i_bits_per_pixel = 8;
178         break;
179     case VLC_CODEC_YUVP:
180         p_fmt->i_bits_per_pixel = 8;
181         break;
182
183     case VLC_CODEC_RGB32:
184     case VLC_CODEC_RGBA:
185         p_fmt->i_bits_per_pixel = 32;
186         break;
187     case VLC_CODEC_RGB24:
188         p_fmt->i_bits_per_pixel = 24;
189         break;
190     case VLC_CODEC_RGB15:
191     case VLC_CODEC_RGB16:
192         p_fmt->i_bits_per_pixel = 16;
193         break;
194     case VLC_CODEC_RGB8:
195         p_fmt->i_bits_per_pixel = 8;
196         break;
197
198     case VLC_CODEC_GREY:
199     case VLC_CODEC_RGBP:
200         p_fmt->i_bits_per_pixel = 8;
201         break;
202
203     default:
204         p_fmt->i_bits_per_pixel = 0;
205         break;
206     }
207 }
208
209 void video_format_CopyCrop( video_format_t *p_dst, const video_format_t *p_src )
210 {
211     p_dst->i_x_offset       = p_src->i_x_offset;
212     p_dst->i_y_offset       = p_src->i_y_offset;
213     p_dst->i_visible_width  = p_src->i_visible_width;
214     p_dst->i_visible_height = p_src->i_visible_height;
215 }
216
217 void video_format_ScaleCropAr( video_format_t *p_dst, const video_format_t *p_src )
218 {
219     p_dst->i_x_offset       = (uint64_t)p_src->i_x_offset       * p_dst->i_width  / p_src->i_width;
220     p_dst->i_y_offset       = (uint64_t)p_src->i_y_offset       * p_dst->i_height / p_src->i_height;
221     p_dst->i_visible_width  = (uint64_t)p_src->i_visible_width  * p_dst->i_width  / p_src->i_width;
222     p_dst->i_visible_height = (uint64_t)p_src->i_visible_height * p_dst->i_height / p_src->i_height;
223
224     p_dst->i_sar_num *= p_src->i_width;
225     p_dst->i_sar_den *= p_dst->i_width;
226     vlc_ureduce(&p_dst->i_sar_num, &p_dst->i_sar_den,
227                 p_dst->i_sar_num, p_dst->i_sar_den, 65536);
228
229     p_dst->i_sar_num *= p_dst->i_height;
230     p_dst->i_sar_den *= p_src->i_height;
231     vlc_ureduce(&p_dst->i_sar_num, &p_dst->i_sar_den,
232                 p_dst->i_sar_num, p_dst->i_sar_den, 65536);
233 }
234
235 bool video_format_IsSimilar( const video_format_t *p_fmt1, const video_format_t *p_fmt2 )
236 {
237     video_format_t v1 = *p_fmt1;
238     video_format_t v2 = *p_fmt2;
239
240     if( v1.i_chroma != v2.i_chroma )
241         return false;
242
243     if( v1.i_width != v2.i_width || v1.i_height != v2.i_height ||
244         v1.i_visible_width != v2.i_visible_width ||
245         v1.i_visible_height != v2.i_visible_height ||
246         v1.i_x_offset != v2.i_x_offset || v1.i_y_offset != v2.i_y_offset )
247         return false;
248     if( v1.i_sar_num * v2.i_sar_den != v2.i_sar_num * v1.i_sar_den )
249         return false;
250
251     if( v1.i_chroma == VLC_CODEC_RGB15 ||
252         v1.i_chroma == VLC_CODEC_RGB16 ||
253         v1.i_chroma == VLC_CODEC_RGB24 ||
254         v1.i_chroma == VLC_CODEC_RGB32 )
255     {
256         video_format_FixRgb( &v1 );
257         video_format_FixRgb( &v2 );
258
259         if( v1.i_rmask != v2.i_rmask ||
260             v1.i_gmask != v2.i_gmask ||
261             v1.i_bmask != v2.i_bmask )
262             return false;
263     }
264     return true;
265 }
266 void video_format_Print( vlc_object_t *p_this,
267                          const char *psz_text, const video_format_t *fmt )
268 {
269     msg_Dbg( p_this,
270              "%s sz %ix%i, of (%i,%i), vsz %ix%i, 4cc %4.4s, sar %i:%i, msk r0x%x g0x%x b0x%x",
271              psz_text,
272              fmt->i_width, fmt->i_height, fmt->i_x_offset, fmt->i_y_offset,
273              fmt->i_visible_width, fmt->i_visible_height,
274              (char*)&fmt->i_chroma,
275              fmt->i_sar_num, fmt->i_sar_den,
276              fmt->i_rmask, fmt->i_gmask, fmt->i_bmask );
277 }
278
279 void es_format_Init( es_format_t *fmt,
280                      int i_cat, vlc_fourcc_t i_codec )
281 {
282     fmt->i_cat                  = i_cat;
283     fmt->i_codec                = i_codec;
284     fmt->i_original_fourcc      = 0;
285     fmt->i_profile              = -1;
286     fmt->i_level                = -1;
287     fmt->i_id                   = -1;
288     fmt->i_group                = 0;
289     fmt->i_priority             = 0;
290     fmt->psz_language           = NULL;
291     fmt->psz_description        = NULL;
292
293     fmt->i_extra_languages      = 0;
294     fmt->p_extra_languages      = NULL;
295
296     memset( &fmt->audio, 0, sizeof(audio_format_t) );
297     memset( &fmt->audio_replay_gain, 0, sizeof(audio_replay_gain_t) );
298     memset( &fmt->video, 0, sizeof(video_format_t) );
299     memset( &fmt->subs, 0, sizeof(subs_format_t) );
300
301     fmt->b_packetized           = true;
302     fmt->i_bitrate              = 0;
303     fmt->i_extra                = 0;
304     fmt->p_extra                = NULL;
305 }
306
307 void es_format_InitFromVideo( es_format_t *p_es, const video_format_t *p_fmt )
308 {
309     es_format_Init( p_es, VIDEO_ES, p_fmt->i_chroma );
310     video_format_Copy( &p_es->video, p_fmt );
311 }
312
313 int es_format_Copy( es_format_t *dst, const es_format_t *src )
314 {
315     int i;
316     memcpy( dst, src, sizeof( es_format_t ) );
317     dst->psz_language = src->psz_language ? strdup( src->psz_language ) : NULL;
318     dst->psz_description = src->psz_description ? strdup( src->psz_description ) : NULL;
319     if( src->i_extra > 0 && dst->p_extra )
320     {
321         dst->i_extra = src->i_extra;
322         dst->p_extra = malloc( src->i_extra );
323         if(dst->p_extra)
324             memcpy( dst->p_extra, src->p_extra, src->i_extra );
325         else
326             dst->i_extra = 0;
327     }
328     else
329     {
330         dst->i_extra = 0;
331         dst->p_extra = NULL;
332     }
333
334     dst->subs.psz_encoding = dst->subs.psz_encoding ? strdup( src->subs.psz_encoding ) : NULL;
335
336     if( src->video.p_palette )
337     {
338         dst->video.p_palette =
339             (video_palette_t*)malloc( sizeof( video_palette_t ) );
340         if(dst->video.p_palette)
341         {
342             memcpy( dst->video.p_palette, src->video.p_palette,
343                 sizeof( video_palette_t ) );
344         }
345     }
346
347     if( dst->i_extra_languages && src->p_extra_languages)
348     {
349         dst->i_extra_languages = src->i_extra_languages;
350         dst->p_extra_languages = (extra_languages_t*)
351             malloc(dst->i_extra_languages * sizeof(*dst->p_extra_languages ));
352         if( dst->p_extra_languages )
353         {
354             for( i = 0; i < dst->i_extra_languages; i++ ) {
355                 if( src->p_extra_languages[i].psz_language )
356                     dst->p_extra_languages[i].psz_language = strdup( src->p_extra_languages[i].psz_language );
357                 else
358                     dst->p_extra_languages[i].psz_language = NULL;
359                 if( src->p_extra_languages[i].psz_description )
360                     dst->p_extra_languages[i].psz_description = strdup( src->p_extra_languages[i].psz_description );
361                 else
362                     dst->p_extra_languages[i].psz_description = NULL;
363             }
364         }
365         else
366             dst->i_extra_languages = 0;
367     }
368     else
369         dst->i_extra_languages = 0;
370     return VLC_SUCCESS;
371 }
372
373 void es_format_Clean( es_format_t *fmt )
374 {
375     free( fmt->psz_language );
376     free( fmt->psz_description );
377
378     if( fmt->i_extra > 0 ) free( fmt->p_extra );
379
380     free( fmt->video.p_palette );
381     free( fmt->subs.psz_encoding );
382
383     if( fmt->i_extra_languages > 0 && fmt->p_extra_languages )
384     {
385         int i;
386         for( i = 0; i < fmt->i_extra_languages; i++ )
387         {
388             free( fmt->p_extra_languages[i].psz_language );
389             free( fmt->p_extra_languages[i].psz_description );
390         }
391         free( fmt->p_extra_languages );
392     }
393
394     /* es_format_Clean can be called multiple times */
395     memset( fmt, 0, sizeof(*fmt) );
396 }
397
398 bool es_format_IsSimilar( const es_format_t *p_fmt1, const es_format_t *p_fmt2 )
399 {
400     if( p_fmt1->i_cat != p_fmt2->i_cat ||
401         vlc_fourcc_GetCodec( p_fmt1->i_cat, p_fmt1->i_codec ) !=
402         vlc_fourcc_GetCodec( p_fmt2->i_cat, p_fmt2->i_codec ) )
403         return false;
404
405     switch( p_fmt1->i_cat )
406     {
407     case AUDIO_ES:
408     {
409         audio_format_t a1 = p_fmt1->audio;
410         audio_format_t a2 = p_fmt2->audio;
411
412         if( a1.i_format && a2.i_format && a1.i_format != a2.i_format )
413             return false;
414         if( a1.i_rate != a2.i_rate ||
415             a1.i_physical_channels != a2.i_physical_channels ||
416             a1.i_original_channels != a2.i_original_channels )
417             return false;
418         return true;
419     }
420
421     case VIDEO_ES:
422     {
423         video_format_t v1 = p_fmt1->video;
424         video_format_t v2 = p_fmt2->video;
425         if( !v1.i_chroma )
426             v1.i_chroma = vlc_fourcc_GetCodec( p_fmt1->i_cat, p_fmt1->i_codec );
427         if( !v2.i_chroma )
428             v2.i_chroma = vlc_fourcc_GetCodec( p_fmt1->i_cat, p_fmt2->i_codec );
429         return video_format_IsSimilar( &p_fmt1->video, &p_fmt2->video );
430     }
431
432     case SPU_ES:
433     default:
434         return true;
435     }
436 }
437