]> git.sesse.net Git - vlc/blob - src/misc/block.c
Use var_Inherit* instead of var_CreateGet*.
[vlc] / src / misc / block.c
1 /*****************************************************************************
2  * block.c: Data blocks management functions
3  *****************************************************************************
4  * Copyright (C) 2003-2004 the VideoLAN team
5  * Copyright (C) 2007-2009 RĂ©mi Denis-Courmont
6  *
7  * Authors: Laurent Aimar <fenrir@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #ifdef HAVE_CONFIG_H
28 # include "config.h"
29 #endif
30
31 #include <vlc_common.h>
32 #include <sys/stat.h>
33 #include <assert.h>
34 #include <errno.h>
35 #include "vlc_block.h"
36
37 /**
38  * @section Block handling functions.
39  */
40
41 /**
42  * Internal state for heap block.
43   */
44 struct block_sys_t
45 {
46     block_t     self;
47     size_t      i_allocated_buffer;
48     uint8_t     p_allocated_buffer[];
49 };
50
51 #ifndef NDEBUG
52 static void BlockNoRelease( block_t *b )
53 {
54     fprintf( stderr, "block %p has no release callback! This is a bug!\n", b );
55     abort();
56 }
57 #endif
58
59 void block_Init( block_t *restrict b, void *buf, size_t size )
60 {
61     /* Fill all fields to their default */
62     b->p_next = NULL;
63     b->i_flags = 0;
64     b->i_pts =
65     b->i_dts = VLC_TS_INVALID;
66     b->i_length = 0;
67     b->i_rate = 0;
68     b->i_nb_samples = 0;
69     b->p_buffer = buf;
70     b->i_buffer = size;
71 #ifndef NDEBUG
72     b->pf_release = BlockNoRelease;
73 #endif
74 }
75
76 static void BlockRelease( block_t *p_block )
77 {
78     free( p_block );
79 }
80
81 static void BlockMetaCopy( block_t *restrict out, const block_t *in )
82 {
83     out->p_next    = in->p_next;
84     out->i_dts     = in->i_dts;
85     out->i_pts     = in->i_pts;
86     out->i_flags   = in->i_flags;
87     out->i_length  = in->i_length;
88     out->i_rate    = in->i_rate;
89     out->i_nb_samples = in->i_nb_samples;
90 }
91
92 /* Memory alignment (must be a multiple of sizeof(void*) and a power of two) */
93 #define BLOCK_ALIGN        16
94 /* Initial reserved header and footer size (must be multiple of alignment) */
95 #define BLOCK_PADDING      32
96 /* Maximum size of reserved footer before we release with realloc() */
97 #define BLOCK_WASTE_SIZE   2048
98
99 block_t *block_Alloc( size_t i_size )
100 {
101     /* We do only one malloc
102      * TODO: bench if doing 2 malloc but keeping a pool of buffer is better
103      * 2 * BLOCK_PADDING -> pre + post padding
104      */
105     block_sys_t *p_sys;
106     uint8_t *buf;
107
108 #define ALIGN(x) (((x) + BLOCK_ALIGN - 1) & ~(BLOCK_ALIGN - 1))
109 #if 0 /*def HAVE_POSIX_MEMALIGN */
110     /* posix_memalign(,16,) is much slower than malloc() on glibc.
111      * -- Courmisch, September 2009, glibc 2.5 & 2.9 */
112     const size_t i_alloc = ALIGN(sizeof(*p_sys)) + (2 * BLOCK_PADDING)
113                          + ALIGN(i_size);
114     void *ptr;
115
116     if( posix_memalign( &ptr, BLOCK_ALIGN, i_alloc ) )
117         return NULL;
118
119     p_sys = ptr;
120     buf = p_sys->p_allocated_buffer + (-sizeof(*p_sys) & (BLOCK_ALIGN - 1));
121
122 #else
123     const size_t i_alloc = sizeof(*p_sys) + BLOCK_ALIGN + (2 * BLOCK_PADDING)
124                          + ALIGN(i_size);
125     p_sys = malloc( i_alloc );
126     if( p_sys == NULL )
127         return NULL;
128
129     buf = (void *)ALIGN((uintptr_t)p_sys->p_allocated_buffer);
130
131 #endif
132     buf += BLOCK_PADDING;
133
134     block_Init( &p_sys->self, buf, i_size );
135     p_sys->self.pf_release    = BlockRelease;
136     /* Fill opaque data */
137     p_sys->i_allocated_buffer = i_alloc - sizeof(*p_sys);
138
139     return &p_sys->self;
140 }
141
142 block_t *block_Realloc( block_t *p_block, ssize_t i_prebody, size_t i_body )
143 {
144     block_sys_t *p_sys = (block_sys_t *)p_block;
145     size_t requested = i_prebody + i_body;
146
147     /* Corner case: empty block requested */
148     if( i_prebody <= 0 && i_body <= (size_t)(-i_prebody) )
149     {
150         block_Release( p_block );
151         return NULL;
152     }
153
154     if( p_block->pf_release != BlockRelease )
155     {
156         /* Special case when pf_release if overloaded
157          * TODO if used one day, then implement it in a smarter way */
158         block_t *p_dup = block_Duplicate( p_block );
159         block_Release( p_block );
160         if( !p_dup )
161             return NULL;
162
163         p_block = p_dup;
164         p_sys = (block_sys_t *)p_block;
165     }
166
167     uint8_t *p_start = p_sys->p_allocated_buffer;
168     uint8_t *p_end = p_sys->p_allocated_buffer + p_sys->i_allocated_buffer;
169
170     assert( p_block->p_buffer + p_block->i_buffer <= p_end );
171     assert( p_block->p_buffer >= p_start );
172
173     /* Corner case: the current payload is discarded completely */
174     if( i_prebody <= 0 && p_block->i_buffer <= (size_t)-i_prebody )
175          p_block->i_buffer = 0; /* discard current payload */
176     if( p_block->i_buffer == 0 )
177     {
178         size_t available = p_end - p_start;
179
180         if( requested <= available )
181         {   /* Enough room: recycle buffer */
182             size_t extra = available - requested;
183
184             p_block->p_buffer = p_start + (extra / 2);
185             p_block->i_buffer = requested;
186             return p_block;
187         }
188         /* Not enough room: allocate a new buffer */
189         block_t *p_rea = block_Alloc( requested );
190         if( p_rea )
191             BlockMetaCopy( p_rea, p_block );
192         block_Release( p_block );
193         return p_rea;
194     }
195
196     /* First, shrink payload */
197
198     /* Pull payload start */
199     if( i_prebody < 0 )
200     {
201         assert( p_block->i_buffer >= (size_t)-i_prebody );
202         p_block->p_buffer -= i_prebody;
203         p_block->i_buffer += i_prebody;
204         i_body += i_prebody;
205         i_prebody = 0;
206     }
207
208     /* Trim payload end */
209     if( p_block->i_buffer > i_body )
210         p_block->i_buffer = i_body;
211
212     /* Second, reallocate the buffer if we lack space. This is done now to
213      * minimize the payload size for memory copy. */
214     assert( i_prebody >= 0 );
215     if( (size_t)(p_block->p_buffer - p_start) < (size_t)i_prebody
216      || (size_t)(p_end - p_block->p_buffer) < i_body )
217     {
218         block_t *p_rea = block_Alloc( requested );
219         if( p_rea )
220         {
221             BlockMetaCopy( p_rea, p_block );
222             p_rea->p_buffer += i_prebody;
223             p_rea->i_buffer -= i_prebody;
224             memcpy( p_rea->p_buffer, p_block->p_buffer, p_block->i_buffer );
225         }
226         block_Release( p_block );
227         if( p_rea == NULL )
228             return NULL;
229         p_block = p_rea;
230     }
231     else
232     /* We have a very large reserved footer now? Release some of it.
233      * XXX it might not preserve the alignment of p_buffer */
234     if( p_end - (p_block->p_buffer + i_body) > BLOCK_WASTE_SIZE )
235     {
236         block_t *p_rea = block_Alloc( requested );
237         if( p_rea )
238         {
239             BlockMetaCopy( p_rea, p_block );
240             p_rea->p_buffer += i_prebody;
241             p_rea->i_buffer -= i_prebody;
242             memcpy( p_rea->p_buffer, p_block->p_buffer, p_block->i_buffer );
243             block_Release( p_block );
244             p_block = p_rea;
245         }
246     }
247
248     /* NOTE: p_start and p_end are corrupted from this point */
249
250     /* Third, expand payload */
251
252     /* Push payload start */
253     if( i_prebody > 0 )
254     {
255         p_block->p_buffer -= i_prebody;
256         p_block->i_buffer += i_prebody;
257         i_body += i_prebody;
258         i_prebody = 0;
259     }
260
261     /* Expand payload to requested size */
262     p_block->i_buffer = i_body;
263
264     return p_block;
265 }
266
267
268 typedef struct
269 {
270     block_t  self;
271     void    *mem;
272 } block_heap_t;
273
274 static void block_heap_Release (block_t *self)
275 {
276     block_heap_t *block = (block_heap_t *)self;
277
278     free (block->mem);
279     free (block);
280 }
281
282 /**
283  * Creates a block from a heap allocation.
284  * This is provided by LibVLC so that manually heap-allocated blocks can safely
285  * be deallocated even after the origin plugin has been unloaded from memory.
286  *
287  * When block_Release() is called, VLC will free() the specified pointer.
288  *
289  * @param ptr base address of the heap allocation (will be free()'d)
290  * @param addr base address of the useful buffer data
291  * @param length bytes length of the useful buffer data
292  * @return NULL in case of error (ptr free()'d in that case), or a valid
293  * block_t pointer.
294  */
295 block_t *block_heap_Alloc (void *ptr, void *addr, size_t length)
296 {
297     block_heap_t *block = malloc (sizeof (*block));
298     if (block == NULL)
299     {
300         free (addr);
301         return NULL;
302     }
303
304     block_Init (&block->self, (uint8_t *)addr, length);
305     block->self.pf_release = block_heap_Release;
306     block->mem = ptr;
307     return &block->self;
308 }
309
310 #ifdef HAVE_MMAP
311 # include <sys/mman.h>
312
313 typedef struct block_mmap_t
314 {
315     block_t     self;
316     void       *base_addr;
317     size_t      length;
318 } block_mmap_t;
319
320 static void block_mmap_Release (block_t *block)
321 {
322     block_mmap_t *p_sys = (block_mmap_t *)block;
323
324     munmap (p_sys->base_addr, p_sys->length);
325     free (p_sys);
326 }
327
328 /**
329  * Creates a block from a virtual address memory mapping (mmap).
330  * This is provided by LibVLC so that mmap blocks can safely be deallocated
331  * even after the allocating plugin has been unloaded from memory.
332  *
333  * @param addr base address of the mapping (as returned by mmap)
334  * @param length length (bytes) of the mapping (as passed to mmap)
335  * @return NULL if addr is MAP_FAILED, or an error occurred (in the later
336  * case, munmap(addr, length) is invoked before returning).
337  */
338 block_t *block_mmap_Alloc (void *addr, size_t length)
339 {
340     if (addr == MAP_FAILED)
341         return NULL;
342
343     block_mmap_t *block = malloc (sizeof (*block));
344     if (block == NULL)
345     {
346         munmap (addr, length);
347         return NULL;
348     }
349
350     block_Init (&block->self, (uint8_t *)addr, length);
351     block->self.pf_release = block_mmap_Release;
352     block->base_addr = addr;
353     block->length = length;
354     return &block->self;
355 }
356 #else
357 block_t *block_mmap_Alloc (void *addr, size_t length)
358 {
359     (void)addr; (void)length; return NULL;
360 }
361 #endif
362
363
364 #ifdef WIN32
365 # include <io.h>
366 #ifdef UNDER_CE
367 #define _get_osfhandle(a) ((long) (a))
368 #endif
369
370 static
371 ssize_t pread (int fd, void *buf, size_t count, off_t offset)
372 {
373     HANDLE handle = (HANDLE)(intptr_t)_get_osfhandle (fd);
374     if (handle == INVALID_HANDLE_VALUE)
375         return -1;
376
377     OVERLAPPED olap; olap.Offset = offset; olap.OffsetHigh = (offset >> 32);
378     DWORD written;
379     /* This braindead API will override the file pointer even if we specify
380      * an explicit read offset... So do not expect this to mix well with
381      * regular read() calls. */
382     if (ReadFile (handle, buf, count, &written, &olap))
383         return written;
384     return -1;
385 }
386 #endif
387
388 /**
389  * Loads a file into a block of memory. If possible a private file mapping is
390  * created. Otherwise, the file is read normally. On 32-bits platforms, this
391  * function will not work for very large files, due to memory space
392  * constraints. Cancellation point.
393  *
394  * @param fd file descriptor to load from
395  * @return a new block with the file content at p_buffer, and file length at
396  * i_buffer (release it with block_Release()), or NULL upon error (see errno).
397  */
398 block_t *block_File (int fd)
399 {
400     size_t length;
401     struct stat st;
402
403     /* First, get the file size */
404     if (fstat (fd, &st))
405         return NULL;
406
407     /* st_size is meaningful for regular files, shared memory and typed memory.
408      * It's also meaning for symlinks, but that's not possible with fstat().
409      * In other cases, it's undefined, and we should really not go further. */
410 #ifndef S_TYPEISSHM
411 # define S_TYPEISSHM( buf ) (0)
412 #endif
413     if (S_ISDIR (st.st_mode))
414     {
415         errno = EISDIR;
416         return NULL;
417     }
418     if (!S_ISREG (st.st_mode) && !S_TYPEISSHM (&st))
419     {
420         errno = ESPIPE;
421         return NULL;
422     }
423
424     /* Prevent an integer overflow in mmap() and malloc() */
425     if (st.st_size >= SIZE_MAX)
426     {
427         errno = ENOMEM;
428         return NULL;
429     }
430     length = (size_t)st.st_size;
431
432 #ifdef HAVE_MMAP
433     if (length > 0)
434     {
435         void *addr;
436
437         addr = mmap (NULL, length, PROT_READ|PROT_WRITE, MAP_PRIVATE, fd, 0);
438         if (addr != MAP_FAILED)
439             return block_mmap_Alloc (addr, length);
440     }
441 #endif
442
443     /* If mmap() is not implemented by the OS _or_ the filesystem... */
444     block_t *block = block_Alloc (length);
445     if (block == NULL)
446         return NULL;
447     block_cleanup_push (block);
448
449     for (size_t i = 0; i < length;)
450     {
451         ssize_t len = pread (fd, block->p_buffer + i, length - i, i);
452         if (len == -1)
453         {
454             block_Release (block);
455             block = NULL;
456             break;
457         }
458         i += len;
459     }
460     vlc_cleanup_pop ();
461     return block;
462 }
463
464 /**
465  * @section Thread-safe block queue functions
466  */
467
468 /**
469  * Internal state for block queues
470  */
471 struct block_fifo_t
472 {
473     vlc_mutex_t         lock;                         /* fifo data lock */
474     vlc_cond_t          wait;      /**< Wait for data */
475     vlc_cond_t          wait_room; /**< Wait for queue depth to shrink */
476
477     block_t             *p_first;
478     block_t             **pp_last;
479     size_t              i_depth;
480     size_t              i_size;
481     bool          b_force_wake;
482 };
483
484 block_fifo_t *block_FifoNew( void )
485 {
486     block_fifo_t *p_fifo = malloc( sizeof( block_fifo_t ) );
487     if( !p_fifo )
488         return NULL;
489
490     vlc_mutex_init( &p_fifo->lock );
491     vlc_cond_init( &p_fifo->wait );
492     vlc_cond_init( &p_fifo->wait_room );
493     p_fifo->p_first = NULL;
494     p_fifo->pp_last = &p_fifo->p_first;
495     p_fifo->i_depth = p_fifo->i_size = 0;
496     p_fifo->b_force_wake = false;
497
498     return p_fifo;
499 }
500
501 void block_FifoRelease( block_fifo_t *p_fifo )
502 {
503     block_FifoEmpty( p_fifo );
504     vlc_cond_destroy( &p_fifo->wait_room );
505     vlc_cond_destroy( &p_fifo->wait );
506     vlc_mutex_destroy( &p_fifo->lock );
507     free( p_fifo );
508 }
509
510 void block_FifoEmpty( block_fifo_t *p_fifo )
511 {
512     block_t *block;
513
514     vlc_mutex_lock( &p_fifo->lock );
515     block = p_fifo->p_first;
516     if (block != NULL)
517     {
518         p_fifo->i_depth = p_fifo->i_size = 0;
519         p_fifo->p_first = NULL;
520         p_fifo->pp_last = &p_fifo->p_first;
521     }
522     vlc_cond_broadcast( &p_fifo->wait_room );
523     vlc_mutex_unlock( &p_fifo->lock );
524
525     while (block != NULL)
526     {
527         block_t *buf;
528
529         buf = block->p_next;
530         block_Release (block);
531         block = buf;
532     }
533 }
534
535 /**
536  * Wait until the FIFO gets below a certain size (if needed).
537  *
538  * Note that if more than one thread writes to the FIFO, you cannot assume that
539  * the FIFO is actually below the requested size upon return (since another
540  * thread could have refilled it already). This is typically not an issue, as
541  * this function is meant for (relaxed) congestion control.
542  *
543  * This function may be a cancellation point and it is cancel-safe.
544  *
545  * @param fifo queue to wait on
546  * @param max_depth wait until the queue has no more than this many blocks
547  *                  (use SIZE_MAX to ignore this constraint)
548  * @param max_size wait until the queue has no more than this many bytes
549  *                  (use SIZE_MAX to ignore this constraint)
550  * @return nothing.
551  */
552 void block_FifoPace (block_fifo_t *fifo, size_t max_depth, size_t max_size)
553 {
554     vlc_testcancel ();
555
556     vlc_mutex_lock (&fifo->lock);
557     while ((fifo->i_depth > max_depth) || (fifo->i_size > max_size))
558     {
559          mutex_cleanup_push (&fifo->lock);
560          vlc_cond_wait (&fifo->wait_room, &fifo->lock);
561          vlc_cleanup_pop ();
562     }
563     vlc_mutex_unlock (&fifo->lock);
564 }
565
566 /**
567  * Immediately queue one block at the end of a FIFO.
568  * @param fifo queue
569  * @param block head of a block list to queue (may be NULL)
570  * @return total number of bytes appended to the queue
571  */
572 size_t block_FifoPut( block_fifo_t *p_fifo, block_t *p_block )
573 {
574     size_t i_size = 0, i_depth = 0;
575     block_t *p_last;
576
577     if (p_block == NULL)
578         return 0;
579     for (p_last = p_block; ; p_last = p_last->p_next)
580     {
581         i_size += p_last->i_buffer;
582         i_depth++;
583         if (!p_last->p_next)
584             break;
585     }
586
587     vlc_mutex_lock (&p_fifo->lock);
588     *p_fifo->pp_last = p_block;
589     p_fifo->pp_last = &p_last->p_next;
590     p_fifo->i_depth += i_depth;
591     p_fifo->i_size += i_size;
592     /* We queued at least one block: wake up one read-waiting thread */
593     vlc_cond_signal( &p_fifo->wait );
594     vlc_mutex_unlock( &p_fifo->lock );
595
596     return i_size;
597 }
598
599 void block_FifoWake( block_fifo_t *p_fifo )
600 {
601     vlc_mutex_lock( &p_fifo->lock );
602     if( p_fifo->p_first == NULL )
603         p_fifo->b_force_wake = true;
604     vlc_cond_broadcast( &p_fifo->wait );
605     vlc_mutex_unlock( &p_fifo->lock );
606 }
607
608 /**
609  * Dequeue the first block from the FIFO. If necessary, wait until there is
610  * one block in the queue. This function is (always) cancellation point.
611  *
612  * @return a valid block, or NULL if block_FifoWake() was called.
613  */
614 block_t *block_FifoGet( block_fifo_t *p_fifo )
615 {
616     block_t *b;
617
618     vlc_testcancel( );
619
620     vlc_mutex_lock( &p_fifo->lock );
621     mutex_cleanup_push( &p_fifo->lock );
622
623     /* Remember vlc_cond_wait() may cause spurious wakeups
624      * (on both Win32 and POSIX) */
625     while( ( p_fifo->p_first == NULL ) && !p_fifo->b_force_wake )
626         vlc_cond_wait( &p_fifo->wait, &p_fifo->lock );
627
628     vlc_cleanup_pop();
629     b = p_fifo->p_first;
630
631     p_fifo->b_force_wake = false;
632     if( b == NULL )
633     {
634         /* Forced wakeup */
635         vlc_mutex_unlock( &p_fifo->lock );
636         return NULL;
637     }
638
639     p_fifo->p_first = b->p_next;
640     p_fifo->i_depth--;
641     p_fifo->i_size -= b->i_buffer;
642
643     if( p_fifo->p_first == NULL )
644     {
645         p_fifo->pp_last = &p_fifo->p_first;
646     }
647
648     /* We don't know how many threads can queue new packets now. */
649     vlc_cond_broadcast( &p_fifo->wait_room );
650     vlc_mutex_unlock( &p_fifo->lock );
651
652     b->p_next = NULL;
653     return b;
654 }
655
656 /**
657  * Peeks the first block in the FIFO.
658  * If necessary, wait until there is one block.
659  * This function is (always) a cancellation point.
660  *
661  * @warning This function leaves the block in the FIFO.
662  * You need to protect against concurrent threads who could dequeue the block.
663  * Preferrably, there should be only one thread reading from the FIFO.
664  *
665  * @return a valid block.
666  */
667 block_t *block_FifoShow( block_fifo_t *p_fifo )
668 {
669     block_t *b;
670
671     vlc_testcancel( );
672
673     vlc_mutex_lock( &p_fifo->lock );
674     mutex_cleanup_push( &p_fifo->lock );
675
676     while( p_fifo->p_first == NULL )
677         vlc_cond_wait( &p_fifo->wait, &p_fifo->lock );
678
679     b = p_fifo->p_first;
680
681     vlc_cleanup_run ();
682     return b;
683 }
684
685 /* FIXME: not thread-safe */
686 size_t block_FifoSize( const block_fifo_t *p_fifo )
687 {
688     return p_fifo->i_size;
689 }
690
691 /* FIXME: not thread-safe */
692 size_t block_FifoCount( const block_fifo_t *p_fifo )
693 {
694     return p_fifo->i_depth;
695 }