]> git.sesse.net Git - vlc/blob - src/misc/block.c
339c5a58ab0f52409a3d30888b0fb2a32b14efb1
[vlc] / src / misc / block.c
1 /*****************************************************************************
2  * block.c: Data blocks management functions
3  *****************************************************************************
4  * Copyright (C) 2003-2004 the VideoLAN team
5  * Copyright (C) 2007-2009 RĂ©mi Denis-Courmont
6  *
7  * Authors: Laurent Aimar <fenrir@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27 #ifdef HAVE_CONFIG_H
28 # include "config.h"
29 #endif
30
31 #include <vlc_common.h>
32 #include <sys/stat.h>
33 #include <assert.h>
34 #include "vlc_block.h"
35
36 /**
37  * @section Block handling functions.
38  */
39
40 /**
41  * Internal state for heap block.
42   */
43 struct block_sys_t
44 {
45     block_t     self;
46     size_t      i_allocated_buffer;
47     uint8_t     p_allocated_buffer[];
48 };
49
50 #ifndef NDEBUG
51 static void BlockNoRelease( block_t *b )
52 {
53     fprintf( stderr, "block %p has no release callback! This is a bug!\n", b );
54     abort();
55 }
56 #endif
57
58 void block_Init( block_t *restrict b, void *buf, size_t size )
59 {
60     /* Fill all fields to their default */
61     b->p_next = NULL;
62     b->i_flags = 0;
63     b->i_pts =
64     b->i_dts = VLC_TS_INVALID;
65     b->i_length = 0;
66     b->i_rate = 0;
67     b->p_buffer = buf;
68     b->i_buffer = size;
69 #ifndef NDEBUG
70     b->pf_release = BlockNoRelease;
71 #endif
72 }
73
74 static void BlockRelease( block_t *p_block )
75 {
76     free( p_block );
77 }
78
79 static void BlockMetaCopy( block_t *restrict out, const block_t *in )
80 {
81     out->i_dts     = in->i_dts;
82     out->i_pts     = in->i_pts;
83     out->i_flags   = in->i_flags;
84     out->i_length  = in->i_length;
85     out->i_rate    = in->i_rate;
86     out->i_samples = in->i_samples;
87 }
88
89 /* Memory alignment */
90 #define BLOCK_ALIGN        16
91 /* Initial size of reserved header and footer */
92 #define BLOCK_PADDING_SIZE 32
93 /* Maximum size of reserved footer before we release with realloc() */
94 #define BLOCK_WASTE_SIZE   2048
95
96 block_t *block_Alloc( size_t i_size )
97 {
98     /* We do only one malloc
99      * TODO: bench if doing 2 malloc but keeping a pool of buffer is better
100      * TODO: use memalign
101      * 16 -> align on 16
102      * 2 * BLOCK_PADDING_SIZE -> pre + post padding
103      */
104     const size_t i_alloc = i_size + 2 * BLOCK_PADDING_SIZE + BLOCK_ALIGN;
105     block_sys_t *p_sys = malloc( sizeof( *p_sys ) + i_alloc );
106
107     if( p_sys == NULL )
108         return NULL;
109
110     /* Fill opaque data */
111     p_sys->i_allocated_buffer = i_alloc;
112
113     block_Init( &p_sys->self, p_sys->p_allocated_buffer + BLOCK_PADDING_SIZE
114                 + BLOCK_ALIGN
115                 - ((uintptr_t)p_sys->p_allocated_buffer % BLOCK_ALIGN),
116                 i_size );
117     p_sys->self.pf_release    = BlockRelease;
118
119     return &p_sys->self;
120 }
121
122 block_t *block_Realloc( block_t *p_block, ssize_t i_prebody, size_t i_body )
123 {
124     block_sys_t *p_sys = (block_sys_t *)p_block;
125     size_t requested = i_prebody + i_body;
126
127     /* Corner case: empty block requested */
128     if( i_prebody <= 0 && i_body <= (size_t)(-i_prebody) )
129     {
130         block_Release( p_block );
131         return NULL;
132     }
133
134     if( p_block->pf_release != BlockRelease )
135     {
136         /* Special case when pf_release if overloaded
137          * TODO if used one day, then implement it in a smarter way */
138         block_t *p_dup = block_Duplicate( p_block );
139         block_Release( p_block );
140         if( !p_dup )
141             return NULL;
142
143         p_block = p_dup;
144         p_sys = (block_sys_t *)p_block;
145     }
146
147     uint8_t *p_start = p_sys->p_allocated_buffer;
148     uint8_t *p_end = p_sys->p_allocated_buffer + p_sys->i_allocated_buffer;
149
150     assert( p_block->p_buffer + p_block->i_buffer <= p_end );
151     assert( p_block->p_buffer >= p_start );
152
153     /* Corner case: the current payload is discarded completely */
154     if( i_prebody <= 0 && p_block->i_buffer <= (size_t)-i_prebody )
155          p_block->i_buffer = 0; /* discard current payload */
156     if( p_block->i_buffer == 0 )
157     {
158         size_t available = p_end - p_start;
159
160         if( requested <= available )
161         {   /* Enough room: recycle buffer */
162             size_t extra = available - requested;
163
164             p_block->p_buffer = p_start + (extra / 2);
165             p_block->i_buffer = requested;
166             return p_block;
167         }
168         /* Not enough room: allocate a new buffer */
169         block_t *p_rea = block_Alloc( requested );
170         if( p_rea )
171             BlockMetaCopy( p_rea, p_block );
172         block_Release( p_block );
173         return p_rea;
174     }
175
176     /* First, shrink payload */
177
178     /* Pull payload start */
179     if( i_prebody < 0 )
180     {
181         assert( p_block->i_buffer >= (size_t)-i_prebody );
182         p_block->p_buffer -= i_prebody;
183         p_block->i_buffer += i_prebody;
184         i_body += i_prebody;
185         i_prebody = 0;
186     }
187
188     /* Trim payload end */
189     if( p_block->i_buffer > i_body )
190         p_block->i_buffer = i_body;
191
192     /* Second, reallocate the buffer if we lack space. This is done now to
193      * minimize the payload size for memory copy. */
194     assert( i_prebody >= 0 );
195     if( (size_t)(p_block->p_buffer - p_start) < (size_t)i_prebody
196      || (size_t)(p_end - p_block->p_buffer) < p_block->i_buffer + i_body )
197     {
198         /* FIXME: this is really dumb, we should use realloc() */
199         block_t *p_rea = block_Alloc( requested );
200         if( p_rea )
201         {
202             BlockMetaCopy( p_rea, p_block );
203             p_rea->p_buffer += i_prebody;
204             p_rea->i_buffer -= i_prebody;
205             memcpy( p_rea->p_buffer, p_block->p_buffer, p_block->i_buffer );
206         }
207         block_Release( p_block );
208         p_block = p_rea;
209     }
210     else
211     /* We have a very large reserved footer now? Release some of it.
212      * XXX it might not preserve the alignment of p_buffer */
213     if( p_end - (p_block->p_buffer + i_body) > BLOCK_WASTE_SIZE )
214     {
215         const ptrdiff_t i_prebody = p_block->p_buffer - p_start;
216         const size_t i_new = requested + 1 * BLOCK_PADDING_SIZE;
217         block_sys_t *p_new = realloc( p_sys, sizeof (*p_sys) + i_new );
218
219         if( p_new != NULL )
220         {
221             p_sys = p_new;
222             p_sys->i_allocated_buffer = i_new;
223             p_block = &p_sys->self;
224             p_block->p_buffer = &p_sys->p_allocated_buffer[i_prebody];
225         }
226     }
227
228     /* NOTE: p_start and p_end are corrupted from this point */
229
230     /* Third, expand payload */
231
232     /* Push payload start */
233     if( i_prebody > 0 )
234     {
235         p_block->p_buffer -= i_prebody;
236         p_block->i_buffer += i_prebody;
237         i_body += i_prebody;
238         i_prebody = 0;
239     }
240
241     /* Expand payload to requested size */
242     p_block->i_buffer = i_body;
243
244     return p_block;
245 }
246
247
248 typedef struct
249 {
250     block_t  self;
251     void    *mem;
252 } block_heap_t;
253
254 static void block_heap_Release (block_t *self)
255 {
256     block_heap_t *block = (block_heap_t *)self;
257
258     free (block->mem);
259     free (block);
260 }
261
262 /**
263  * Creates a block from a heap allocation.
264  * This is provided by LibVLC so that manually heap-allocated blocks can safely
265  * be deallocated even after the origin plugin has been unloaded from memory.
266  *
267  * When block_Release() is called, VLC will free() the specified pointer.
268  *
269  * @param ptr base address of the heap allocation (will be free()'d)
270  * @param addr base address of the useful buffer data
271  * @param length bytes length of the useful buffer datan
272  * @return NULL in case of error (ptr free()'d in that case), or a valid
273  * block_t pointer.
274  */
275 block_t *block_heap_Alloc (void *ptr, void *addr, size_t length)
276 {
277     block_heap_t *block = malloc (sizeof (*block));
278     if (block == NULL)
279     {
280         free (addr);
281         return NULL;
282     }
283
284     block_Init (&block->self, (uint8_t *)addr, length);
285     block->self.pf_release = block_heap_Release;
286     block->mem = ptr;
287     return &block->self;
288 }
289
290 #ifdef HAVE_MMAP
291 # include <sys/mman.h>
292
293 typedef struct block_mmap_t
294 {
295     block_t     self;
296     void       *base_addr;
297     size_t      length;
298 } block_mmap_t;
299
300 static void block_mmap_Release (block_t *block)
301 {
302     block_mmap_t *p_sys = (block_mmap_t *)block;
303
304     munmap (p_sys->base_addr, p_sys->length);
305     free (p_sys);
306 }
307
308 /**
309  * Creates a block from a virtual address memory mapping (mmap).
310  * This is provided by LibVLC so that mmap blocks can safely be deallocated
311  * even after the allocating plugin has been unloaded from memory.
312  *
313  * @param addr base address of the mapping (as returned by mmap)
314  * @param length length (bytes) of the mapping (as passed to mmap)
315  * @return NULL if addr is MAP_FAILED, or an error occurred (in the later
316  * case, munmap(addr, length) is invoked before returning).
317  */
318 block_t *block_mmap_Alloc (void *addr, size_t length)
319 {
320     if (addr == MAP_FAILED)
321         return NULL;
322
323     block_mmap_t *block = malloc (sizeof (*block));
324     if (block == NULL)
325     {
326         munmap (addr, length);
327         return NULL;
328     }
329
330     block_Init (&block->self, (uint8_t *)addr, length);
331     block->self.pf_release = block_mmap_Release;
332     block->base_addr = addr;
333     block->length = length;
334     return &block->self;
335 }
336 #else
337 block_t *block_mmap_Alloc (void *addr, size_t length)
338 {
339     (void)addr; (void)length; return NULL;
340 }
341 #endif
342
343
344 #ifdef WIN32
345 #ifdef UNDER_CE
346 #define _get_osfhandle(a) ((long) (a))
347 #endif
348
349 static
350 ssize_t pread (int fd, void *buf, size_t count, off_t offset)
351 {
352     HANDLE handle = (HANDLE)(intptr_t)_get_osfhandle (fd);
353     if (handle == INVALID_HANDLE_VALUE)
354         return -1;
355
356     OVERLAPPED olap; olap.Offset = offset; olap.OffsetHigh = (offset >> 32);
357     DWORD written;
358     /* This braindead API will override the file pointer even if we specify
359      * an explicit read offset... So do not expect this to mix well with
360      * regular read() calls. */
361     if (ReadFile (handle, buf, count, &written, &olap))
362         return written;
363     return -1;
364 }
365 #endif
366
367 /**
368  * Loads a file into a block of memory. If possible a private file mapping is
369  * created. Otherwise, the file is read normally. On 32-bits platforms, this
370  * function will not work for very large files, due to memory space
371  * constraints. Cancellation point.
372  *
373  * @param fd file descriptor to load from
374  * @return a new block with the file content at p_buffer, and file length at
375  * i_buffer (release it with block_Release()), or NULL upon error (see errno).
376  */
377 block_t *block_File (int fd)
378 {
379     size_t length;
380     struct stat st;
381
382     /* First, get the file size */
383     if (fstat (fd, &st))
384         return NULL;
385
386     /* st_size is meaningful for regular files, shared memory and typed memory.
387      * It's also meaning for symlinks, but that's not possible with fstat().
388      * In other cases, it's undefined, and we should really not go further. */
389 #ifndef S_TYPEISSHM
390 # define S_TYPEISSHM( buf ) (0)
391 #endif
392     if (S_ISDIR (st.st_mode))
393     {
394         errno = EISDIR;
395         return NULL;
396     }
397     if (!S_ISREG (st.st_mode) && !S_TYPEISSHM (&st))
398     {
399         errno = ESPIPE;
400         return NULL;
401     }
402
403     /* Prevent an integer overflow in mmap() and malloc() */
404     if (st.st_size >= SIZE_MAX)
405     {
406         errno = ENOMEM;
407         return NULL;
408     }
409     length = (size_t)st.st_size;
410
411 #ifdef HAVE_MMAP
412     if (length > 0)
413     {
414         void *addr;
415
416         addr = mmap (NULL, length, PROT_READ|PROT_WRITE, MAP_PRIVATE, fd, 0);
417         if (addr != MAP_FAILED)
418             return block_mmap_Alloc (addr, length);
419     }
420 #endif
421
422     /* If mmap() is not implemented by the OS _or_ the filesystem... */
423     block_t *block = block_Alloc (length);
424     if (block == NULL)
425         return NULL;
426     block_cleanup_push (block);
427
428     for (size_t i = 0; i < length;)
429     {
430         ssize_t len = pread (fd, block->p_buffer + i, length - i, i);
431         if (len == -1)
432         {
433             block_Release (block);
434             block = NULL;
435             break;
436         }
437         i += len;
438     }
439     vlc_cleanup_pop ();
440     return block;
441 }
442
443 /**
444  * @section Thread-safe block queue functions
445  */
446
447 /**
448  * Internal state for block queues
449  */
450 struct block_fifo_t
451 {
452     vlc_mutex_t         lock;                         /* fifo data lock */
453     vlc_cond_t          wait;      /**< Wait for data */
454     vlc_cond_t          wait_room; /**< Wait for queue depth to shrink */
455
456     block_t             *p_first;
457     block_t             **pp_last;
458     size_t              i_depth;
459     size_t              i_size;
460     bool          b_force_wake;
461 };
462
463 block_fifo_t *block_FifoNew( void )
464 {
465     block_fifo_t *p_fifo = malloc( sizeof( block_fifo_t ) );
466     if( !p_fifo )
467         return NULL;
468
469     vlc_mutex_init( &p_fifo->lock );
470     vlc_cond_init( &p_fifo->wait );
471     vlc_cond_init( &p_fifo->wait_room );
472     p_fifo->p_first = NULL;
473     p_fifo->pp_last = &p_fifo->p_first;
474     p_fifo->i_depth = p_fifo->i_size = 0;
475     p_fifo->b_force_wake = false;
476
477     return p_fifo;
478 }
479
480 void block_FifoRelease( block_fifo_t *p_fifo )
481 {
482     block_FifoEmpty( p_fifo );
483     vlc_cond_destroy( &p_fifo->wait_room );
484     vlc_cond_destroy( &p_fifo->wait );
485     vlc_mutex_destroy( &p_fifo->lock );
486     free( p_fifo );
487 }
488
489 void block_FifoEmpty( block_fifo_t *p_fifo )
490 {
491     block_t *b;
492
493     vlc_mutex_lock( &p_fifo->lock );
494     for( b = p_fifo->p_first; b != NULL; )
495     {
496         block_t *p_next;
497
498         p_next = b->p_next;
499         block_Release( b );
500         b = p_next;
501     }
502
503     p_fifo->i_depth = p_fifo->i_size = 0;
504     p_fifo->p_first = NULL;
505     p_fifo->pp_last = &p_fifo->p_first;
506     vlc_cond_broadcast( &p_fifo->wait_room );
507     vlc_mutex_unlock( &p_fifo->lock );
508 }
509
510 /**
511  * Wait until the FIFO gets below a certain size (if needed).
512  *
513  * Note that if more than one thread writes to the FIFO, you cannot assume that
514  * the FIFO is actually below the requested size upon return (since another
515  * thread could have refilled it already). This is typically not an issue, as
516  * this function is meant for (relaxed) congestion control.
517  *
518  * This function may be a cancellation point and it is cancel-safe.
519  *
520  * @param fifo queue to wait on
521  * @param max_depth wait until the queue has no more than this many blocks
522  *                  (use SIZE_MAX to ignore this constraint)
523  * @param max_size wait until the queue has no more than this many bytes
524  *                  (use SIZE_MAX to ignore this constraint)
525  * @return nothing.
526  */
527 void block_FifoPace (block_fifo_t *fifo, size_t max_depth, size_t max_size)
528 {
529     vlc_testcancel ();
530
531     vlc_mutex_lock (&fifo->lock);
532     while ((fifo->i_depth > max_depth) || (fifo->i_size > max_size))
533     {
534          mutex_cleanup_push (&fifo->lock);
535          vlc_cond_wait (&fifo->wait_room, &fifo->lock);
536          vlc_cleanup_pop ();
537     }
538     vlc_mutex_unlock (&fifo->lock);
539 }
540
541 /**
542  * Immediately queue one block at the end of a FIFO.
543  * @param fifo queue
544  * @param block head of a block list to queue (may be NULL)
545  */
546 size_t block_FifoPut( block_fifo_t *p_fifo, block_t *p_block )
547 {
548     size_t i_size = 0;
549     vlc_mutex_lock( &p_fifo->lock );
550
551     while (p_block != NULL)
552     {
553         i_size += p_block->i_buffer;
554
555         *p_fifo->pp_last = p_block;
556         p_fifo->pp_last = &p_block->p_next;
557         p_fifo->i_depth++;
558         p_fifo->i_size += p_block->i_buffer;
559
560         p_block = p_block->p_next;
561     }
562
563     /* We queued one block: wake up one read-waiting thread */
564     vlc_cond_signal( &p_fifo->wait );
565     vlc_mutex_unlock( &p_fifo->lock );
566
567     return i_size;
568 }
569
570 void block_FifoWake( block_fifo_t *p_fifo )
571 {
572     vlc_mutex_lock( &p_fifo->lock );
573     if( p_fifo->p_first == NULL )
574         p_fifo->b_force_wake = true;
575     vlc_cond_broadcast( &p_fifo->wait );
576     vlc_mutex_unlock( &p_fifo->lock );
577 }
578
579 block_t *block_FifoGet( block_fifo_t *p_fifo )
580 {
581     block_t *b;
582
583     vlc_testcancel( );
584
585     vlc_mutex_lock( &p_fifo->lock );
586     mutex_cleanup_push( &p_fifo->lock );
587
588     /* Remember vlc_cond_wait() may cause spurious wakeups
589      * (on both Win32 and POSIX) */
590     while( ( p_fifo->p_first == NULL ) && !p_fifo->b_force_wake )
591         vlc_cond_wait( &p_fifo->wait, &p_fifo->lock );
592
593     vlc_cleanup_pop();
594     b = p_fifo->p_first;
595
596     p_fifo->b_force_wake = false;
597     if( b == NULL )
598     {
599         /* Forced wakeup */
600         vlc_mutex_unlock( &p_fifo->lock );
601         return NULL;
602     }
603
604     p_fifo->p_first = b->p_next;
605     p_fifo->i_depth--;
606     p_fifo->i_size -= b->i_buffer;
607
608     if( p_fifo->p_first == NULL )
609     {
610         p_fifo->pp_last = &p_fifo->p_first;
611     }
612
613     /* We don't know how many threads can queue new packets now. */
614     vlc_cond_broadcast( &p_fifo->wait_room );
615     vlc_mutex_unlock( &p_fifo->lock );
616
617     b->p_next = NULL;
618     return b;
619 }
620
621 block_t *block_FifoShow( block_fifo_t *p_fifo )
622 {
623     block_t *b;
624
625     vlc_testcancel( );
626
627     vlc_mutex_lock( &p_fifo->lock );
628     mutex_cleanup_push( &p_fifo->lock );
629
630     while( p_fifo->p_first == NULL )
631         vlc_cond_wait( &p_fifo->wait, &p_fifo->lock );
632
633     b = p_fifo->p_first;
634
635     vlc_cleanup_run ();
636     return b;
637 }
638
639 /* FIXME: not thread-safe */
640 size_t block_FifoSize( const block_fifo_t *p_fifo )
641 {
642     return p_fifo->i_size;
643 }
644
645 /* FIXME: not thread-safe */
646 size_t block_FifoCount( const block_fifo_t *p_fifo )
647 {
648     return p_fifo->i_depth;
649 }