]> git.sesse.net Git - ffmpeg/blob - libavformat/aviobuf.c
Merge commit '681a86aba6cb09b98ad716d986182060c7795d20'
[ffmpeg] / libavformat / aviobuf.c
1 /*
2  * buffered I/O
3  * Copyright (c) 2000,2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/bprint.h"
23 #include "libavutil/crc.h"
24 #include "libavutil/dict.h"
25 #include "libavutil/intreadwrite.h"
26 #include "libavutil/log.h"
27 #include "libavutil/opt.h"
28 #include "libavutil/avassert.h"
29 #include "avformat.h"
30 #include "avio.h"
31 #include "avio_internal.h"
32 #include "internal.h"
33 #include "url.h"
34 #include <stdarg.h>
35
36 #define IO_BUFFER_SIZE 32768
37
38 /**
39  * Do seeks within this distance ahead of the current buffer by skipping
40  * data instead of calling the protocol seek function, for seekable
41  * protocols.
42  */
43 #define SHORT_SEEK_THRESHOLD 4096
44
45 typedef struct AVIOInternal {
46     URLContext *h;
47 } AVIOInternal;
48
49 static void *ff_avio_child_next(void *obj, void *prev)
50 {
51     AVIOContext *s = obj;
52     AVIOInternal *internal = s->opaque;
53     return prev ? NULL : internal->h;
54 }
55
56 static const AVClass *ff_avio_child_class_next(const AVClass *prev)
57 {
58     return prev ? NULL : &ffurl_context_class;
59 }
60
61 #define OFFSET(x) offsetof(AVIOContext,x)
62 #define E AV_OPT_FLAG_ENCODING_PARAM
63 #define D AV_OPT_FLAG_DECODING_PARAM
64 static const AVOption ff_avio_options[] = {
65     {"protocol_whitelist", "List of protocols that are allowed to be used", OFFSET(protocol_whitelist), AV_OPT_TYPE_STRING, { .str = NULL },  CHAR_MIN, CHAR_MAX, D },
66     { NULL },
67 };
68
69 const AVClass ff_avio_class = {
70     .class_name = "AVIOContext",
71     .item_name  = av_default_item_name,
72     .version    = LIBAVUTIL_VERSION_INT,
73     .option     = ff_avio_options,
74     .child_next = ff_avio_child_next,
75     .child_class_next = ff_avio_child_class_next,
76 };
77
78 static void fill_buffer(AVIOContext *s);
79 static int url_resetbuf(AVIOContext *s, int flags);
80
81 int ffio_init_context(AVIOContext *s,
82                   unsigned char *buffer,
83                   int buffer_size,
84                   int write_flag,
85                   void *opaque,
86                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
87                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
88                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
89 {
90     s->buffer      = buffer;
91     s->orig_buffer_size =
92     s->buffer_size = buffer_size;
93     s->buf_ptr     = buffer;
94     s->buf_ptr_max = buffer;
95     s->opaque      = opaque;
96     s->direct      = 0;
97
98     url_resetbuf(s, write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
99
100     s->write_packet    = write_packet;
101     s->read_packet     = read_packet;
102     s->seek            = seek;
103     s->pos             = 0;
104     s->eof_reached     = 0;
105     s->error           = 0;
106     s->seekable        = seek ? AVIO_SEEKABLE_NORMAL : 0;
107     s->min_packet_size = 0;
108     s->max_packet_size = 0;
109     s->update_checksum = NULL;
110     s->short_seek_threshold = SHORT_SEEK_THRESHOLD;
111
112     if (!read_packet && !write_flag) {
113         s->pos     = buffer_size;
114         s->buf_end = s->buffer + buffer_size;
115     }
116     s->read_pause = NULL;
117     s->read_seek  = NULL;
118
119     s->write_data_type       = NULL;
120     s->ignore_boundary_point = 0;
121     s->current_type          = AVIO_DATA_MARKER_UNKNOWN;
122     s->last_time             = AV_NOPTS_VALUE;
123     s->short_seek_get        = NULL;
124     s->written               = 0;
125
126     return 0;
127 }
128
129 AVIOContext *avio_alloc_context(
130                   unsigned char *buffer,
131                   int buffer_size,
132                   int write_flag,
133                   void *opaque,
134                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
135                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
136                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
137 {
138     AVIOContext *s = av_mallocz(sizeof(AVIOContext));
139     if (!s)
140         return NULL;
141     ffio_init_context(s, buffer, buffer_size, write_flag, opaque,
142                   read_packet, write_packet, seek);
143     return s;
144 }
145
146 void avio_context_free(AVIOContext **ps)
147 {
148     av_freep(ps);
149 }
150
151 static void writeout(AVIOContext *s, const uint8_t *data, int len)
152 {
153     if (!s->error) {
154         int ret = 0;
155         if (s->write_data_type)
156             ret = s->write_data_type(s->opaque, (uint8_t *)data,
157                                      len,
158                                      s->current_type,
159                                      s->last_time);
160         else if (s->write_packet)
161             ret = s->write_packet(s->opaque, (uint8_t *)data, len);
162         if (ret < 0) {
163             s->error = ret;
164         } else {
165             if (s->pos + len > s->written)
166                 s->written = s->pos + len;
167         }
168     }
169     if (s->current_type == AVIO_DATA_MARKER_SYNC_POINT ||
170         s->current_type == AVIO_DATA_MARKER_BOUNDARY_POINT) {
171         s->current_type = AVIO_DATA_MARKER_UNKNOWN;
172     }
173     s->last_time = AV_NOPTS_VALUE;
174     s->writeout_count ++;
175     s->pos += len;
176 }
177
178 static void flush_buffer(AVIOContext *s)
179 {
180     s->buf_ptr_max = FFMAX(s->buf_ptr, s->buf_ptr_max);
181     if (s->write_flag && s->buf_ptr_max > s->buffer) {
182         writeout(s, s->buffer, s->buf_ptr_max - s->buffer);
183         if (s->update_checksum) {
184             s->checksum     = s->update_checksum(s->checksum, s->checksum_ptr,
185                                                  s->buf_ptr_max - s->checksum_ptr);
186             s->checksum_ptr = s->buffer;
187         }
188     }
189     s->buf_ptr = s->buf_ptr_max = s->buffer;
190     if (!s->write_flag)
191         s->buf_end = s->buffer;
192 }
193
194 void avio_w8(AVIOContext *s, int b)
195 {
196     av_assert2(b>=-128 && b<=255);
197     *s->buf_ptr++ = b;
198     if (s->buf_ptr >= s->buf_end)
199         flush_buffer(s);
200 }
201
202 void ffio_fill(AVIOContext *s, int b, int count)
203 {
204     while (count > 0) {
205         int len = FFMIN(s->buf_end - s->buf_ptr, count);
206         memset(s->buf_ptr, b, len);
207         s->buf_ptr += len;
208
209         if (s->buf_ptr >= s->buf_end)
210             flush_buffer(s);
211
212         count -= len;
213     }
214 }
215
216 void avio_write(AVIOContext *s, const unsigned char *buf, int size)
217 {
218     if (s->direct && !s->update_checksum) {
219         avio_flush(s);
220         writeout(s, buf, size);
221         return;
222     }
223     while (size > 0) {
224         int len = FFMIN(s->buf_end - s->buf_ptr, size);
225         memcpy(s->buf_ptr, buf, len);
226         s->buf_ptr += len;
227
228         if (s->buf_ptr >= s->buf_end)
229             flush_buffer(s);
230
231         buf += len;
232         size -= len;
233     }
234 }
235
236 void avio_flush(AVIOContext *s)
237 {
238     int seekback = s->write_flag ? FFMIN(0, s->buf_ptr - s->buf_ptr_max) : 0;
239     flush_buffer(s);
240     if (seekback)
241         avio_seek(s, seekback, SEEK_CUR);
242 }
243
244 int64_t avio_seek(AVIOContext *s, int64_t offset, int whence)
245 {
246     int64_t offset1;
247     int64_t pos;
248     int force = whence & AVSEEK_FORCE;
249     int buffer_size;
250     int short_seek;
251     whence &= ~AVSEEK_FORCE;
252
253     if(!s)
254         return AVERROR(EINVAL);
255
256     buffer_size = s->buf_end - s->buffer;
257     // pos is the absolute position that the beginning of s->buffer corresponds to in the file
258     pos = s->pos - (s->write_flag ? 0 : buffer_size);
259
260     if (whence != SEEK_CUR && whence != SEEK_SET)
261         return AVERROR(EINVAL);
262
263     if (whence == SEEK_CUR) {
264         offset1 = pos + (s->buf_ptr - s->buffer);
265         if (offset == 0)
266             return offset1;
267         if (offset > INT64_MAX - offset1)
268             return AVERROR(EINVAL);
269         offset += offset1;
270     }
271     if (offset < 0)
272         return AVERROR(EINVAL);
273
274     if (s->short_seek_get) {
275         short_seek = s->short_seek_get(s->opaque);
276         /* fallback to default short seek */
277         if (short_seek <= 0)
278             short_seek = s->short_seek_threshold;
279     } else
280         short_seek = s->short_seek_threshold;
281
282     offset1 = offset - pos; // "offset1" is the relative offset from the beginning of s->buffer
283     s->buf_ptr_max = FFMAX(s->buf_ptr_max, s->buf_ptr);
284     if ((!s->direct || !s->seek) &&
285         offset1 >= 0 && offset1 <= (s->write_flag ? s->buf_ptr_max - s->buffer : buffer_size)) {
286         /* can do the seek inside the buffer */
287         s->buf_ptr = s->buffer + offset1;
288     } else if ((!(s->seekable & AVIO_SEEKABLE_NORMAL) ||
289                offset1 <= buffer_size + short_seek) &&
290                !s->write_flag && offset1 >= 0 &&
291                (!s->direct || !s->seek) &&
292               (whence != SEEK_END || force)) {
293         while(s->pos < offset && !s->eof_reached)
294             fill_buffer(s);
295         if (s->eof_reached)
296             return AVERROR_EOF;
297         s->buf_ptr = s->buf_end - (s->pos - offset);
298     } else if(!s->write_flag && offset1 < 0 && -offset1 < buffer_size>>1 && s->seek && offset > 0) {
299         int64_t res;
300
301         pos -= FFMIN(buffer_size>>1, pos);
302         if ((res = s->seek(s->opaque, pos, SEEK_SET)) < 0)
303             return res;
304         s->buf_end =
305         s->buf_ptr = s->buffer;
306         s->pos = pos;
307         s->eof_reached = 0;
308         fill_buffer(s);
309         return avio_seek(s, offset, SEEK_SET | force);
310     } else {
311         int64_t res;
312         if (s->write_flag) {
313             flush_buffer(s);
314         }
315         if (!s->seek)
316             return AVERROR(EPIPE);
317         if ((res = s->seek(s->opaque, offset, SEEK_SET)) < 0)
318             return res;
319         s->seek_count ++;
320         if (!s->write_flag)
321             s->buf_end = s->buffer;
322         s->buf_ptr = s->buf_ptr_max = s->buffer;
323         s->pos = offset;
324     }
325     s->eof_reached = 0;
326     return offset;
327 }
328
329 int64_t avio_skip(AVIOContext *s, int64_t offset)
330 {
331     return avio_seek(s, offset, SEEK_CUR);
332 }
333
334 int64_t avio_size(AVIOContext *s)
335 {
336     int64_t size;
337
338     if (!s)
339         return AVERROR(EINVAL);
340
341     if (s->written)
342         return s->written;
343
344     if (!s->seek)
345         return AVERROR(ENOSYS);
346     size = s->seek(s->opaque, 0, AVSEEK_SIZE);
347     if (size < 0) {
348         if ((size = s->seek(s->opaque, -1, SEEK_END)) < 0)
349             return size;
350         size++;
351         s->seek(s->opaque, s->pos, SEEK_SET);
352     }
353     return size;
354 }
355
356 int avio_feof(AVIOContext *s)
357 {
358     if(!s)
359         return 0;
360     if(s->eof_reached){
361         s->eof_reached=0;
362         fill_buffer(s);
363     }
364     return s->eof_reached;
365 }
366
367 #if FF_API_URL_FEOF
368 int url_feof(AVIOContext *s)
369 {
370     return avio_feof(s);
371 }
372 #endif
373
374 void avio_wl32(AVIOContext *s, unsigned int val)
375 {
376     avio_w8(s, (uint8_t) val       );
377     avio_w8(s, (uint8_t)(val >> 8 ));
378     avio_w8(s, (uint8_t)(val >> 16));
379     avio_w8(s,           val >> 24 );
380 }
381
382 void avio_wb32(AVIOContext *s, unsigned int val)
383 {
384     avio_w8(s,           val >> 24 );
385     avio_w8(s, (uint8_t)(val >> 16));
386     avio_w8(s, (uint8_t)(val >> 8 ));
387     avio_w8(s, (uint8_t) val       );
388 }
389
390 int avio_put_str(AVIOContext *s, const char *str)
391 {
392     int len = 1;
393     if (str) {
394         len += strlen(str);
395         avio_write(s, (const unsigned char *) str, len);
396     } else
397         avio_w8(s, 0);
398     return len;
399 }
400
401 static inline int put_str16(AVIOContext *s, const char *str, const int be)
402 {
403     const uint8_t *q = str;
404     int ret = 0;
405     int err = 0;
406
407     while (*q) {
408         uint32_t ch;
409         uint16_t tmp;
410
411         GET_UTF8(ch, *q++, goto invalid;)
412         PUT_UTF16(ch, tmp, be ? avio_wb16(s, tmp) : avio_wl16(s, tmp);
413                   ret += 2;)
414         continue;
415 invalid:
416         av_log(s, AV_LOG_ERROR, "Invalid UTF8 sequence in avio_put_str16%s\n", be ? "be" : "le");
417         err = AVERROR(EINVAL);
418         if (!*(q-1))
419             break;
420     }
421     if (be)
422         avio_wb16(s, 0);
423     else
424         avio_wl16(s, 0);
425     if (err)
426         return err;
427     ret += 2;
428     return ret;
429 }
430
431 #define PUT_STR16(type, big_endian)                          \
432 int avio_put_str16 ## type(AVIOContext *s, const char *str)  \
433 {                                                            \
434 return put_str16(s, str, big_endian);                        \
435 }
436
437 PUT_STR16(le, 0)
438 PUT_STR16(be, 1)
439
440 #undef PUT_STR16
441
442 int ff_get_v_length(uint64_t val)
443 {
444     int i = 1;
445
446     while (val >>= 7)
447         i++;
448
449     return i;
450 }
451
452 void ff_put_v(AVIOContext *bc, uint64_t val)
453 {
454     int i = ff_get_v_length(val);
455
456     while (--i > 0)
457         avio_w8(bc, 128 | (uint8_t)(val >> (7*i)));
458
459     avio_w8(bc, val & 127);
460 }
461
462 void avio_wl64(AVIOContext *s, uint64_t val)
463 {
464     avio_wl32(s, (uint32_t)(val & 0xffffffff));
465     avio_wl32(s, (uint32_t)(val >> 32));
466 }
467
468 void avio_wb64(AVIOContext *s, uint64_t val)
469 {
470     avio_wb32(s, (uint32_t)(val >> 32));
471     avio_wb32(s, (uint32_t)(val & 0xffffffff));
472 }
473
474 void avio_wl16(AVIOContext *s, unsigned int val)
475 {
476     avio_w8(s, (uint8_t)val);
477     avio_w8(s, (int)val >> 8);
478 }
479
480 void avio_wb16(AVIOContext *s, unsigned int val)
481 {
482     avio_w8(s, (int)val >> 8);
483     avio_w8(s, (uint8_t)val);
484 }
485
486 void avio_wl24(AVIOContext *s, unsigned int val)
487 {
488     avio_wl16(s, val & 0xffff);
489     avio_w8(s, (int)val >> 16);
490 }
491
492 void avio_wb24(AVIOContext *s, unsigned int val)
493 {
494     avio_wb16(s, (int)val >> 8);
495     avio_w8(s, (uint8_t)val);
496 }
497
498 void avio_write_marker(AVIOContext *s, int64_t time, enum AVIODataMarkerType type)
499 {
500     if (type == AVIO_DATA_MARKER_FLUSH_POINT) {
501         if (s->buf_ptr - s->buffer >= s->min_packet_size)
502             avio_flush(s);
503         return;
504     }
505     if (!s->write_data_type)
506         return;
507     // If ignoring boundary points, just treat it as unknown
508     if (type == AVIO_DATA_MARKER_BOUNDARY_POINT && s->ignore_boundary_point)
509         type = AVIO_DATA_MARKER_UNKNOWN;
510     // Avoid unnecessary flushes if we are already in non-header/trailer
511     // data and setting the type to unknown
512     if (type == AVIO_DATA_MARKER_UNKNOWN &&
513         (s->current_type != AVIO_DATA_MARKER_HEADER &&
514          s->current_type != AVIO_DATA_MARKER_TRAILER))
515         return;
516
517     switch (type) {
518     case AVIO_DATA_MARKER_HEADER:
519     case AVIO_DATA_MARKER_TRAILER:
520         // For header/trailer, ignore a new marker of the same type;
521         // consecutive header/trailer markers can be merged.
522         if (type == s->current_type)
523             return;
524         break;
525     }
526
527     // If we've reached here, we have a new, noteworthy marker.
528     // Flush the previous data and mark the start of the new data.
529     avio_flush(s);
530     s->current_type = type;
531     s->last_time = time;
532 }
533
534 /* Input stream */
535
536 static void fill_buffer(AVIOContext *s)
537 {
538     int max_buffer_size = s->max_packet_size ?
539                           s->max_packet_size : IO_BUFFER_SIZE;
540     uint8_t *dst        = s->buf_end - s->buffer + max_buffer_size < s->buffer_size ?
541                           s->buf_end : s->buffer;
542     int len             = s->buffer_size - (dst - s->buffer);
543
544     /* can't fill the buffer without read_packet, just set EOF if appropriate */
545     if (!s->read_packet && s->buf_ptr >= s->buf_end)
546         s->eof_reached = 1;
547
548     /* no need to do anything if EOF already reached */
549     if (s->eof_reached)
550         return;
551
552     if (s->update_checksum && dst == s->buffer) {
553         if (s->buf_end > s->checksum_ptr)
554             s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
555                                              s->buf_end - s->checksum_ptr);
556         s->checksum_ptr = s->buffer;
557     }
558
559     /* make buffer smaller in case it ended up large after probing */
560     if (s->read_packet && s->orig_buffer_size && s->buffer_size > s->orig_buffer_size) {
561         if (dst == s->buffer && s->buf_ptr != dst) {
562             int ret = ffio_set_buf_size(s, s->orig_buffer_size);
563             if (ret < 0)
564                 av_log(s, AV_LOG_WARNING, "Failed to decrease buffer size\n");
565
566             s->checksum_ptr = dst = s->buffer;
567         }
568         av_assert0(len >= s->orig_buffer_size);
569         len = s->orig_buffer_size;
570     }
571
572     if (s->read_packet)
573         len = s->read_packet(s->opaque, dst, len);
574     else
575         len = AVERROR_EOF;
576     if (len == AVERROR_EOF) {
577         /* do not modify buffer if EOF reached so that a seek back can
578            be done without rereading data */
579         s->eof_reached = 1;
580     } else if (len < 0) {
581         s->eof_reached = 1;
582         s->error= len;
583     } else {
584         s->pos += len;
585         s->buf_ptr = dst;
586         s->buf_end = dst + len;
587         s->bytes_read += len;
588     }
589 }
590
591 unsigned long ff_crc04C11DB7_update(unsigned long checksum, const uint8_t *buf,
592                                     unsigned int len)
593 {
594     return av_crc(av_crc_get_table(AV_CRC_32_IEEE), checksum, buf, len);
595 }
596
597 unsigned long ff_crcEDB88320_update(unsigned long checksum, const uint8_t *buf,
598                                     unsigned int len)
599 {
600     return av_crc(av_crc_get_table(AV_CRC_32_IEEE_LE), checksum, buf, len);
601 }
602
603 unsigned long ff_crcA001_update(unsigned long checksum, const uint8_t *buf,
604                                 unsigned int len)
605 {
606     return av_crc(av_crc_get_table(AV_CRC_16_ANSI_LE), checksum, buf, len);
607 }
608
609 unsigned long ffio_get_checksum(AVIOContext *s)
610 {
611     s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
612                                      s->buf_ptr - s->checksum_ptr);
613     s->update_checksum = NULL;
614     return s->checksum;
615 }
616
617 void ffio_init_checksum(AVIOContext *s,
618                    unsigned long (*update_checksum)(unsigned long c, const uint8_t *p, unsigned int len),
619                    unsigned long checksum)
620 {
621     s->update_checksum = update_checksum;
622     if (s->update_checksum) {
623         s->checksum     = checksum;
624         s->checksum_ptr = s->buf_ptr;
625     }
626 }
627
628 /* XXX: put an inline version */
629 int avio_r8(AVIOContext *s)
630 {
631     if (s->buf_ptr >= s->buf_end)
632         fill_buffer(s);
633     if (s->buf_ptr < s->buf_end)
634         return *s->buf_ptr++;
635     return 0;
636 }
637
638 int avio_read(AVIOContext *s, unsigned char *buf, int size)
639 {
640     int len, size1;
641
642     size1 = size;
643     while (size > 0) {
644         len = FFMIN(s->buf_end - s->buf_ptr, size);
645         if (len == 0 || s->write_flag) {
646             if((s->direct || size > s->buffer_size) && !s->update_checksum) {
647                 // bypass the buffer and read data directly into buf
648                 if(s->read_packet)
649                     len = s->read_packet(s->opaque, buf, size);
650                 else
651                     len = AVERROR_EOF;
652                 if (len == AVERROR_EOF) {
653                     /* do not modify buffer if EOF reached so that a seek back can
654                     be done without rereading data */
655                     s->eof_reached = 1;
656                     break;
657                 } else if (len < 0) {
658                     s->eof_reached = 1;
659                     s->error= len;
660                     break;
661                 } else {
662                     s->pos += len;
663                     s->bytes_read += len;
664                     size -= len;
665                     buf += len;
666                     // reset the buffer
667                     s->buf_ptr = s->buffer;
668                     s->buf_end = s->buffer/* + len*/;
669                 }
670             } else {
671                 fill_buffer(s);
672                 len = s->buf_end - s->buf_ptr;
673                 if (len == 0)
674                     break;
675             }
676         } else {
677             memcpy(buf, s->buf_ptr, len);
678             buf += len;
679             s->buf_ptr += len;
680             size -= len;
681         }
682     }
683     if (size1 == size) {
684         if (s->error)      return s->error;
685         if (avio_feof(s))  return AVERROR_EOF;
686     }
687     return size1 - size;
688 }
689
690 int ffio_read_size(AVIOContext *s, unsigned char *buf, int size)
691 {
692     int ret = avio_read(s, buf, size);
693     if (ret != size)
694         return AVERROR_INVALIDDATA;
695     return ret;
696 }
697
698 int ffio_read_indirect(AVIOContext *s, unsigned char *buf, int size, const unsigned char **data)
699 {
700     if (s->buf_end - s->buf_ptr >= size && !s->write_flag) {
701         *data = s->buf_ptr;
702         s->buf_ptr += size;
703         return size;
704     } else {
705         *data = buf;
706         return avio_read(s, buf, size);
707     }
708 }
709
710 int avio_read_partial(AVIOContext *s, unsigned char *buf, int size)
711 {
712     int len;
713
714     if (size < 0)
715         return -1;
716
717     if (s->read_packet && s->write_flag) {
718         len = s->read_packet(s->opaque, buf, size);
719         if (len > 0)
720             s->pos += len;
721         return len;
722     }
723
724     len = s->buf_end - s->buf_ptr;
725     if (len == 0) {
726         /* Reset the buf_end pointer to the start of the buffer, to make sure
727          * the fill_buffer call tries to read as much data as fits into the
728          * full buffer, instead of just what space is left after buf_end.
729          * This avoids returning partial packets at the end of the buffer,
730          * for packet based inputs.
731          */
732         s->buf_end = s->buf_ptr = s->buffer;
733         fill_buffer(s);
734         len = s->buf_end - s->buf_ptr;
735     }
736     if (len > size)
737         len = size;
738     memcpy(buf, s->buf_ptr, len);
739     s->buf_ptr += len;
740     if (!len) {
741         if (s->error)      return s->error;
742         if (avio_feof(s))  return AVERROR_EOF;
743     }
744     return len;
745 }
746
747 unsigned int avio_rl16(AVIOContext *s)
748 {
749     unsigned int val;
750     val = avio_r8(s);
751     val |= avio_r8(s) << 8;
752     return val;
753 }
754
755 unsigned int avio_rl24(AVIOContext *s)
756 {
757     unsigned int val;
758     val = avio_rl16(s);
759     val |= avio_r8(s) << 16;
760     return val;
761 }
762
763 unsigned int avio_rl32(AVIOContext *s)
764 {
765     unsigned int val;
766     val = avio_rl16(s);
767     val |= avio_rl16(s) << 16;
768     return val;
769 }
770
771 uint64_t avio_rl64(AVIOContext *s)
772 {
773     uint64_t val;
774     val = (uint64_t)avio_rl32(s);
775     val |= (uint64_t)avio_rl32(s) << 32;
776     return val;
777 }
778
779 unsigned int avio_rb16(AVIOContext *s)
780 {
781     unsigned int val;
782     val = avio_r8(s) << 8;
783     val |= avio_r8(s);
784     return val;
785 }
786
787 unsigned int avio_rb24(AVIOContext *s)
788 {
789     unsigned int val;
790     val = avio_rb16(s) << 8;
791     val |= avio_r8(s);
792     return val;
793 }
794 unsigned int avio_rb32(AVIOContext *s)
795 {
796     unsigned int val;
797     val = avio_rb16(s) << 16;
798     val |= avio_rb16(s);
799     return val;
800 }
801
802 int ff_get_line(AVIOContext *s, char *buf, int maxlen)
803 {
804     int i = 0;
805     char c;
806
807     do {
808         c = avio_r8(s);
809         if (c && i < maxlen-1)
810             buf[i++] = c;
811     } while (c != '\n' && c != '\r' && c);
812     if (c == '\r' && avio_r8(s) != '\n' && !avio_feof(s))
813         avio_skip(s, -1);
814
815     buf[i] = 0;
816     return i;
817 }
818
819 int avio_get_str(AVIOContext *s, int maxlen, char *buf, int buflen)
820 {
821     int i;
822
823     if (buflen <= 0)
824         return AVERROR(EINVAL);
825     // reserve 1 byte for terminating 0
826     buflen = FFMIN(buflen - 1, maxlen);
827     for (i = 0; i < buflen; i++)
828         if (!(buf[i] = avio_r8(s)))
829             return i + 1;
830     buf[i] = 0;
831     for (; i < maxlen; i++)
832         if (!avio_r8(s))
833             return i + 1;
834     return maxlen;
835 }
836
837 #define GET_STR16(type, read) \
838     int avio_get_str16 ##type(AVIOContext *pb, int maxlen, char *buf, int buflen)\
839 {\
840     char* q = buf;\
841     int ret = 0;\
842     if (buflen <= 0) \
843         return AVERROR(EINVAL); \
844     while (ret + 1 < maxlen) {\
845         uint8_t tmp;\
846         uint32_t ch;\
847         GET_UTF16(ch, (ret += 2) <= maxlen ? read(pb) : 0, break;)\
848         if (!ch)\
849             break;\
850         PUT_UTF8(ch, tmp, if (q - buf < buflen - 1) *q++ = tmp;)\
851     }\
852     *q = 0;\
853     return ret;\
854 }\
855
856 GET_STR16(le, avio_rl16)
857 GET_STR16(be, avio_rb16)
858
859 #undef GET_STR16
860
861 uint64_t avio_rb64(AVIOContext *s)
862 {
863     uint64_t val;
864     val = (uint64_t)avio_rb32(s) << 32;
865     val |= (uint64_t)avio_rb32(s);
866     return val;
867 }
868
869 uint64_t ffio_read_varlen(AVIOContext *bc){
870     uint64_t val = 0;
871     int tmp;
872
873     do{
874         tmp = avio_r8(bc);
875         val= (val<<7) + (tmp&127);
876     }while(tmp&128);
877     return val;
878 }
879
880 static int io_read_packet(void *opaque, uint8_t *buf, int buf_size)
881 {
882     AVIOInternal *internal = opaque;
883     return ffurl_read(internal->h, buf, buf_size);
884 }
885
886 static int io_write_packet(void *opaque, uint8_t *buf, int buf_size)
887 {
888     AVIOInternal *internal = opaque;
889     return ffurl_write(internal->h, buf, buf_size);
890 }
891
892 static int64_t io_seek(void *opaque, int64_t offset, int whence)
893 {
894     AVIOInternal *internal = opaque;
895     return ffurl_seek(internal->h, offset, whence);
896 }
897
898 static int io_short_seek(void *opaque)
899 {
900     AVIOInternal *internal = opaque;
901     return ffurl_get_short_seek(internal->h);
902 }
903
904 static int io_read_pause(void *opaque, int pause)
905 {
906     AVIOInternal *internal = opaque;
907     if (!internal->h->prot->url_read_pause)
908         return AVERROR(ENOSYS);
909     return internal->h->prot->url_read_pause(internal->h, pause);
910 }
911
912 static int64_t io_read_seek(void *opaque, int stream_index, int64_t timestamp, int flags)
913 {
914     AVIOInternal *internal = opaque;
915     if (!internal->h->prot->url_read_seek)
916         return AVERROR(ENOSYS);
917     return internal->h->prot->url_read_seek(internal->h, stream_index, timestamp, flags);
918 }
919
920 int ffio_fdopen(AVIOContext **s, URLContext *h)
921 {
922     AVIOInternal *internal = NULL;
923     uint8_t *buffer = NULL;
924     int buffer_size, max_packet_size;
925
926     max_packet_size = h->max_packet_size;
927     if (max_packet_size) {
928         buffer_size = max_packet_size; /* no need to bufferize more than one packet */
929     } else {
930         buffer_size = IO_BUFFER_SIZE;
931     }
932     buffer = av_malloc(buffer_size);
933     if (!buffer)
934         return AVERROR(ENOMEM);
935
936     internal = av_mallocz(sizeof(*internal));
937     if (!internal)
938         goto fail;
939
940     internal->h = h;
941
942     *s = avio_alloc_context(buffer, buffer_size, h->flags & AVIO_FLAG_WRITE,
943                             internal, io_read_packet, io_write_packet, io_seek);
944     if (!*s)
945         goto fail;
946
947     (*s)->protocol_whitelist = av_strdup(h->protocol_whitelist);
948     if (!(*s)->protocol_whitelist && h->protocol_whitelist) {
949         avio_closep(s);
950         goto fail;
951     }
952     (*s)->protocol_blacklist = av_strdup(h->protocol_blacklist);
953     if (!(*s)->protocol_blacklist && h->protocol_blacklist) {
954         avio_closep(s);
955         goto fail;
956     }
957     (*s)->direct = h->flags & AVIO_FLAG_DIRECT;
958
959     (*s)->seekable = h->is_streamed ? 0 : AVIO_SEEKABLE_NORMAL;
960     (*s)->max_packet_size = max_packet_size;
961     (*s)->min_packet_size = h->min_packet_size;
962     if(h->prot) {
963         (*s)->read_pause = io_read_pause;
964         (*s)->read_seek  = io_read_seek;
965
966         if (h->prot->url_read_seek)
967             (*s)->seekable |= AVIO_SEEKABLE_TIME;
968     }
969     (*s)->short_seek_get = io_short_seek;
970     (*s)->av_class = &ff_avio_class;
971     return 0;
972 fail:
973     av_freep(&internal);
974     av_freep(&buffer);
975     return AVERROR(ENOMEM);
976 }
977
978 int ffio_ensure_seekback(AVIOContext *s, int64_t buf_size)
979 {
980     uint8_t *buffer;
981     int max_buffer_size = s->max_packet_size ?
982                           s->max_packet_size : IO_BUFFER_SIZE;
983     int filled = s->buf_end - s->buffer;
984     ptrdiff_t checksum_ptr_offset = s->checksum_ptr ? s->checksum_ptr - s->buffer : -1;
985
986     buf_size += s->buf_ptr - s->buffer + max_buffer_size;
987
988     if (buf_size < filled || s->seekable || !s->read_packet)
989         return 0;
990     av_assert0(!s->write_flag);
991
992     buffer = av_malloc(buf_size);
993     if (!buffer)
994         return AVERROR(ENOMEM);
995
996     memcpy(buffer, s->buffer, filled);
997     av_free(s->buffer);
998     s->buf_ptr = buffer + (s->buf_ptr - s->buffer);
999     s->buf_end = buffer + (s->buf_end - s->buffer);
1000     s->buffer = buffer;
1001     s->buffer_size = buf_size;
1002     if (checksum_ptr_offset >= 0)
1003         s->checksum_ptr = s->buffer + checksum_ptr_offset;
1004     return 0;
1005 }
1006
1007 int ffio_set_buf_size(AVIOContext *s, int buf_size)
1008 {
1009     uint8_t *buffer;
1010     buffer = av_malloc(buf_size);
1011     if (!buffer)
1012         return AVERROR(ENOMEM);
1013
1014     av_free(s->buffer);
1015     s->buffer = buffer;
1016     s->orig_buffer_size =
1017     s->buffer_size = buf_size;
1018     s->buf_ptr = s->buf_ptr_max = buffer;
1019     url_resetbuf(s, s->write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
1020     return 0;
1021 }
1022
1023 static int url_resetbuf(AVIOContext *s, int flags)
1024 {
1025     av_assert1(flags == AVIO_FLAG_WRITE || flags == AVIO_FLAG_READ);
1026
1027     if (flags & AVIO_FLAG_WRITE) {
1028         s->buf_end = s->buffer + s->buffer_size;
1029         s->write_flag = 1;
1030     } else {
1031         s->buf_end = s->buffer;
1032         s->write_flag = 0;
1033     }
1034     return 0;
1035 }
1036
1037 int ffio_rewind_with_probe_data(AVIOContext *s, unsigned char **bufp, int buf_size)
1038 {
1039     int64_t buffer_start;
1040     int buffer_size;
1041     int overlap, new_size, alloc_size;
1042     uint8_t *buf = *bufp;
1043
1044     if (s->write_flag) {
1045         av_freep(bufp);
1046         return AVERROR(EINVAL);
1047     }
1048
1049     buffer_size = s->buf_end - s->buffer;
1050
1051     /* the buffers must touch or overlap */
1052     if ((buffer_start = s->pos - buffer_size) > buf_size) {
1053         av_freep(bufp);
1054         return AVERROR(EINVAL);
1055     }
1056
1057     overlap = buf_size - buffer_start;
1058     new_size = buf_size + buffer_size - overlap;
1059
1060     alloc_size = FFMAX(s->buffer_size, new_size);
1061     if (alloc_size > buf_size)
1062         if (!(buf = (*bufp) = av_realloc_f(buf, 1, alloc_size)))
1063             return AVERROR(ENOMEM);
1064
1065     if (new_size > buf_size) {
1066         memcpy(buf + buf_size, s->buffer + overlap, buffer_size - overlap);
1067         buf_size = new_size;
1068     }
1069
1070     av_free(s->buffer);
1071     s->buf_ptr = s->buffer = buf;
1072     s->buffer_size = alloc_size;
1073     s->pos = buf_size;
1074     s->buf_end = s->buf_ptr + buf_size;
1075     s->eof_reached = 0;
1076
1077     return 0;
1078 }
1079
1080 int avio_open(AVIOContext **s, const char *filename, int flags)
1081 {
1082     return avio_open2(s, filename, flags, NULL, NULL);
1083 }
1084
1085 int ffio_open_whitelist(AVIOContext **s, const char *filename, int flags,
1086                          const AVIOInterruptCB *int_cb, AVDictionary **options,
1087                          const char *whitelist, const char *blacklist
1088                         )
1089 {
1090     URLContext *h;
1091     int err;
1092
1093     err = ffurl_open_whitelist(&h, filename, flags, int_cb, options, whitelist, blacklist, NULL);
1094     if (err < 0)
1095         return err;
1096     err = ffio_fdopen(s, h);
1097     if (err < 0) {
1098         ffurl_close(h);
1099         return err;
1100     }
1101     return 0;
1102 }
1103
1104 int avio_open2(AVIOContext **s, const char *filename, int flags,
1105                const AVIOInterruptCB *int_cb, AVDictionary **options)
1106 {
1107     return ffio_open_whitelist(s, filename, flags, int_cb, options, NULL, NULL);
1108 }
1109
1110 int ffio_open2_wrapper(struct AVFormatContext *s, AVIOContext **pb, const char *url, int flags,
1111                        const AVIOInterruptCB *int_cb, AVDictionary **options)
1112 {
1113     return ffio_open_whitelist(pb, url, flags, int_cb, options, s->protocol_whitelist, s->protocol_blacklist);
1114 }
1115
1116 int avio_close(AVIOContext *s)
1117 {
1118     AVIOInternal *internal;
1119     URLContext *h;
1120
1121     if (!s)
1122         return 0;
1123
1124     avio_flush(s);
1125     internal = s->opaque;
1126     h        = internal->h;
1127
1128     av_freep(&s->opaque);
1129     av_freep(&s->buffer);
1130     if (s->write_flag)
1131         av_log(s, AV_LOG_DEBUG, "Statistics: %d seeks, %d writeouts\n", s->seek_count, s->writeout_count);
1132     else
1133         av_log(s, AV_LOG_DEBUG, "Statistics: %"PRId64" bytes read, %d seeks\n", s->bytes_read, s->seek_count);
1134     av_opt_free(s);
1135
1136     avio_context_free(&s);
1137
1138     return ffurl_close(h);
1139 }
1140
1141 int avio_closep(AVIOContext **s)
1142 {
1143     int ret = avio_close(*s);
1144     *s = NULL;
1145     return ret;
1146 }
1147
1148 int avio_printf(AVIOContext *s, const char *fmt, ...)
1149 {
1150     va_list ap;
1151     char buf[4096]; /* update doc entry in avio.h if changed */
1152     int ret;
1153
1154     va_start(ap, fmt);
1155     ret = vsnprintf(buf, sizeof(buf), fmt, ap);
1156     va_end(ap);
1157     avio_write(s, buf, strlen(buf));
1158     return ret;
1159 }
1160
1161 int avio_pause(AVIOContext *s, int pause)
1162 {
1163     if (!s->read_pause)
1164         return AVERROR(ENOSYS);
1165     return s->read_pause(s->opaque, pause);
1166 }
1167
1168 int64_t avio_seek_time(AVIOContext *s, int stream_index,
1169                        int64_t timestamp, int flags)
1170 {
1171     int64_t ret;
1172     if (!s->read_seek)
1173         return AVERROR(ENOSYS);
1174     ret = s->read_seek(s->opaque, stream_index, timestamp, flags);
1175     if (ret >= 0) {
1176         int64_t pos;
1177         s->buf_ptr = s->buf_end; // Flush buffer
1178         pos = s->seek(s->opaque, 0, SEEK_CUR);
1179         if (pos >= 0)
1180             s->pos = pos;
1181         else if (pos != AVERROR(ENOSYS))
1182             ret = pos;
1183     }
1184     return ret;
1185 }
1186
1187 int avio_read_to_bprint(AVIOContext *h, AVBPrint *pb, size_t max_size)
1188 {
1189     int ret;
1190     char buf[1024];
1191     while (max_size) {
1192         ret = avio_read(h, buf, FFMIN(max_size, sizeof(buf)));
1193         if (ret == AVERROR_EOF)
1194             return 0;
1195         if (ret <= 0)
1196             return ret;
1197         av_bprint_append_data(pb, buf, ret);
1198         if (!av_bprint_is_complete(pb))
1199             return AVERROR(ENOMEM);
1200         max_size -= ret;
1201     }
1202     return 0;
1203 }
1204
1205 int avio_accept(AVIOContext *s, AVIOContext **c)
1206 {
1207     int ret;
1208     AVIOInternal *internal = s->opaque;
1209     URLContext *sc = internal->h;
1210     URLContext *cc = NULL;
1211     ret = ffurl_accept(sc, &cc);
1212     if (ret < 0)
1213         return ret;
1214     return ffio_fdopen(c, cc);
1215 }
1216
1217 int avio_handshake(AVIOContext *c)
1218 {
1219     AVIOInternal *internal = c->opaque;
1220     URLContext *cc = internal->h;
1221     return ffurl_handshake(cc);
1222 }
1223
1224 /* output in a dynamic buffer */
1225
1226 typedef struct DynBuffer {
1227     int pos, size, allocated_size;
1228     uint8_t *buffer;
1229     int io_buffer_size;
1230     uint8_t io_buffer[1];
1231 } DynBuffer;
1232
1233 static int dyn_buf_write(void *opaque, uint8_t *buf, int buf_size)
1234 {
1235     DynBuffer *d = opaque;
1236     unsigned new_size, new_allocated_size;
1237
1238     /* reallocate buffer if needed */
1239     new_size = d->pos + buf_size;
1240     new_allocated_size = d->allocated_size;
1241     if (new_size < d->pos || new_size > INT_MAX/2)
1242         return -1;
1243     while (new_size > new_allocated_size) {
1244         if (!new_allocated_size)
1245             new_allocated_size = new_size;
1246         else
1247             new_allocated_size += new_allocated_size / 2 + 1;
1248     }
1249
1250     if (new_allocated_size > d->allocated_size) {
1251         int err;
1252         if ((err = av_reallocp(&d->buffer, new_allocated_size)) < 0) {
1253             d->allocated_size = 0;
1254             d->size = 0;
1255             return err;
1256         }
1257         d->allocated_size = new_allocated_size;
1258     }
1259     memcpy(d->buffer + d->pos, buf, buf_size);
1260     d->pos = new_size;
1261     if (d->pos > d->size)
1262         d->size = d->pos;
1263     return buf_size;
1264 }
1265
1266 static int dyn_packet_buf_write(void *opaque, uint8_t *buf, int buf_size)
1267 {
1268     unsigned char buf1[4];
1269     int ret;
1270
1271     /* packetized write: output the header */
1272     AV_WB32(buf1, buf_size);
1273     ret = dyn_buf_write(opaque, buf1, 4);
1274     if (ret < 0)
1275         return ret;
1276
1277     /* then the data */
1278     return dyn_buf_write(opaque, buf, buf_size);
1279 }
1280
1281 static int64_t dyn_buf_seek(void *opaque, int64_t offset, int whence)
1282 {
1283     DynBuffer *d = opaque;
1284
1285     if (whence == SEEK_CUR)
1286         offset += d->pos;
1287     else if (whence == SEEK_END)
1288         offset += d->size;
1289     if (offset < 0 || offset > 0x7fffffffLL)
1290         return -1;
1291     d->pos = offset;
1292     return 0;
1293 }
1294
1295 static int url_open_dyn_buf_internal(AVIOContext **s, int max_packet_size)
1296 {
1297     DynBuffer *d;
1298     unsigned io_buffer_size = max_packet_size ? max_packet_size : 1024;
1299
1300     if (sizeof(DynBuffer) + io_buffer_size < io_buffer_size)
1301         return -1;
1302     d = av_mallocz(sizeof(DynBuffer) + io_buffer_size);
1303     if (!d)
1304         return AVERROR(ENOMEM);
1305     d->io_buffer_size = io_buffer_size;
1306     *s = avio_alloc_context(d->io_buffer, d->io_buffer_size, 1, d, NULL,
1307                             max_packet_size ? dyn_packet_buf_write : dyn_buf_write,
1308                             max_packet_size ? NULL : dyn_buf_seek);
1309     if(!*s) {
1310         av_free(d);
1311         return AVERROR(ENOMEM);
1312     }
1313     (*s)->max_packet_size = max_packet_size;
1314     return 0;
1315 }
1316
1317 int avio_open_dyn_buf(AVIOContext **s)
1318 {
1319     return url_open_dyn_buf_internal(s, 0);
1320 }
1321
1322 int ffio_open_dyn_packet_buf(AVIOContext **s, int max_packet_size)
1323 {
1324     if (max_packet_size <= 0)
1325         return -1;
1326     return url_open_dyn_buf_internal(s, max_packet_size);
1327 }
1328
1329 int avio_get_dyn_buf(AVIOContext *s, uint8_t **pbuffer)
1330 {
1331     DynBuffer *d;
1332
1333     if (!s) {
1334         *pbuffer = NULL;
1335         return 0;
1336     }
1337
1338     avio_flush(s);
1339
1340     d = s->opaque;
1341     *pbuffer = d->buffer;
1342
1343     return d->size;
1344 }
1345
1346 int avio_close_dyn_buf(AVIOContext *s, uint8_t **pbuffer)
1347 {
1348     DynBuffer *d;
1349     int size;
1350     static const char padbuf[AV_INPUT_BUFFER_PADDING_SIZE] = {0};
1351     int padding = 0;
1352
1353     if (!s) {
1354         *pbuffer = NULL;
1355         return 0;
1356     }
1357
1358     /* don't attempt to pad fixed-size packet buffers */
1359     if (!s->max_packet_size) {
1360         avio_write(s, padbuf, sizeof(padbuf));
1361         padding = AV_INPUT_BUFFER_PADDING_SIZE;
1362     }
1363
1364     avio_flush(s);
1365
1366     d = s->opaque;
1367     *pbuffer = d->buffer;
1368     size = d->size;
1369     av_free(d);
1370
1371     avio_context_free(&s);
1372
1373     return size - padding;
1374 }
1375
1376 void ffio_free_dyn_buf(AVIOContext **s)
1377 {
1378     uint8_t *tmp;
1379     if (!*s)
1380         return;
1381     avio_close_dyn_buf(*s, &tmp);
1382     av_free(tmp);
1383     *s = NULL;
1384 }
1385
1386 static int null_buf_write(void *opaque, uint8_t *buf, int buf_size)
1387 {
1388     DynBuffer *d = opaque;
1389
1390     d->pos += buf_size;
1391     if (d->pos > d->size)
1392         d->size = d->pos;
1393     return buf_size;
1394 }
1395
1396 int ffio_open_null_buf(AVIOContext **s)
1397 {
1398     int ret = url_open_dyn_buf_internal(s, 0);
1399     if (ret >= 0) {
1400         AVIOContext *pb = *s;
1401         pb->write_packet = null_buf_write;
1402     }
1403     return ret;
1404 }
1405
1406 int ffio_close_null_buf(AVIOContext *s)
1407 {
1408     DynBuffer *d = s->opaque;
1409     int size;
1410
1411     avio_flush(s);
1412
1413     size = d->size;
1414     av_free(d);
1415
1416     avio_context_free(&s);
1417
1418     return size;
1419 }