git.sesse.net Git - ffmpeg/blob - libavformat/aviobuf.c

   1 /*
   2  * buffered I/O
   3  * Copyright (c) 2000,2001 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/bprint.h"
  23 #include "libavutil/crc.h"
  24 #include "libavutil/dict.h"
  25 #include "libavutil/intreadwrite.h"
  26 #include "libavutil/log.h"
  27 #include "libavutil/opt.h"
  28 #include "libavutil/avassert.h"
  29 #include "avformat.h"
  30 #include "avio.h"
  31 #include "avio_internal.h"
  32 #include "internal.h"
  33 #include "url.h"
  34 #include <stdarg.h>
  35
  36 #define IO_BUFFER_SIZE 32768
  37
  38 /**
  39  * Do seeks within this distance ahead of the current buffer by skipping
  40  * data instead of calling the protocol seek function, for seekable
  41  * protocols.
  42  */
  43 #define SHORT_SEEK_THRESHOLD 4096
  44
  45 static void *ff_avio_child_next(void *obj, void *prev)
  46 {
  47     AVIOContext *s = obj;
  48     AVIOInternal *internal = s->opaque;
  49     return prev ? NULL : internal->h;
  50 }
  51
  52 static const AVClass *ff_avio_child_class_next(const AVClass *prev)
  53 {
  54     return prev ? NULL : &ffurl_context_class;
  55 }
  56
  57 #define OFFSET(x) offsetof(AVIOContext,x)
  58 #define E AV_OPT_FLAG_ENCODING_PARAM
  59 #define D AV_OPT_FLAG_DECODING_PARAM
  60 static const AVOption ff_avio_options[] = {
  61     {"protocol_whitelist", "List of protocols that are allowed to be used", OFFSET(protocol_whitelist), AV_OPT_TYPE_STRING, { .str = NULL },  CHAR_MIN, CHAR_MAX, D },
  62     { NULL },
  63 };
  64
  65 const AVClass ff_avio_class = {
  66     .class_name = "AVIOContext",
  67     .item_name  = av_default_item_name,
  68     .version    = LIBAVUTIL_VERSION_INT,
  69     .option     = ff_avio_options,
  70     .child_next = ff_avio_child_next,
  71     .child_class_next = ff_avio_child_class_next,
  72 };
  73
  74 static void fill_buffer(AVIOContext *s);
  75 static int url_resetbuf(AVIOContext *s, int flags);
  76
  77 int ffio_init_context(AVIOContext *s,
  78                   unsigned char *buffer,
  79                   int buffer_size,
  80                   int write_flag,
  81                   void *opaque,
  82                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
  83                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
  84                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
  85 {
  86     s->buffer      = buffer;
  87     s->orig_buffer_size =
  88     s->buffer_size = buffer_size;
  89     s->buf_ptr     = buffer;
  90     s->opaque      = opaque;
  91     s->direct      = 0;
  92
  93     url_resetbuf(s, write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
  94
  95     s->write_packet    = write_packet;
  96     s->read_packet     = read_packet;
  97     s->seek            = seek;
  98     s->pos             = 0;
  99     s->must_flush      = 0;
 100     s->eof_reached     = 0;
 101     s->error           = 0;
 102     s->seekable        = seek ? AVIO_SEEKABLE_NORMAL : 0;
 103     s->max_packet_size = 0;
 104     s->update_checksum = NULL;
 105     s->short_seek_threshold = SHORT_SEEK_THRESHOLD;
 106
 107     if (!read_packet && !write_flag) {
 108         s->pos     = buffer_size;
 109         s->buf_end = s->buffer + buffer_size;
 110     }
 111     s->read_pause = NULL;
 112     s->read_seek  = NULL;
 113
 114     return 0;
 115 }
 116
 117 AVIOContext *avio_alloc_context(
 118                   unsigned char *buffer,
 119                   int buffer_size,
 120                   int write_flag,
 121                   void *opaque,
 122                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
 123                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
 124                   int64_t (*seek)(void *opaque, int64_t offset, int whence))
 125 {
 126     AVIOContext *s = av_mallocz(sizeof(AVIOContext));
 127     if (!s)
 128         return NULL;
 129     ffio_init_context(s, buffer, buffer_size, write_flag, opaque,
 130                   read_packet, write_packet, seek);
 131     return s;
 132 }
 133
 134 static void writeout(AVIOContext *s, const uint8_t *data, int len)
 135 {
 136     if (s->write_packet && !s->error) {
 137         int ret = s->write_packet(s->opaque, (uint8_t *)data, len);
 138         if (ret < 0) {
 139             s->error = ret;
 140         }
 141     }
 142     s->writeout_count ++;
 143     s->pos += len;
 144 }
 145
 146 static void flush_buffer(AVIOContext *s)
 147 {
 148     if (s->write_flag && s->buf_ptr > s->buffer) {
 149         writeout(s, s->buffer, s->buf_ptr - s->buffer);
 150         if (s->update_checksum) {
 151             s->checksum     = s->update_checksum(s->checksum, s->checksum_ptr,
 152                                                  s->buf_ptr - s->checksum_ptr);
 153             s->checksum_ptr = s->buffer;
 154         }
 155     }
 156     s->buf_ptr = s->buffer;
 157     if (!s->write_flag)
 158         s->buf_end = s->buffer;
 159 }
 160
 161 void avio_w8(AVIOContext *s, int b)
 162 {
 163     av_assert2(b>=-128 && b<=255);
 164     *s->buf_ptr++ = b;
 165     if (s->buf_ptr >= s->buf_end)
 166         flush_buffer(s);
 167 }
 168
 169 void ffio_fill(AVIOContext *s, int b, int count)
 170 {
 171     while (count > 0) {
 172         int len = FFMIN(s->buf_end - s->buf_ptr, count);
 173         memset(s->buf_ptr, b, len);
 174         s->buf_ptr += len;
 175
 176         if (s->buf_ptr >= s->buf_end)
 177             flush_buffer(s);
 178
 179         count -= len;
 180     }
 181 }
 182
 183 void avio_write(AVIOContext *s, const unsigned char *buf, int size)
 184 {
 185     if (s->direct && !s->update_checksum) {
 186         avio_flush(s);
 187         writeout(s, buf, size);
 188         return;
 189     }
 190     while (size > 0) {
 191         int len = FFMIN(s->buf_end - s->buf_ptr, size);
 192         memcpy(s->buf_ptr, buf, len);
 193         s->buf_ptr += len;
 194
 195         if (s->buf_ptr >= s->buf_end)
 196             flush_buffer(s);
 197
 198         buf += len;
 199         size -= len;
 200     }
 201 }
 202
 203 void avio_flush(AVIOContext *s)
 204 {
 205     flush_buffer(s);
 206     s->must_flush = 0;
 207 }
 208
 209 int64_t avio_seek(AVIOContext *s, int64_t offset, int whence)
 210 {
 211     int64_t offset1;
 212     int64_t pos;
 213     int force = whence & AVSEEK_FORCE;
 214     int buffer_size;
 215     whence &= ~AVSEEK_FORCE;
 216
 217     if(!s)
 218         return AVERROR(EINVAL);
 219
 220     buffer_size = s->buf_end - s->buffer;
 221     // pos is the absolute position that the beginning of s->buffer corresponds to in the file
 222     pos = s->pos - (s->write_flag ? 0 : buffer_size);
 223
 224     if (whence != SEEK_CUR && whence != SEEK_SET)
 225         return AVERROR(EINVAL);
 226
 227     if (whence == SEEK_CUR) {
 228         offset1 = pos + (s->buf_ptr - s->buffer);
 229         if (offset == 0)
 230             return offset1;
 231         offset += offset1;
 232     }
 233     if (offset < 0)
 234         return AVERROR(EINVAL);
 235
 236     offset1 = offset - pos; // "offset1" is the relative offset from the beginning of s->buffer
 237     if (!s->must_flush && (!s->direct || !s->seek) &&
 238         offset1 >= 0 && offset1 <= buffer_size - s->write_flag) {
 239         /* can do the seek inside the buffer */
 240         s->buf_ptr = s->buffer + offset1;
 241     } else if ((!s->seekable ||
 242                offset1 <= buffer_size + s->short_seek_threshold) &&
 243                !s->write_flag && offset1 >= 0 &&
 244                (!s->direct || !s->seek) &&
 245               (whence != SEEK_END || force)) {
 246         while(s->pos < offset && !s->eof_reached)
 247             fill_buffer(s);
 248         if (s->eof_reached)
 249             return AVERROR_EOF;
 250         s->buf_ptr = s->buf_end - (s->pos - offset);
 251     } else if(!s->write_flag && offset1 < 0 && -offset1 < buffer_size>>1 && s->seek && offset > 0) {
 252         int64_t res;
 253
 254         pos -= FFMIN(buffer_size>>1, pos);
 255         if ((res = s->seek(s->opaque, pos, SEEK_SET)) < 0)
 256             return res;
 257         s->buf_end =
 258         s->buf_ptr = s->buffer;
 259         s->pos = pos;
 260         s->eof_reached = 0;
 261         fill_buffer(s);
 262         return avio_seek(s, offset, SEEK_SET | force);
 263     } else {
 264         int64_t res;
 265         if (s->write_flag) {
 266             flush_buffer(s);
 267             s->must_flush = 1;
 268         }
 269         if (!s->seek)
 270             return AVERROR(EPIPE);
 271         if ((res = s->seek(s->opaque, offset, SEEK_SET)) < 0)
 272             return res;
 273         s->seek_count ++;
 274         if (!s->write_flag)
 275             s->buf_end = s->buffer;
 276         s->buf_ptr = s->buffer;
 277         s->pos = offset;
 278     }
 279     s->eof_reached = 0;
 280     return offset;
 281 }
 282
 283 int64_t avio_skip(AVIOContext *s, int64_t offset)
 284 {
 285     return avio_seek(s, offset, SEEK_CUR);
 286 }
 287
 288 int64_t avio_size(AVIOContext *s)
 289 {
 290     int64_t size;
 291
 292     if (!s)
 293         return AVERROR(EINVAL);
 294
 295     if (!s->seek)
 296         return AVERROR(ENOSYS);
 297     size = s->seek(s->opaque, 0, AVSEEK_SIZE);
 298     if (size < 0) {
 299         if ((size = s->seek(s->opaque, -1, SEEK_END)) < 0)
 300             return size;
 301         size++;
 302         s->seek(s->opaque, s->pos, SEEK_SET);
 303     }
 304     return size;
 305 }
 306
 307 int avio_feof(AVIOContext *s)
 308 {
 309     if(!s)
 310         return 0;
 311     if(s->eof_reached){
 312         s->eof_reached=0;
 313         fill_buffer(s);
 314     }
 315     return s->eof_reached;
 316 }
 317
 318 #if FF_API_URL_FEOF
 319 int url_feof(AVIOContext *s)
 320 {
 321     return avio_feof(s);
 322 }
 323 #endif
 324
 325 void avio_wl32(AVIOContext *s, unsigned int val)
 326 {
 327     avio_w8(s, (uint8_t) val       );
 328     avio_w8(s, (uint8_t)(val >> 8 ));
 329     avio_w8(s, (uint8_t)(val >> 16));
 330     avio_w8(s,           val >> 24 );
 331 }
 332
 333 void avio_wb32(AVIOContext *s, unsigned int val)
 334 {
 335     avio_w8(s,           val >> 24 );
 336     avio_w8(s, (uint8_t)(val >> 16));
 337     avio_w8(s, (uint8_t)(val >> 8 ));
 338     avio_w8(s, (uint8_t) val       );
 339 }
 340
 341 int avio_put_str(AVIOContext *s, const char *str)
 342 {
 343     int len = 1;
 344     if (str) {
 345         len += strlen(str);
 346         avio_write(s, (const unsigned char *) str, len);
 347     } else
 348         avio_w8(s, 0);
 349     return len;
 350 }
 351
 352 static inline int put_str16(AVIOContext *s, const char *str, const int be)
 353 {
 354     const uint8_t *q = str;
 355     int ret = 0;
 356     int err = 0;
 357
 358     while (*q) {
 359         uint32_t ch;
 360         uint16_t tmp;
 361
 362         GET_UTF8(ch, *q++, goto invalid;)
 363         PUT_UTF16(ch, tmp, be ? avio_wb16(s, tmp) : avio_wl16(s, tmp);
 364                   ret += 2;)
 365         continue;
 366 invalid:
 367         av_log(s, AV_LOG_ERROR, "Invaid UTF8 sequence in avio_put_str16%s\n", be ? "be" : "le");
 368         err = AVERROR(EINVAL);
 369         if (!*(q-1))
 370             break;
 371     }
 372     if (be)
 373         avio_wb16(s, 0);
 374     else
 375         avio_wl16(s, 0);
 376     if (err)
 377         return err;
 378     ret += 2;
 379     return ret;
 380 }
 381
 382 #define PUT_STR16(type, big_endian)                          \
 383 int avio_put_str16 ## type(AVIOContext *s, const char *str)  \
 384 {                                                            \
 385 return put_str16(s, str, big_endian);                        \
 386 }
 387
 388 PUT_STR16(le, 0)
 389 PUT_STR16(be, 1)
 390
 391 #undef PUT_STR16
 392
 393 int ff_get_v_length(uint64_t val)
 394 {
 395     int i = 1;
 396
 397     while (val >>= 7)
 398         i++;
 399
 400     return i;
 401 }
 402
 403 void ff_put_v(AVIOContext *bc, uint64_t val)
 404 {
 405     int i = ff_get_v_length(val);
 406
 407     while (--i > 0)
 408         avio_w8(bc, 128 | (uint8_t)(val >> (7*i)));
 409
 410     avio_w8(bc, val & 127);
 411 }
 412
 413 void avio_wl64(AVIOContext *s, uint64_t val)
 414 {
 415     avio_wl32(s, (uint32_t)(val & 0xffffffff));
 416     avio_wl32(s, (uint32_t)(val >> 32));
 417 }
 418
 419 void avio_wb64(AVIOContext *s, uint64_t val)
 420 {
 421     avio_wb32(s, (uint32_t)(val >> 32));
 422     avio_wb32(s, (uint32_t)(val & 0xffffffff));
 423 }
 424
 425 void avio_wl16(AVIOContext *s, unsigned int val)
 426 {
 427     avio_w8(s, (uint8_t)val);
 428     avio_w8(s, (int)val >> 8);
 429 }
 430
 431 void avio_wb16(AVIOContext *s, unsigned int val)
 432 {
 433     avio_w8(s, (int)val >> 8);
 434     avio_w8(s, (uint8_t)val);
 435 }
 436
 437 void avio_wl24(AVIOContext *s, unsigned int val)
 438 {
 439     avio_wl16(s, val & 0xffff);
 440     avio_w8(s, (int)val >> 16);
 441 }
 442
 443 void avio_wb24(AVIOContext *s, unsigned int val)
 444 {
 445     avio_wb16(s, (int)val >> 8);
 446     avio_w8(s, (uint8_t)val);
 447 }
 448
 449 /* Input stream */
 450
 451 static void fill_buffer(AVIOContext *s)
 452 {
 453     int max_buffer_size = s->max_packet_size ?
 454                           s->max_packet_size : IO_BUFFER_SIZE;
 455     uint8_t *dst        = s->buf_end - s->buffer + max_buffer_size < s->buffer_size ?
 456                           s->buf_end : s->buffer;
 457     int len             = s->buffer_size - (dst - s->buffer);
 458
 459     /* can't fill the buffer without read_packet, just set EOF if appropriate */
 460     if (!s->read_packet && s->buf_ptr >= s->buf_end)
 461         s->eof_reached = 1;
 462
 463     /* no need to do anything if EOF already reached */
 464     if (s->eof_reached)
 465         return;
 466
 467     if (s->update_checksum && dst == s->buffer) {
 468         if (s->buf_end > s->checksum_ptr)
 469             s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
 470                                              s->buf_end - s->checksum_ptr);
 471         s->checksum_ptr = s->buffer;
 472     }
 473
 474     /* make buffer smaller in case it ended up large after probing */
 475     if (s->read_packet && s->orig_buffer_size && s->buffer_size > s->orig_buffer_size) {
 476         if (dst == s->buffer) {
 477             int ret = ffio_set_buf_size(s, s->orig_buffer_size);
 478             if (ret < 0)
 479                 av_log(s, AV_LOG_WARNING, "Failed to decrease buffer size\n");
 480
 481             s->checksum_ptr = dst = s->buffer;
 482         }
 483         av_assert0(len >= s->orig_buffer_size);
 484         len = s->orig_buffer_size;
 485     }
 486
 487     if (s->read_packet)
 488         len = s->read_packet(s->opaque, dst, len);
 489     else
 490         len = 0;
 491     if (len <= 0) {
 492         /* do not modify buffer if EOF reached so that a seek back can
 493            be done without rereading data */
 494         s->eof_reached = 1;
 495         if (len < 0)
 496             s->error = len;
 497     } else {
 498         s->pos += len;
 499         s->buf_ptr = dst;
 500         s->buf_end = dst + len;
 501         s->bytes_read += len;
 502     }
 503 }
 504
 505 unsigned long ff_crc04C11DB7_update(unsigned long checksum, const uint8_t *buf,
 506                                     unsigned int len)
 507 {
 508     return av_crc(av_crc_get_table(AV_CRC_32_IEEE), checksum, buf, len);
 509 }
 510
 511 unsigned long ff_crcA001_update(unsigned long checksum, const uint8_t *buf,
 512                                 unsigned int len)
 513 {
 514     return av_crc(av_crc_get_table(AV_CRC_16_ANSI_LE), checksum, buf, len);
 515 }
 516
 517 unsigned long ffio_get_checksum(AVIOContext *s)
 518 {
 519     s->checksum = s->update_checksum(s->checksum, s->checksum_ptr,
 520                                      s->buf_ptr - s->checksum_ptr);
 521     s->update_checksum = NULL;
 522     return s->checksum;
 523 }
 524
 525 void ffio_init_checksum(AVIOContext *s,
 526                    unsigned long (*update_checksum)(unsigned long c, const uint8_t *p, unsigned int len),
 527                    unsigned long checksum)
 528 {
 529     s->update_checksum = update_checksum;
 530     if (s->update_checksum) {
 531         s->checksum     = checksum;
 532         s->checksum_ptr = s->buf_ptr;
 533     }
 534 }
 535
 536 /* XXX: put an inline version */
 537 int avio_r8(AVIOContext *s)
 538 {
 539     if (s->buf_ptr >= s->buf_end)
 540         fill_buffer(s);
 541     if (s->buf_ptr < s->buf_end)
 542         return *s->buf_ptr++;
 543     return 0;
 544 }
 545
 546 int avio_read(AVIOContext *s, unsigned char *buf, int size)
 547 {
 548     int len, size1;
 549
 550     size1 = size;
 551     while (size > 0) {
 552         len = FFMIN(s->buf_end - s->buf_ptr, size);
 553         if (len == 0 || s->write_flag) {
 554             if((s->direct || size > s->buffer_size) && !s->update_checksum) {
 555                 // bypass the buffer and read data directly into buf
 556                 if(s->read_packet)
 557                     len = s->read_packet(s->opaque, buf, size);
 558
 559                 if (len <= 0) {
 560                     /* do not modify buffer if EOF reached so that a seek back can
 561                     be done without rereading data */
 562                     s->eof_reached = 1;
 563                     if(len<0)
 564                         s->error= len;
 565                     break;
 566                 } else {
 567                     s->pos += len;
 568                     s->bytes_read += len;
 569                     size -= len;
 570                     buf += len;
 571                     // reset the buffer
 572                     s->buf_ptr = s->buffer;
 573                     s->buf_end = s->buffer/* + len*/;
 574                 }
 575             } else {
 576                 fill_buffer(s);
 577                 len = s->buf_end - s->buf_ptr;
 578                 if (len == 0)
 579                     break;
 580             }
 581         } else {
 582             memcpy(buf, s->buf_ptr, len);
 583             buf += len;
 584             s->buf_ptr += len;
 585             size -= len;
 586         }
 587     }
 588     if (size1 == size) {
 589         if (s->error)      return s->error;
 590         if (avio_feof(s))  return AVERROR_EOF;
 591     }
 592     return size1 - size;
 593 }
 594
 595 int ffio_read_size(AVIOContext *s, unsigned char *buf, int size)
 596 {
 597     int ret = avio_read(s, buf, size);
 598     if (ret != size)
 599         return AVERROR_INVALIDDATA;
 600     return ret;
 601 }
 602
 603 int ffio_read_indirect(AVIOContext *s, unsigned char *buf, int size, const unsigned char **data)
 604 {
 605     if (s->buf_end - s->buf_ptr >= size && !s->write_flag) {
 606         *data = s->buf_ptr;
 607         s->buf_ptr += size;
 608         return size;
 609     } else {
 610         *data = buf;
 611         return avio_read(s, buf, size);
 612     }
 613 }
 614
 615 int ffio_read_partial(AVIOContext *s, unsigned char *buf, int size)
 616 {
 617     int len;
 618
 619     if (size < 0)
 620         return -1;
 621
 622     if (s->read_packet && s->write_flag) {
 623         len = s->read_packet(s->opaque, buf, size);
 624         if (len > 0)
 625             s->pos += len;
 626         return len;
 627     }
 628
 629     len = s->buf_end - s->buf_ptr;
 630     if (len == 0) {
 631         /* Reset the buf_end pointer to the start of the buffer, to make sure
 632          * the fill_buffer call tries to read as much data as fits into the
 633          * full buffer, instead of just what space is left after buf_end.
 634          * This avoids returning partial packets at the end of the buffer,
 635          * for packet based inputs.
 636          */
 637         s->buf_end = s->buf_ptr = s->buffer;
 638         fill_buffer(s);
 639         len = s->buf_end - s->buf_ptr;
 640     }
 641     if (len > size)
 642         len = size;
 643     memcpy(buf, s->buf_ptr, len);
 644     s->buf_ptr += len;
 645     if (!len) {
 646         if (s->error)      return s->error;
 647         if (avio_feof(s))  return AVERROR_EOF;
 648     }
 649     return len;
 650 }
 651
 652 unsigned int avio_rl16(AVIOContext *s)
 653 {
 654     unsigned int val;
 655     val = avio_r8(s);
 656     val |= avio_r8(s) << 8;
 657     return val;
 658 }
 659
 660 unsigned int avio_rl24(AVIOContext *s)
 661 {
 662     unsigned int val;
 663     val = avio_rl16(s);
 664     val |= avio_r8(s) << 16;
 665     return val;
 666 }
 667
 668 unsigned int avio_rl32(AVIOContext *s)
 669 {
 670     unsigned int val;
 671     val = avio_rl16(s);
 672     val |= avio_rl16(s) << 16;
 673     return val;
 674 }
 675
 676 uint64_t avio_rl64(AVIOContext *s)
 677 {
 678     uint64_t val;
 679     val = (uint64_t)avio_rl32(s);
 680     val |= (uint64_t)avio_rl32(s) << 32;
 681     return val;
 682 }
 683
 684 unsigned int avio_rb16(AVIOContext *s)
 685 {
 686     unsigned int val;
 687     val = avio_r8(s) << 8;
 688     val |= avio_r8(s);
 689     return val;
 690 }
 691
 692 unsigned int avio_rb24(AVIOContext *s)
 693 {
 694     unsigned int val;
 695     val = avio_rb16(s) << 8;
 696     val |= avio_r8(s);
 697     return val;
 698 }
 699 unsigned int avio_rb32(AVIOContext *s)
 700 {
 701     unsigned int val;
 702     val = avio_rb16(s) << 16;
 703     val |= avio_rb16(s);
 704     return val;
 705 }
 706
 707 int ff_get_line(AVIOContext *s, char *buf, int maxlen)
 708 {
 709     int i = 0;
 710     char c;
 711
 712     do {
 713         c = avio_r8(s);
 714         if (c && i < maxlen-1)
 715             buf[i++] = c;
 716     } while (c != '\n' && c != '\r' && c);
 717     if (c == '\r' && avio_r8(s) != '\n' && !avio_feof(s))
 718         avio_skip(s, -1);
 719
 720     buf[i] = 0;
 721     return i;
 722 }
 723
 724 int avio_get_str(AVIOContext *s, int maxlen, char *buf, int buflen)
 725 {
 726     int i;
 727
 728     if (buflen <= 0)
 729         return AVERROR(EINVAL);
 730     // reserve 1 byte for terminating 0
 731     buflen = FFMIN(buflen - 1, maxlen);
 732     for (i = 0; i < buflen; i++)
 733         if (!(buf[i] = avio_r8(s)))
 734             return i + 1;
 735     buf[i] = 0;
 736     for (; i < maxlen; i++)
 737         if (!avio_r8(s))
 738             return i + 1;
 739     return maxlen;
 740 }
 741
 742 #define GET_STR16(type, read) \
 743     int avio_get_str16 ##type(AVIOContext *pb, int maxlen, char *buf, int buflen)\
 744 {\
 745     char* q = buf;\
 746     int ret = 0;\
 747     if (buflen <= 0) \
 748         return AVERROR(EINVAL); \
 749     while (ret + 1 < maxlen) {\
 750         uint8_t tmp;\
 751         uint32_t ch;\
 752         GET_UTF16(ch, (ret += 2) <= maxlen ? read(pb) : 0, break;)\
 753         if (!ch)\
 754             break;\
 755         PUT_UTF8(ch, tmp, if (q - buf < buflen - 1) *q++ = tmp;)\
 756     }\
 757     *q = 0;\
 758     return ret;\
 759 }\
 760
 761 GET_STR16(le, avio_rl16)
 762 GET_STR16(be, avio_rb16)
 763
 764 #undef GET_STR16
 765
 766 uint64_t avio_rb64(AVIOContext *s)
 767 {
 768     uint64_t val;
 769     val = (uint64_t)avio_rb32(s) << 32;
 770     val |= (uint64_t)avio_rb32(s);
 771     return val;
 772 }
 773
 774 uint64_t ffio_read_varlen(AVIOContext *bc){
 775     uint64_t val = 0;
 776     int tmp;
 777
 778     do{
 779         tmp = avio_r8(bc);
 780         val= (val<<7) + (tmp&127);
 781     }while(tmp&128);
 782     return val;
 783 }
 784
 785 static int io_read_packet(void *opaque, uint8_t *buf, int buf_size)
 786 {
 787     AVIOInternal *internal = opaque;
 788     return ffurl_read(internal->h, buf, buf_size);
 789 }
 790
 791 static int io_write_packet(void *opaque, uint8_t *buf, int buf_size)
 792 {
 793     AVIOInternal *internal = opaque;
 794     return ffurl_write(internal->h, buf, buf_size);
 795 }
 796
 797 static int64_t io_seek(void *opaque, int64_t offset, int whence)
 798 {
 799     AVIOInternal *internal = opaque;
 800     return ffurl_seek(internal->h, offset, whence);
 801 }
 802
 803 static int io_read_pause(void *opaque, int pause)
 804 {
 805     AVIOInternal *internal = opaque;
 806     if (!internal->h->prot->url_read_pause)
 807         return AVERROR(ENOSYS);
 808     return internal->h->prot->url_read_pause(internal->h, pause);
 809 }
 810
 811 static int64_t io_read_seek(void *opaque, int stream_index, int64_t timestamp, int flags)
 812 {
 813     AVIOInternal *internal = opaque;
 814     if (!internal->h->prot->url_read_seek)
 815         return AVERROR(ENOSYS);
 816     return internal->h->prot->url_read_seek(internal->h, stream_index, timestamp, flags);
 817 }
 818
 819 int ffio_fdopen(AVIOContext **s, URLContext *h)
 820 {
 821     AVIOInternal *internal = NULL;
 822     uint8_t *buffer = NULL;
 823     int buffer_size, max_packet_size;
 824
 825     max_packet_size = h->max_packet_size;
 826     if (max_packet_size) {
 827         buffer_size = max_packet_size; /* no need to bufferize more than one packet */
 828     } else {
 829         buffer_size = IO_BUFFER_SIZE;
 830     }
 831     buffer = av_malloc(buffer_size);
 832     if (!buffer)
 833         return AVERROR(ENOMEM);
 834
 835     internal = av_mallocz(sizeof(*internal));
 836     if (!internal)
 837         goto fail;
 838
 839     internal->h = h;
 840
 841     *s = avio_alloc_context(buffer, buffer_size, h->flags & AVIO_FLAG_WRITE,
 842                             internal, io_read_packet, io_write_packet, io_seek);
 843     if (!*s)
 844         goto fail;
 845
 846     (*s)->protocol_whitelist = av_strdup(h->protocol_whitelist);
 847     if (!(*s)->protocol_whitelist && h->protocol_whitelist) {
 848         avio_closep(s);
 849         goto fail;
 850     }
 851     (*s)->protocol_blacklist = av_strdup(h->protocol_blacklist);
 852     if (!(*s)->protocol_blacklist && h->protocol_blacklist) {
 853         avio_closep(s);
 854         goto fail;
 855     }
 856     (*s)->direct = h->flags & AVIO_FLAG_DIRECT;
 857
 858     (*s)->seekable = h->is_streamed ? 0 : AVIO_SEEKABLE_NORMAL;
 859     (*s)->max_packet_size = max_packet_size;
 860     if(h->prot) {
 861         (*s)->read_pause = io_read_pause;
 862         (*s)->read_seek  = io_read_seek;
 863     }
 864     (*s)->av_class = &ff_avio_class;
 865     return 0;
 866 fail:
 867     av_freep(&internal);
 868     av_freep(&buffer);
 869     return AVERROR(ENOMEM);
 870 }
 871
 872 int ffio_ensure_seekback(AVIOContext *s, int64_t buf_size)
 873 {
 874     uint8_t *buffer;
 875     int max_buffer_size = s->max_packet_size ?
 876                           s->max_packet_size : IO_BUFFER_SIZE;
 877     int filled = s->buf_end - s->buffer;
 878     ptrdiff_t checksum_ptr_offset = s->checksum_ptr ? s->checksum_ptr - s->buffer : -1;
 879
 880     buf_size += s->buf_ptr - s->buffer + max_buffer_size;
 881
 882     if (buf_size < filled || s->seekable || !s->read_packet)
 883         return 0;
 884     av_assert0(!s->write_flag);
 885
 886     buffer = av_malloc(buf_size);
 887     if (!buffer)
 888         return AVERROR(ENOMEM);
 889
 890     memcpy(buffer, s->buffer, filled);
 891     av_free(s->buffer);
 892     s->buf_ptr = buffer + (s->buf_ptr - s->buffer);
 893     s->buf_end = buffer + (s->buf_end - s->buffer);
 894     s->buffer = buffer;
 895     s->buffer_size = buf_size;
 896     if (checksum_ptr_offset >= 0)
 897         s->checksum_ptr = s->buffer + checksum_ptr_offset;
 898     return 0;
 899 }
 900
 901 int ffio_set_buf_size(AVIOContext *s, int buf_size)
 902 {
 903     uint8_t *buffer;
 904     buffer = av_malloc(buf_size);
 905     if (!buffer)
 906         return AVERROR(ENOMEM);
 907
 908     av_free(s->buffer);
 909     s->buffer = buffer;
 910     s->orig_buffer_size =
 911     s->buffer_size = buf_size;
 912     s->buf_ptr = buffer;
 913     url_resetbuf(s, s->write_flag ? AVIO_FLAG_WRITE : AVIO_FLAG_READ);
 914     return 0;
 915 }
 916
 917 static int url_resetbuf(AVIOContext *s, int flags)
 918 {
 919     av_assert1(flags == AVIO_FLAG_WRITE || flags == AVIO_FLAG_READ);
 920
 921     if (flags & AVIO_FLAG_WRITE) {
 922         s->buf_end = s->buffer + s->buffer_size;
 923         s->write_flag = 1;
 924     } else {
 925         s->buf_end = s->buffer;
 926         s->write_flag = 0;
 927     }
 928     return 0;
 929 }
 930
 931 int ffio_rewind_with_probe_data(AVIOContext *s, unsigned char **bufp, int buf_size)
 932 {
 933     int64_t buffer_start;
 934     int buffer_size;
 935     int overlap, new_size, alloc_size;
 936     uint8_t *buf = *bufp;
 937
 938     if (s->write_flag) {
 939         av_freep(bufp);
 940         return AVERROR(EINVAL);
 941     }
 942
 943     buffer_size = s->buf_end - s->buffer;
 944
 945     /* the buffers must touch or overlap */
 946     if ((buffer_start = s->pos - buffer_size) > buf_size) {
 947         av_freep(bufp);
 948         return AVERROR(EINVAL);
 949     }
 950
 951     overlap = buf_size - buffer_start;
 952     new_size = buf_size + buffer_size - overlap;
 953
 954     alloc_size = FFMAX(s->buffer_size, new_size);
 955     if (alloc_size > buf_size)
 956         if (!(buf = (*bufp) = av_realloc_f(buf, 1, alloc_size)))
 957             return AVERROR(ENOMEM);
 958
 959     if (new_size > buf_size) {
 960         memcpy(buf + buf_size, s->buffer + overlap, buffer_size - overlap);
 961         buf_size = new_size;
 962     }
 963
 964     av_free(s->buffer);
 965     s->buf_ptr = s->buffer = buf;
 966     s->buffer_size = alloc_size;
 967     s->pos = buf_size;
 968     s->buf_end = s->buf_ptr + buf_size;
 969     s->eof_reached = 0;
 970     s->must_flush = 0;
 971
 972     return 0;
 973 }
 974
 975 int avio_open(AVIOContext **s, const char *filename, int flags)
 976 {
 977     return avio_open2(s, filename, flags, NULL, NULL);
 978 }
 979
 980 int ffio_open_whitelist(AVIOContext **s, const char *filename, int flags,
 981                          const AVIOInterruptCB *int_cb, AVDictionary **options,
 982                          const char *whitelist, const char *blacklist
 983                         )
 984 {
 985     URLContext *h;
 986     int err;
 987
 988     err = ffurl_open_whitelist(&h, filename, flags, int_cb, options, whitelist, blacklist);
 989     if (err < 0)
 990         return err;
 991     err = ffio_fdopen(s, h);
 992     if (err < 0) {
 993         ffurl_close(h);
 994         return err;
 995     }
 996     return 0;
 997 }
 998
 999 int avio_open2(AVIOContext **s, const char *filename, int flags,
1000                const AVIOInterruptCB *int_cb, AVDictionary **options)
1001 {
1002     return ffio_open_whitelist(s, filename, flags, int_cb, options, NULL, NULL);
1003 }
1004
1005 int ffio_open2_wrapper(struct AVFormatContext *s, AVIOContext **pb, const char *url, int flags,
1006                        const AVIOInterruptCB *int_cb, AVDictionary **options)
1007 {
1008     return ffio_open_whitelist(pb, url, flags, int_cb, options, s->protocol_whitelist, s->protocol_blacklist);
1009 }
1010
1011 int avio_close(AVIOContext *s)
1012 {
1013     AVIOInternal *internal;
1014     URLContext *h;
1015
1016     if (!s)
1017         return 0;
1018
1019     avio_flush(s);
1020     internal = s->opaque;
1021     h        = internal->h;
1022
1023     av_freep(&s->opaque);
1024     av_freep(&s->buffer);
1025     if (s->write_flag)
1026         av_log(s, AV_LOG_DEBUG, "Statistics: %d seeks, %d writeouts\n", s->seek_count, s->writeout_count);
1027     else
1028         av_log(s, AV_LOG_DEBUG, "Statistics: %"PRId64" bytes read, %d seeks\n", s->bytes_read, s->seek_count);
1029     av_opt_free(s);
1030     av_free(s);
1031     return ffurl_close(h);
1032 }
1033
1034 int avio_closep(AVIOContext **s)
1035 {
1036     int ret = avio_close(*s);
1037     *s = NULL;
1038     return ret;
1039 }
1040
1041 int avio_printf(AVIOContext *s, const char *fmt, ...)
1042 {
1043     va_list ap;
1044     char buf[4096]; /* update doc entry in avio.h if changed */
1045     int ret;
1046
1047     va_start(ap, fmt);
1048     ret = vsnprintf(buf, sizeof(buf), fmt, ap);
1049     va_end(ap);
1050     avio_write(s, buf, strlen(buf));
1051     return ret;
1052 }
1053
1054 int avio_pause(AVIOContext *s, int pause)
1055 {
1056     if (!s->read_pause)
1057         return AVERROR(ENOSYS);
1058     return s->read_pause(s->opaque, pause);
1059 }
1060
1061 int64_t avio_seek_time(AVIOContext *s, int stream_index,
1062                        int64_t timestamp, int flags)
1063 {
1064     int64_t ret;
1065     if (!s->read_seek)
1066         return AVERROR(ENOSYS);
1067     ret = s->read_seek(s->opaque, stream_index, timestamp, flags);
1068     if (ret >= 0) {
1069         int64_t pos;
1070         s->buf_ptr = s->buf_end; // Flush buffer
1071         pos = s->seek(s->opaque, 0, SEEK_CUR);
1072         if (pos >= 0)
1073             s->pos = pos;
1074         else if (pos != AVERROR(ENOSYS))
1075             ret = pos;
1076     }
1077     return ret;
1078 }
1079
1080 int avio_read_to_bprint(AVIOContext *h, AVBPrint *pb, size_t max_size)
1081 {
1082     int ret;
1083     char buf[1024];
1084     while (max_size) {
1085         ret = avio_read(h, buf, FFMIN(max_size, sizeof(buf)));
1086         if (ret == AVERROR_EOF)
1087             return 0;
1088         if (ret <= 0)
1089             return ret;
1090         av_bprint_append_data(pb, buf, ret);
1091         if (!av_bprint_is_complete(pb))
1092             return AVERROR(ENOMEM);
1093         max_size -= ret;
1094     }
1095     return 0;
1096 }
1097
1098 int avio_accept(AVIOContext *s, AVIOContext **c)
1099 {
1100     int ret;
1101     URLContext *sc = s->opaque;
1102     URLContext *cc = NULL;
1103     ret = ffurl_accept(sc, &cc);
1104     if (ret < 0)
1105         return ret;
1106     return ffio_fdopen(c, cc);
1107 }
1108
1109 int avio_handshake(AVIOContext *c)
1110 {
1111     URLContext *cc = c->opaque;
1112     return ffurl_handshake(cc);
1113 }
1114
1115 /* output in a dynamic buffer */
1116
1117 typedef struct DynBuffer {
1118     int pos, size, allocated_size;
1119     uint8_t *buffer;
1120     int io_buffer_size;
1121     uint8_t io_buffer[1];
1122 } DynBuffer;
1123
1124 static int dyn_buf_write(void *opaque, uint8_t *buf, int buf_size)
1125 {
1126     DynBuffer *d = opaque;
1127     unsigned new_size, new_allocated_size;
1128
1129     /* reallocate buffer if needed */
1130     new_size = d->pos + buf_size;
1131     new_allocated_size = d->allocated_size;
1132     if (new_size < d->pos || new_size > INT_MAX/2)
1133         return -1;
1134     while (new_size > new_allocated_size) {
1135         if (!new_allocated_size)
1136             new_allocated_size = new_size;
1137         else
1138             new_allocated_size += new_allocated_size / 2 + 1;
1139     }
1140
1141     if (new_allocated_size > d->allocated_size) {
1142         int err;
1143         if ((err = av_reallocp(&d->buffer, new_allocated_size)) < 0) {
1144             d->allocated_size = 0;
1145             d->size = 0;
1146             return err;
1147         }
1148         d->allocated_size = new_allocated_size;
1149     }
1150     memcpy(d->buffer + d->pos, buf, buf_size);
1151     d->pos = new_size;
1152     if (d->pos > d->size)
1153         d->size = d->pos;
1154     return buf_size;
1155 }
1156
1157 static int dyn_packet_buf_write(void *opaque, uint8_t *buf, int buf_size)
1158 {
1159     unsigned char buf1[4];
1160     int ret;
1161
1162     /* packetized write: output the header */
1163     AV_WB32(buf1, buf_size);
1164     ret = dyn_buf_write(opaque, buf1, 4);
1165     if (ret < 0)
1166         return ret;
1167
1168     /* then the data */
1169     return dyn_buf_write(opaque, buf, buf_size);
1170 }
1171
1172 static int64_t dyn_buf_seek(void *opaque, int64_t offset, int whence)
1173 {
1174     DynBuffer *d = opaque;
1175
1176     if (whence == SEEK_CUR)
1177         offset += d->pos;
1178     else if (whence == SEEK_END)
1179         offset += d->size;
1180     if (offset < 0 || offset > 0x7fffffffLL)
1181         return -1;
1182     d->pos = offset;
1183     return 0;
1184 }
1185
1186 static int url_open_dyn_buf_internal(AVIOContext **s, int max_packet_size)
1187 {
1188     DynBuffer *d;
1189     unsigned io_buffer_size = max_packet_size ? max_packet_size : 1024;
1190
1191     if (sizeof(DynBuffer) + io_buffer_size < io_buffer_size)
1192         return -1;
1193     d = av_mallocz(sizeof(DynBuffer) + io_buffer_size);
1194     if (!d)
1195         return AVERROR(ENOMEM);
1196     d->io_buffer_size = io_buffer_size;
1197     *s = avio_alloc_context(d->io_buffer, d->io_buffer_size, 1, d, NULL,
1198                             max_packet_size ? dyn_packet_buf_write : dyn_buf_write,
1199                             max_packet_size ? NULL : dyn_buf_seek);
1200     if(!*s) {
1201         av_free(d);
1202         return AVERROR(ENOMEM);
1203     }
1204     (*s)->max_packet_size = max_packet_size;
1205     return 0;
1206 }
1207
1208 int avio_open_dyn_buf(AVIOContext **s)
1209 {
1210     return url_open_dyn_buf_internal(s, 0);
1211 }
1212
1213 int ffio_open_dyn_packet_buf(AVIOContext **s, int max_packet_size)
1214 {
1215     if (max_packet_size <= 0)
1216         return -1;
1217     return url_open_dyn_buf_internal(s, max_packet_size);
1218 }
1219
1220 int avio_close_dyn_buf(AVIOContext *s, uint8_t **pbuffer)
1221 {
1222     DynBuffer *d;
1223     int size;
1224     static const char padbuf[AV_INPUT_BUFFER_PADDING_SIZE] = {0};
1225     int padding = 0;
1226
1227     if (!s) {
1228         *pbuffer = NULL;
1229         return 0;
1230     }
1231
1232     /* don't attempt to pad fixed-size packet buffers */
1233     if (!s->max_packet_size) {
1234         avio_write(s, padbuf, sizeof(padbuf));
1235         padding = AV_INPUT_BUFFER_PADDING_SIZE;
1236     }
1237
1238     avio_flush(s);
1239
1240     d = s->opaque;
1241     *pbuffer = d->buffer;
1242     size = d->size;
1243     av_free(d);
1244     av_free(s);
1245     return size - padding;
1246 }
1247
1248 void ffio_free_dyn_buf(AVIOContext **s)
1249 {
1250     uint8_t *tmp;
1251     if (!*s)
1252         return;
1253     avio_close_dyn_buf(*s, &tmp);
1254     av_free(tmp);
1255     *s = NULL;
1256 }
1257
1258 static int null_buf_write(void *opaque, uint8_t *buf, int buf_size)
1259 {
1260     DynBuffer *d = opaque;
1261
1262     d->pos += buf_size;
1263     if (d->pos > d->size)
1264         d->size = d->pos;
1265     return buf_size;
1266 }
1267
1268 int ffio_open_null_buf(AVIOContext **s)
1269 {
1270     int ret = url_open_dyn_buf_internal(s, 0);
1271     if (ret >= 0) {
1272         AVIOContext *pb = *s;
1273         pb->write_packet = null_buf_write;
1274     }
1275     return ret;
1276 }
1277
1278 int ffio_close_null_buf(AVIOContext *s)
1279 {
1280     DynBuffer *d = s->opaque;
1281     int size;
1282
1283     avio_flush(s);
1284
1285     size = d->size;
1286     av_free(d);
1287     av_free(s);
1288     return size;
1289 }