git.sesse.net Git - vlc/blob - modules/stream_filter/httplive.c

   1 /*****************************************************************************
   2  * httplive.c: HTTP Live Streaming stream filter
   3  *****************************************************************************
   4  * Copyright (C) 2010-2012 M2X BV
   5  * $Id$
   6  *
   7  * Author: Jean-Paul Saman <jpsaman _AT_ videolan _DOT_ org>
   8  *
   9  * This program is free software; you can redistribute it and/or modify it
  10  * under the terms of the GNU Lesser General Public License as published by
  11  * the Free Software Foundation; either version 2.1 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
  17  * GNU Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public License
  20  * along with this program; if not, write to the Free Software Foundation,
  21  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27 #ifdef HAVE_CONFIG_H
  28 # include "config.h"
  29 #endif
  30
  31 #include <limits.h>
  32
  33 #include <vlc_common.h>
  34 #include <vlc_plugin.h>
  35
  36 #include <assert.h>
  37 #include <errno.h>
  38 #include <gcrypt.h>
  39
  40 #include <vlc_threads.h>
  41 #include <vlc_arrays.h>
  42 #include <vlc_stream.h>
  43 #include <vlc_memory.h>
  44 #include <vlc_gcrypt.h>
  45
  46 /*****************************************************************************
  47  * Module descriptor
  48  *****************************************************************************/
  49 static int  Open (vlc_object_t *);
  50 static void Close(vlc_object_t *);
  51
  52 vlc_module_begin()
  53     set_category(CAT_INPUT)
  54     set_subcategory(SUBCAT_INPUT_STREAM_FILTER)
  55     set_description(N_("Http Live Streaming stream filter"))
  56     set_capability("stream_filter", 20)
  57     set_callbacks(Open, Close)
  58 vlc_module_end()
  59
  60 /*****************************************************************************
  61  *
  62  *****************************************************************************/
  63 #define AES_BLOCK_SIZE 16 /* Only support AES-128 */
  64 typedef struct segment_s
  65 {
  66     int         sequence;   /* unique sequence number */
  67     int         duration;   /* segment duration (seconds) */
  68     uint64_t    size;       /* segment size in bytes */
  69     uint64_t    bandwidth;  /* bandwidth usage of segments (bits per second)*/
  70
  71     char        *url;
  72     char       *psz_key_path;         /* url key path */
  73     uint8_t     aes_key[16];      /* AES-128 */
  74     bool        b_key_loaded;
  75
  76     vlc_mutex_t lock;
  77     block_t     *data;      /* data */
  78 } segment_t;
  79
  80 typedef struct hls_stream_s
  81 {
  82     int         id;         /* program id */
  83     int         version;    /* protocol version should be 1 */
  84     int         sequence;   /* media sequence number */
  85     int         duration;   /* maximum duration per segment (s) */
  86     uint64_t    bandwidth;  /* bandwidth usage of segments (bits per second)*/
  87     uint64_t    size;       /* stream length is calculated by taking the sum
  88                                foreach segment of (segment->duration * hls->bandwidth/8) */
  89
  90     vlc_array_t *segments;  /* list of segments */
  91     char        *url;        /* uri to m3u8 */
  92     vlc_mutex_t lock;
  93     bool        b_cache;    /* allow caching */
  94
  95     char        *psz_current_key_path;          /* URL path of the encrypted key */
  96     uint8_t      psz_AES_IV[AES_BLOCK_SIZE];    /* IV used when decypher the block */
  97     bool         b_iv_loaded;
  98 } hls_stream_t;
  99
 100 struct stream_sys_t
 101 {
 102     char         *m3u8;         /* M3U8 url */
 103     vlc_thread_t  reload;       /* HLS m3u8 reload thread */
 104     vlc_thread_t  thread;       /* HLS segment download thread */
 105
 106     block_t      *peeked;
 107
 108     /* */
 109     vlc_array_t  *hls_stream;   /* bandwidth adaptation */
 110     uint64_t      bandwidth;    /* measured bandwidth (bits per second) */
 111
 112     /* Download */
 113     struct hls_download_s
 114     {
 115         int         stream;     /* current hls_stream  */
 116         int         segment;    /* current segment for downloading */
 117         int         seek;       /* segment requested by seek (default -1) */
 118         vlc_mutex_t lock_wait;  /* protect segment download counter */
 119         vlc_cond_t  wait;       /* some condition to wait on */
 120     } download;
 121
 122     /* Playback */
 123     struct hls_playback_s
 124     {
 125         uint64_t    offset;     /* current offset in media */
 126         int         stream;     /* current hls_stream  */
 127         int         segment;    /* current segment for playback */
 128     } playback;
 129
 130     /* Playlist */
 131     struct hls_playlist_s
 132     {
 133         mtime_t     last;       /* playlist last loaded */
 134         mtime_t     wakeup;     /* next reload time */
 135         int         tries;      /* times it was not changed */
 136     } playlist;
 137
 138     /* state */
 139     bool        b_cache;    /* can cache files */
 140     bool        b_meta;     /* meta playlist */
 141     bool        b_live;     /* live stream? or vod? */
 142     bool        b_error;    /* parsing error */
 143     bool        b_aesmsg;   /* only print one time that the media is encrypted */
 144 };
 145
 146 /****************************************************************************
 147  * Local prototypes
 148  ****************************************************************************/
 149 static int  Read   (stream_t *, void *p_read, unsigned int i_read);
 150 static int  Peek   (stream_t *, const uint8_t **pp_peek, unsigned int i_peek);
 151 static int  Control(stream_t *, int i_query, va_list);
 152
 153 static ssize_t read_M3U8_from_stream(stream_t *s, uint8_t **buffer);
 154 static ssize_t read_M3U8_from_url(stream_t *s, const char *psz_url, uint8_t **buffer);
 155 static char *ReadLine(uint8_t *buffer, uint8_t **pos, size_t len);
 156
 157 static int hls_Download(stream_t *s, segment_t *segment);
 158
 159 static void* hls_Thread(void *);
 160 static void* hls_Reload(void *);
 161
 162 static segment_t *segment_GetSegment(hls_stream_t *hls, int wanted);
 163 static void segment_Free(segment_t *segment);
 164
 165 /****************************************************************************
 166  *
 167  ****************************************************************************/
 168 static bool isHTTPLiveStreaming(stream_t *s)
 169 {
 170     const uint8_t *peek;
 171
 172     int size = stream_Peek(s->p_source, &peek, 46);
 173     if (size < 7)
 174         return false;
 175
 176     if (memcmp(peek, "#EXTM3U", 7) != 0)
 177         return false;
 178
 179     peek += 7;
 180     size -= 7;
 181
 182     /* Parse stream and search for
 183      * EXT-X-TARGETDURATION or EXT-X-STREAM-INF tag, see
 184      * http://tools.ietf.org/html/draft-pantos-http-live-streaming-04#page-8 */
 185     while (size--)
 186     {
 187         static const char *const ext[] = {
 188             "TARGETDURATION",
 189             "MEDIA-SEQUENCE",
 190             "KEY",
 191             "ALLOW-CACHE",
 192             "ENDLIST",
 193             "STREAM-INF",
 194             "DISCONTINUITY",
 195             "VERSION"
 196         };
 197
 198         if (*peek++ != '#')
 199             continue;
 200
 201         if (size < 6)
 202             continue;
 203
 204         if (memcmp(peek, "EXT-X-", 6))
 205             continue;
 206
 207         peek += 6;
 208         size -= 6;
 209
 210         for (size_t i = 0; i < ARRAY_SIZE(ext); i++)
 211         {
 212             size_t len = strlen(ext[i]);
 213             if (size < 0 || (size_t)size < len)
 214                 continue;
 215             if (!memcmp(peek, ext[i], len))
 216                 return true;
 217         }
 218     }
 219
 220     return false;
 221 }
 222
 223 /* HTTP Live Streaming */
 224 static hls_stream_t *hls_New(vlc_array_t *hls_stream, const int id, const uint64_t bw, const char *uri)
 225 {
 226     hls_stream_t *hls = (hls_stream_t *)malloc(sizeof(hls_stream_t));
 227     if (hls == NULL) return NULL;
 228
 229     hls->id = id;
 230     hls->bandwidth = bw;
 231     hls->duration = -1;/* unknown */
 232     hls->size = 0;
 233     hls->sequence = 0; /* default is 0 */
 234     hls->version = 1;  /* default protocol version */
 235     hls->b_cache = true;
 236     hls->url = strdup(uri);
 237     if (hls->url == NULL)
 238     {
 239         free(hls);
 240         return NULL;
 241     }
 242     hls->psz_current_key_path = NULL;
 243     hls->segments = vlc_array_new();
 244     vlc_array_append(hls_stream, hls);
 245     vlc_mutex_init(&hls->lock);
 246     return hls;
 247 }
 248
 249 static void hls_Free(hls_stream_t *hls)
 250 {
 251     vlc_mutex_destroy(&hls->lock);
 252
 253     if (hls->segments)
 254     {
 255         for (int n = 0; n < vlc_array_count(hls->segments); n++)
 256         {
 257             segment_t *segment = segment_GetSegment(hls, n);
 258             if (segment) segment_Free(segment);
 259         }
 260         vlc_array_destroy(hls->segments);
 261     }
 262     free(hls->url);
 263     free(hls->psz_current_key_path);
 264     free(hls);
 265 }
 266
 267 static hls_stream_t *hls_Copy(hls_stream_t *src, const bool b_cp_segments)
 268 {
 269     assert(src);
 270     assert(!b_cp_segments); /* FIXME: copying segments is not implemented */
 271
 272     hls_stream_t *dst = (hls_stream_t *)malloc(sizeof(hls_stream_t));
 273     if (dst == NULL) return NULL;
 274
 275     dst->id = src->id;
 276     dst->bandwidth = src->bandwidth;
 277     dst->duration = src->duration;
 278     dst->size = src->size;
 279     dst->sequence = src->sequence;
 280     dst->version = src->version;
 281     dst->b_cache = src->b_cache;
 282     dst->psz_current_key_path = src->psz_current_key_path ?
 283                 strdup( src->psz_current_key_path ) : NULL;
 284     dst->url = strdup(src->url);
 285     if (dst->url == NULL)
 286     {
 287         free(dst);
 288         return NULL;
 289     }
 290     if (!b_cp_segments)
 291         dst->segments = vlc_array_new();
 292     vlc_mutex_init(&dst->lock);
 293     return dst;
 294 }
 295
 296 static hls_stream_t *hls_Get(vlc_array_t *hls_stream, const int wanted)
 297 {
 298     int count = vlc_array_count(hls_stream);
 299     if (count <= 0)
 300         return NULL;
 301     if ((wanted < 0) || (wanted >= count))
 302         return NULL;
 303     return (hls_stream_t *) vlc_array_item_at_index(hls_stream, wanted);
 304 }
 305
 306 static inline hls_stream_t *hls_GetFirst(vlc_array_t *hls_stream)
 307 {
 308     return hls_Get(hls_stream, 0);
 309 }
 310
 311 static hls_stream_t *hls_GetLast(vlc_array_t *hls_stream)
 312 {
 313     int count = vlc_array_count(hls_stream);
 314     if (count <= 0)
 315         return NULL;
 316     count--;
 317     return hls_Get(hls_stream, count);
 318 }
 319
 320 static hls_stream_t *hls_Find(vlc_array_t *hls_stream, hls_stream_t *hls_new)
 321 {
 322     int count = vlc_array_count(hls_stream);
 323     for (int n = 0; n < count; n++)
 324     {
 325         hls_stream_t *hls = hls_Get(hls_stream, n);
 326         if (hls)
 327         {
 328             /* compare */
 329             if ((hls->id == hls_new->id) &&
 330                 ((hls->bandwidth == hls_new->bandwidth)||(hls_new->bandwidth==0)))
 331                 return hls;
 332         }
 333     }
 334     return NULL;
 335 }
 336
 337 static uint64_t hls_GetStreamSize(hls_stream_t *hls)
 338 {
 339     /* NOTE: Stream size is calculated based on segment duration and
 340      * HLS stream bandwidth from the .m3u8 file. If these are not correct
 341      * then the deviation from exact byte size will be big and the seek/
 342      * progressbar will not behave entirely as one expects. */
 343     uint64_t size = 0UL;
 344
 345     /* If there is no valid bandwidth yet, then there is no point in
 346      * computing stream size. */
 347     if (hls->bandwidth == 0)
 348         return size;
 349
 350     int count = vlc_array_count(hls->segments);
 351     for (int n = 0; n < count; n++)
 352     {
 353         segment_t *segment = segment_GetSegment(hls, n);
 354         if (segment)
 355         {
 356             size += (segment->duration * (hls->bandwidth / 8));
 357         }
 358     }
 359     return size;
 360 }
 361
 362 /* Segment */
 363 static segment_t *segment_New(hls_stream_t* hls, const int duration, const char *uri)
 364 {
 365     segment_t *segment = (segment_t *)malloc(sizeof(segment_t));
 366     if (segment == NULL)
 367         return NULL;
 368
 369     segment->duration = duration; /* seconds */
 370     segment->size = 0; /* bytes */
 371     segment->sequence = 0;
 372     segment->bandwidth = 0;
 373     segment->url = strdup(uri);
 374     if (segment->url == NULL)
 375     {
 376         free(segment);
 377         return NULL;
 378     }
 379     segment->data = NULL;
 380     vlc_array_append(hls->segments, segment);
 381     vlc_mutex_init(&segment->lock);
 382     segment->b_key_loaded = false;
 383     segment->psz_key_path = NULL;
 384     if (hls->psz_current_key_path)
 385         segment->psz_key_path = strdup(hls->psz_current_key_path);
 386     return segment;
 387 }
 388
 389 static void segment_Free(segment_t *segment)
 390 {
 391     vlc_mutex_destroy(&segment->lock);
 392
 393     free(segment->url);
 394     free(segment->psz_key_path);
 395     if (segment->data)
 396         block_Release(segment->data);
 397     free(segment);
 398 }
 399
 400 static segment_t *segment_GetSegment(hls_stream_t *hls, const int wanted)
 401 {
 402     assert(hls);
 403
 404     int count = vlc_array_count(hls->segments);
 405     if (count <= 0)
 406         return NULL;
 407     if ((wanted < 0) || (wanted >= count))
 408         return NULL;
 409     return (segment_t *) vlc_array_item_at_index(hls->segments, wanted);
 410 }
 411
 412 static segment_t *segment_Find(hls_stream_t *hls, const int sequence)
 413 {
 414     assert(hls);
 415
 416     int count = vlc_array_count(hls->segments);
 417     if (count <= 0) return NULL;
 418     for (int n = 0; n < count; n++)
 419     {
 420         segment_t *segment = segment_GetSegment(hls, n);
 421         if (segment == NULL) break;
 422         if (segment->sequence == sequence)
 423             return segment;
 424     }
 425     return NULL;
 426 }
 427
 428 static int ChooseSegment(stream_t *s, const int current)
 429 {
 430     stream_sys_t *p_sys = (stream_sys_t *)s->p_sys;
 431     hls_stream_t *hls = hls_Get(p_sys->hls_stream, current);
 432     if (hls == NULL) return 0;
 433
 434     /* Choose a segment to start which is no closer than
 435      * 3 times the target duration from the end of the playlist.
 436      */
 437     int wanted = 0;
 438     int duration = 0;
 439     int sequence = 0;
 440     int count = vlc_array_count(hls->segments);
 441     int i = p_sys->b_live ? count - 1 : 0;
 442
 443     while((i >= 0) && (i < count))
 444     {
 445         segment_t *segment = segment_GetSegment(hls, i);
 446         assert(segment);
 447
 448         if (segment->duration > hls->duration)
 449         {
 450             msg_Err(s, "EXTINF:%d duration is larger than EXT-X-TARGETDURATION:%d",
 451                     segment->duration, hls->duration);
 452         }
 453
 454         duration += segment->duration;
 455         if (duration >= 3 * hls->duration)
 456         {
 457             /* Start point found */
 458             wanted = p_sys->b_live ? i : 0;
 459             sequence = segment->sequence;
 460             break;
 461         }
 462
 463         if (p_sys->b_live)
 464             i-- ;
 465         else
 466             i++;
 467     }
 468
 469     msg_Info(s, "Choose segment %d/%d (sequence=%d)", wanted, count, sequence);
 470     return wanted;
 471 }
 472
 473 /* Parsing */
 474 static char *parse_Attributes(const char *line, const char *attr)
 475 {
 476     char *p;
 477     char *begin = (char *) line;
 478     char *end = begin + strlen(line);
 479
 480     /* Find start of attributes */
 481     if ((p = strchr(begin, ':' )) == NULL)
 482         return NULL;
 483
 484     begin = p;
 485     do
 486     {
 487         if (strncasecmp(begin, attr, strlen(attr)) == 0
 488           && begin[strlen(attr)] == '=')
 489         {
 490             /* <attr>=<value>[,]* */
 491             p = strchr(begin, ',');
 492             begin += strlen(attr) + 1;
 493             if (begin >= end)
 494                 return NULL;
 495             if (p == NULL) /* last attribute */
 496                 return strndup(begin, end - begin);
 497             /* copy till ',' */
 498             return strndup(begin, p - begin);
 499         }
 500         begin++;
 501     } while(begin < end);
 502
 503     return NULL;
 504 }
 505
 506 static int string_to_IV(char *string_hexa, uint8_t iv[AES_BLOCK_SIZE])
 507 {
 508     unsigned long long iv_hi, iv_lo;
 509     char *end = NULL;
 510     if (*string_hexa++ != '0')
 511         return VLC_EGENERIC;
 512     if (*string_hexa != 'x' && *string_hexa != 'X')
 513         return VLC_EGENERIC;
 514
 515     string_hexa++;
 516
 517     size_t len = strlen(string_hexa);
 518     if (len <= 16) {
 519         iv_hi = 0;
 520         iv_lo = strtoull(string_hexa, &end, 16);
 521         if (end)
 522             return VLC_EGENERIC;
 523     } else {
 524         iv_lo = strtoull(&string_hexa[len-16], NULL, 16);
 525         if (end)
 526             return VLC_EGENERIC;
 527         string_hexa[len-16] = '\0';
 528         iv_hi = strtoull(string_hexa, NULL, 16);
 529         if (end)
 530             return VLC_EGENERIC;
 531     }
 532
 533     for (int i = 7; i >= 0 ; --i) {
 534         iv[  i] = iv_hi & 0xff;
 535         iv[8+i] = iv_lo & 0xff;
 536         iv_hi >>= 8;
 537         iv_lo >>= 8;
 538     }
 539
 540     return VLC_SUCCESS;
 541 }
 542
 543 static char *relative_URI(const char *psz_url, const char *psz_path)
 544 {
 545     assert(psz_url != NULL && psz_path != NULL);
 546     //If the path is actually an absolute URL, don't do anything.
 547     if (strncmp(psz_path, "http", 4) == 0)
 548         return NULL;
 549
 550     char    *path_end = strrchr(psz_url, '/');
 551     if (path_end == NULL)
 552         return NULL;
 553     unsigned int    url_length = path_end - psz_url + 1;
 554     char    *psz_res = malloc(url_length + strlen(psz_path) + 1);
 555     strncpy(psz_res, psz_url, url_length);
 556     psz_res[url_length] = 0;
 557     strcat(psz_res, psz_path);
 558     return psz_res;
 559 }
 560
 561 static int parse_SegmentInformation(hls_stream_t *hls, char *p_read, int *duration)
 562 {
 563     assert(hls);
 564     assert(p_read);
 565
 566     /* strip of #EXTINF: */
 567     char *p_next = NULL;
 568     char *token = strtok_r(p_read, ":", &p_next);
 569     if (token == NULL)
 570         return VLC_EGENERIC;
 571
 572     /* read duration */
 573     token = strtok_r(NULL, ",", &p_next);
 574     if (token == NULL)
 575         return VLC_EGENERIC;
 576
 577     int value;
 578     char *endptr;
 579     if (hls->version < 3)
 580     {
 581         errno = 0;
 582         value = strtol(token, &endptr, 10);
 583         if (token == endptr || errno == ERANGE)
 584         {
 585             *duration = -1;
 586             return VLC_EGENERIC;
 587         }
 588         *duration = value;
 589     }
 590     else
 591     {
 592         errno = 0;
 593         double d = strtof(token, &endptr);
 594         if (token == endptr || errno == ERANGE)
 595         {
 596             *duration = -1;
 597             return VLC_EGENERIC;
 598         }
 599         if ((d) - ((int)d) >= 0.5)
 600             value = ((int)d) + 1;
 601         else
 602             value = ((int)d);
 603         *duration = value;
 604     }
 605
 606     /* Ignore the rest of the line */
 607     return VLC_SUCCESS;
 608 }
 609
 610 static int parse_AddSegment(hls_stream_t *hls, const int duration, const char *uri)
 611 {
 612     assert(hls);
 613     assert(uri);
 614
 615     /* Store segment information */
 616     vlc_mutex_lock(&hls->lock);
 617
 618     char *psz_uri = relative_URI(hls->url, uri);
 619
 620     segment_t *segment = segment_New(hls, duration, psz_uri ? psz_uri : uri);
 621     if (segment)
 622         segment->sequence = hls->sequence + vlc_array_count(hls->segments) - 1;
 623     free(psz_uri);
 624
 625     vlc_mutex_unlock(&hls->lock);
 626
 627     return segment ? VLC_SUCCESS : VLC_ENOMEM;
 628 }
 629
 630 static int parse_TargetDuration(stream_t *s, hls_stream_t *hls, char *p_read)
 631 {
 632     assert(hls);
 633
 634     int duration = -1;
 635     int ret = sscanf(p_read, "#EXT-X-TARGETDURATION:%d", &duration);
 636     if (ret != 1)
 637     {
 638         msg_Err(s, "expected #EXT-X-TARGETDURATION:<s>");
 639         return VLC_EGENERIC;
 640     }
 641
 642     hls->duration = duration; /* seconds */
 643     return VLC_SUCCESS;
 644 }
 645
 646 static int parse_StreamInformation(stream_t *s, vlc_array_t **hls_stream,
 647                                    hls_stream_t **hls, char *p_read, const char *uri)
 648 {
 649     int id;
 650     uint64_t bw;
 651     char *attr;
 652
 653     assert(*hls == NULL);
 654
 655     attr = parse_Attributes(p_read, "PROGRAM-ID");
 656     if (attr == NULL)
 657     {
 658         msg_Err(s, "#EXT-X-STREAM-INF: expected PROGRAM-ID=<value>");
 659         return VLC_EGENERIC;
 660     }
 661     id = atol(attr);
 662     free(attr);
 663
 664     attr = parse_Attributes(p_read, "BANDWIDTH");
 665     if (attr == NULL)
 666     {
 667         msg_Err(s, "#EXT-X-STREAM-INF: expected BANDWIDTH=<value>");
 668         return VLC_EGENERIC;
 669     }
 670     bw = atoll(attr);
 671     free(attr);
 672
 673     if (bw == 0)
 674     {
 675         msg_Err(s, "#EXT-X-STREAM-INF: bandwidth cannot be 0");
 676         return VLC_EGENERIC;
 677     }
 678
 679     msg_Info(s, "bandwidth adaptation detected (program-id=%d, bandwidth=%"PRIu64").", id, bw);
 680
 681     char *psz_uri = relative_URI(s->p_sys->m3u8, uri);
 682
 683     *hls = hls_New(*hls_stream, id, bw, psz_uri ? psz_uri : uri);
 684
 685     free(psz_uri);
 686
 687     return (*hls == NULL) ? VLC_ENOMEM : VLC_SUCCESS;
 688 }
 689
 690 static int parse_MediaSequence(stream_t *s, hls_stream_t *hls, char *p_read)
 691 {
 692     assert(hls);
 693
 694     int sequence;
 695     int ret = sscanf(p_read, "#EXT-X-MEDIA-SEQUENCE:%d", &sequence);
 696     if (ret != 1)
 697     {
 698         msg_Err(s, "expected #EXT-X-MEDIA-SEQUENCE:<s>");
 699         return VLC_EGENERIC;
 700     }
 701
 702     if (hls->sequence > 0)
 703     {
 704         if (s->p_sys->b_live)
 705         {
 706             hls_stream_t *last = hls_GetLast(s->p_sys->hls_stream);
 707             if ((last->sequence < sequence) && (sequence - last->sequence != 1))
 708                 msg_Err(s, "EXT-X-MEDIA-SEQUENCE gap in playlist (new=%d, old=%d)",
 709                             sequence, last->sequence);
 710         }
 711         else
 712             msg_Err(s, "EXT-X-MEDIA-SEQUENCE already present in playlist (new=%d, old=%d)",
 713                         sequence, hls->sequence);
 714     }
 715     hls->sequence = sequence;
 716     return VLC_SUCCESS;
 717 }
 718
 719 static int parse_Key(stream_t *s, hls_stream_t *hls, char *p_read)
 720 {
 721     assert(hls);
 722
 723     /* #EXT-X-KEY:METHOD=<method>[,URI="<URI>"][,IV=<IV>] */
 724     int err = VLC_SUCCESS;
 725     char *attr = parse_Attributes(p_read, "METHOD");
 726     if (attr == NULL)
 727     {
 728         msg_Err(s, "#EXT-X-KEY: expected METHOD=<value>");
 729         return err;
 730     }
 731
 732     if (strncasecmp(attr, "NONE", 4) == 0)
 733     {
 734         char *uri = parse_Attributes(p_read, "URI");
 735         if (uri != NULL)
 736         {
 737             msg_Err(s, "#EXT-X-KEY: URI not expected");
 738             err = VLC_EGENERIC;
 739         }
 740         free(uri);
 741         /* IV is only supported in version 2 and above */
 742         if (hls->version >= 2)
 743         {
 744             char *iv = parse_Attributes(p_read, "IV");
 745             if (iv != NULL)
 746             {
 747                 msg_Err(s, "#EXT-X-KEY: IV not expected");
 748                 err = VLC_EGENERIC;
 749             }
 750             free(iv);
 751         }
 752     }
 753     else if (strncasecmp(attr, "AES-128", 7) == 0)
 754     {
 755         char *value, *uri, *iv;
 756         if (s->p_sys->b_aesmsg == false)
 757         {
 758             msg_Info(s, "playback of AES-128 encrypted HTTP Live media detected.");
 759             s->p_sys->b_aesmsg = true;
 760         }
 761         value = uri = parse_Attributes(p_read, "URI");
 762         if (value == NULL)
 763         {
 764             msg_Err(s, "#EXT-X-KEY: URI not found for encrypted HTTP Live media in AES-128");
 765             free(attr);
 766             return VLC_EGENERIC;
 767         }
 768
 769         /* Url is put between quotes, remove them */
 770         if (*value == '"')
 771         {
 772             /* We need to strip the "" from the attribute value */
 773             uri = value + 1;
 774             char* end = strchr(uri, '"');
 775             if (end != NULL)
 776                 *end = 0;
 777         }
 778         hls->psz_current_key_path = strdup(uri);
 779         free(value);
 780
 781         value = iv = parse_Attributes(p_read, "IV");
 782         if (iv == NULL)
 783         {
 784             /*
 785             * If the EXT-X-KEY tag does not have the IV attribute, implementations
 786             * MUST use the sequence number of the media file as the IV when
 787             * encrypting or decrypting that media file.  The big-endian binary
 788             * representation of the sequence number SHALL be placed in a 16-octet
 789             * buffer and padded (on the left) with zeros.
 790             */
 791             hls->b_iv_loaded = false;
 792         }
 793         else
 794         {
 795             /*
 796             * If the EXT-X-KEY tag has the IV attribute, implementations MUST use
 797             * the attribute value as the IV when encrypting or decrypting with that
 798             * key.  The value MUST be interpreted as a 128-bit hexadecimal number
 799             * and MUST be prefixed with 0x or 0X.
 800             */
 801
 802             if (string_to_IV(iv, hls->psz_AES_IV) == VLC_EGENERIC)
 803             {
 804                 msg_Err(s, "IV invalid");
 805                 err = VLC_EGENERIC;
 806             }
 807             else
 808                 hls->b_iv_loaded = true;
 809             free(value);
 810         }
 811     }
 812     else
 813     {
 814         msg_Warn(s, "playback of encrypted HTTP Live media is not supported.");
 815         err = VLC_EGENERIC;
 816     }
 817     free(attr);
 818     return err;
 819 }
 820
 821 static int parse_ProgramDateTime(stream_t *s, hls_stream_t *hls, char *p_read)
 822 {
 823     VLC_UNUSED(hls);
 824     msg_Dbg(s, "tag not supported: #EXT-X-PROGRAM-DATE-TIME %s", p_read);
 825     return VLC_SUCCESS;
 826 }
 827
 828 static int parse_AllowCache(stream_t *s, hls_stream_t *hls, char *p_read)
 829 {
 830     assert(hls);
 831
 832     char answer[4] = "\0";
 833     int ret = sscanf(p_read, "#EXT-X-ALLOW-CACHE:%3s", answer);
 834     if (ret != 1)
 835     {
 836         msg_Err(s, "#EXT-X-ALLOW-CACHE, ignoring ...");
 837         return VLC_EGENERIC;
 838     }
 839
 840     hls->b_cache = (strncmp(answer, "NO", 2) != 0);
 841     return VLC_SUCCESS;
 842 }
 843
 844 static int parse_Version(stream_t *s, hls_stream_t *hls, char *p_read)
 845 {
 846     assert(hls);
 847
 848     int version;
 849     int ret = sscanf(p_read, "#EXT-X-VERSION:%d", &version);
 850     if (ret != 1)
 851     {
 852         msg_Err(s, "#EXT-X-VERSION: no protocol version found, should be version 1.");
 853         return VLC_EGENERIC;
 854     }
 855
 856     /* Check version */
 857     hls->version = version;
 858     if (hls->version <= 0 || hls->version > 3)
 859     {
 860         msg_Err(s, "#EXT-X-VERSION should be version 1, 2 or 3 iso %d", version);
 861         return VLC_EGENERIC;
 862     }
 863     return VLC_SUCCESS;
 864 }
 865
 866 static int parse_EndList(stream_t *s, hls_stream_t *hls)
 867 {
 868     assert(hls);
 869
 870     s->p_sys->b_live = false;
 871     msg_Info(s, "video on demand (vod) mode");
 872     return VLC_SUCCESS;
 873 }
 874
 875 static int parse_Discontinuity(stream_t *s, hls_stream_t *hls, char *p_read)
 876 {
 877     assert(hls);
 878
 879     /* FIXME: Do we need to act on discontinuity ?? */
 880     msg_Dbg(s, "#EXT-X-DISCONTINUITY %s", p_read);
 881     return VLC_SUCCESS;
 882 }
 883
 884 static int hls_CompareStreams( const void* a, const void* b )
 885 {
 886     hls_stream_t*   stream_a = *(hls_stream_t**)a;
 887     hls_stream_t*   stream_b = *(hls_stream_t**)b;
 888     return stream_a->bandwidth > stream_b->bandwidth;
 889 }
 890
 891 /* The http://tools.ietf.org/html/draft-pantos-http-live-streaming-04#page-8
 892  * document defines the following new tags: EXT-X-TARGETDURATION,
 893  * EXT-X-MEDIA-SEQUENCE, EXT-X-KEY, EXT-X-PROGRAM-DATE-TIME, EXT-X-
 894  * ALLOW-CACHE, EXT-X-STREAM-INF, EXT-X-ENDLIST, EXT-X-DISCONTINUITY,
 895  * and EXT-X-VERSION.
 896  */
 897 static int parse_M3U8(stream_t *s, vlc_array_t *streams, uint8_t *buffer, const ssize_t len)
 898 {
 899     stream_sys_t *p_sys = s->p_sys;
 900     uint8_t *p_read, *p_begin, *p_end;
 901
 902     assert(streams);
 903     assert(buffer);
 904
 905     msg_Dbg(s, "parse_M3U8\n%s", buffer);
 906     p_begin = buffer;
 907     p_end = p_begin + len;
 908
 909     char *line = ReadLine(p_begin, &p_read, p_end - p_begin);
 910     if (line == NULL)
 911         return VLC_ENOMEM;
 912     p_begin = p_read;
 913
 914     if (strncmp(line, "#EXTM3U", 7) != 0)
 915     {
 916         msg_Err(s, "missing #EXTM3U tag .. aborting");
 917         free(line);
 918         return VLC_EGENERIC;
 919     }
 920
 921     free(line);
 922     line = NULL;
 923
 924     /* What is the version ? */
 925     int version = 1;
 926     uint8_t *p = (uint8_t *)strstr((const char *)buffer, "#EXT-X-VERSION:");
 927     if (p != NULL)
 928     {
 929         uint8_t *tmp = NULL;
 930         char *psz_version = ReadLine(p, &tmp, p_end - p);
 931         if (psz_version == NULL)
 932             return VLC_ENOMEM;
 933         int ret = sscanf((const char*)psz_version, "#EXT-X-VERSION:%d", &version);
 934         if (ret != 1)
 935         {
 936             msg_Warn(s, "#EXT-X-VERSION: no protocol version found, assuming version 1.");
 937             version = 1;
 938         }
 939         free(psz_version);
 940         p = NULL;
 941     }
 942
 943     /* Is it a live stream ? */
 944     p_sys->b_live = (strstr((const char *)buffer, "#EXT-X-ENDLIST") == NULL) ? true : false;
 945
 946     /* Is it a meta index file ? */
 947     bool b_meta = (strstr((const char *)buffer, "#EXT-X-STREAM-INF") == NULL) ? false : true;
 948
 949     int err = VLC_SUCCESS;
 950
 951     if (b_meta)
 952     {
 953         msg_Info(s, "Meta playlist");
 954
 955         /* M3U8 Meta Index file */
 956         do {
 957             /* Next line */
 958             line = ReadLine(p_begin, &p_read, p_end - p_begin);
 959             if (line == NULL)
 960                 break;
 961             p_begin = p_read;
 962
 963             /* */
 964             if (strncmp(line, "#EXT-X-STREAM-INF", 17) == 0)
 965             {
 966                 p_sys->b_meta = true;
 967                 char *uri = ReadLine(p_begin, &p_read, p_end - p_begin);
 968                 if (uri == NULL)
 969                     err = VLC_ENOMEM;
 970                 else
 971                 {
 972                     if (*uri == '#')
 973                     {
 974                         msg_Info(s, "Skipping invalid stream-inf: %s", uri);
 975                         free(uri);
 976                     }
 977                     else
 978                     {
 979                         hls_stream_t *hls = NULL;
 980                         err = parse_StreamInformation(s, &streams, &hls, line, uri);
 981                         free(uri);
 982
 983                         /* Download playlist file from server */
 984                         uint8_t *buf = NULL;
 985                         ssize_t len = read_M3U8_from_url(s, hls->url, &buf);
 986                         if (len < 0)
 987                             err = VLC_EGENERIC;
 988                         else
 989                         {
 990                             /* Parse HLS m3u8 content. */
 991                             err = parse_M3U8(s, streams, buf, len);
 992                             free(buf);
 993                         }
 994
 995                         if (hls)
 996                         {
 997                             hls->version = version;
 998                             if (!p_sys->b_live)
 999                                 hls->size = hls_GetStreamSize(hls); /* Stream size (approximate) */
1000                         }
1001                     }
1002                 }
1003                 p_begin = p_read;
1004             }
1005
1006             free(line);
1007             line = NULL;
1008
1009             if (p_begin >= p_end)
1010                 break;
1011
1012         } while (err == VLC_SUCCESS);
1013
1014     }
1015     else
1016     {
1017         msg_Info(s, "%s Playlist HLS protocol version: %d", p_sys->b_live ? "Live": "VOD", version);
1018
1019         hls_stream_t *hls = NULL;
1020         if (p_sys->b_meta)
1021             hls = hls_GetLast(streams);
1022         else
1023         {
1024             /* No Meta playlist used */
1025             hls = hls_New(streams, 0, 0, p_sys->m3u8);
1026             if (hls)
1027             {
1028                 /* Get TARGET-DURATION first */
1029                 p = (uint8_t *)strstr((const char *)buffer, "#EXT-X-TARGETDURATION:");
1030                 if (p)
1031                 {
1032                     uint8_t *p_rest = NULL;
1033                     char *psz_duration = ReadLine(p, &p_rest,  p_end - p);
1034                     if (psz_duration == NULL)
1035                         return VLC_EGENERIC;
1036                     err = parse_TargetDuration(s, hls, psz_duration);
1037                     free(psz_duration);
1038                     p = NULL;
1039                 }
1040
1041                 /* Store version */
1042                 hls->version = version;
1043             }
1044             else return VLC_ENOMEM;
1045         }
1046         assert(hls);
1047
1048         /* */
1049         int segment_duration = -1;
1050         do
1051         {
1052             /* Next line */
1053             line = ReadLine(p_begin, &p_read, p_end - p_begin);
1054             if (line == NULL)
1055                 break;
1056             p_begin = p_read;
1057
1058             if (strncmp(line, "#EXTINF", 7) == 0)
1059                 err = parse_SegmentInformation(hls, line, &segment_duration);
1060             else if (strncmp(line, "#EXT-X-TARGETDURATION", 21) == 0)
1061                 err = parse_TargetDuration(s, hls, line);
1062             else if (strncmp(line, "#EXT-X-MEDIA-SEQUENCE", 21) == 0)
1063                 err = parse_MediaSequence(s, hls, line);
1064             else if (strncmp(line, "#EXT-X-KEY", 10) == 0)
1065                 err = parse_Key(s, hls, line);
1066             else if (strncmp(line, "#EXT-X-PROGRAM-DATE-TIME", 24) == 0)
1067                 err = parse_ProgramDateTime(s, hls, line);
1068             else if (strncmp(line, "#EXT-X-ALLOW-CACHE", 18) == 0)
1069                 err = parse_AllowCache(s, hls, line);
1070             else if (strncmp(line, "#EXT-X-DISCONTINUITY", 20) == 0)
1071                 err = parse_Discontinuity(s, hls, line);
1072             else if (strncmp(line, "#EXT-X-VERSION", 14) == 0)
1073                 err = parse_Version(s, hls, line);
1074             else if (strncmp(line, "#EXT-X-ENDLIST", 14) == 0)
1075                 err = parse_EndList(s, hls);
1076             else if ((strncmp(line, "#", 1) != 0) && (*line != '\0') )
1077             {
1078                 err = parse_AddSegment(hls, segment_duration, line);
1079                 segment_duration = -1; /* reset duration */
1080             }
1081
1082             free(line);
1083             line = NULL;
1084
1085             if (p_begin >= p_end)
1086                 break;
1087
1088         } while (err == VLC_SUCCESS);
1089
1090         free(line);
1091     }
1092
1093     return err;
1094 }
1095
1096
1097 static int hls_DownloadSegmentKey(stream_t *s, segment_t *seg)
1098 {
1099     stream_t *p_m3u8 = stream_UrlNew(s, seg->psz_key_path);
1100     if (p_m3u8 == NULL)
1101     {
1102         msg_Err(s, "Failed to load the AES key for segment sequence %d", seg->sequence);
1103         return VLC_EGENERIC;
1104     }
1105
1106     int len = stream_Read(p_m3u8, seg->aes_key, sizeof(seg->aes_key));
1107     stream_Delete(p_m3u8);
1108     if (len != AES_BLOCK_SIZE)
1109     {
1110         msg_Err(s, "The AES key loaded doesn't have the right size (%d)", len);
1111         return VLC_EGENERIC;
1112     }
1113
1114     return VLC_SUCCESS;
1115 }
1116
1117 static int hls_ManageSegmentKeys(stream_t *s, hls_stream_t *hls)
1118 {
1119     segment_t   *seg = NULL;
1120     segment_t   *prev_seg;
1121     int         count = vlc_array_count(hls->segments);
1122
1123     for (int i = 0; i < count; i++)
1124     {
1125         prev_seg = seg;
1126         seg = segment_GetSegment(hls, i);
1127         if (seg == NULL )
1128             continue;
1129         if (seg->psz_key_path == NULL)
1130             continue;   /* No key to load ? continue */
1131         if (seg->b_key_loaded)
1132             continue;   /* The key is already loaded */
1133
1134         /* if the key has not changed, and already available from previous segment,
1135          * try to copy it, and don't load the key */
1136         if (prev_seg && prev_seg->b_key_loaded && strcmp(seg->psz_key_path, prev_seg->psz_key_path) == 0)
1137         {
1138             memcpy(seg->aes_key, prev_seg->aes_key, AES_BLOCK_SIZE);
1139             seg->b_key_loaded = true;
1140             continue;
1141         }
1142         if (hls_DownloadSegmentKey(s, seg) != VLC_SUCCESS)
1143             return VLC_EGENERIC;
1144        seg->b_key_loaded = true;
1145     }
1146     return VLC_SUCCESS;
1147 }
1148
1149 static int hls_DecodeSegmentData(stream_t *s, hls_stream_t *hls, segment_t *segment)
1150 {
1151     /* Did the segment need to be decoded ? */
1152     if (segment->psz_key_path == NULL)
1153         return VLC_SUCCESS;
1154
1155     /* Do we have loaded the key ? */
1156     if (!segment->b_key_loaded)
1157     {
1158         /* No ? try to download it now */
1159         if (hls_ManageSegmentKeys(s, hls) != VLC_SUCCESS)
1160             return VLC_EGENERIC;
1161     }
1162
1163     /* For now, we only decode AES-128 data */
1164     gcry_error_t i_gcrypt_err;
1165     gcry_cipher_hd_t aes_ctx;
1166     /* Setup AES */
1167     i_gcrypt_err = gcry_cipher_open(&aes_ctx, GCRY_CIPHER_AES,
1168                                      GCRY_CIPHER_MODE_CBC, 0);
1169     if (i_gcrypt_err)
1170     {
1171         msg_Err(s, "gcry_cipher_open failed: %s", gpg_strerror(i_gcrypt_err));
1172         gcry_cipher_close(aes_ctx);
1173         return VLC_EGENERIC;
1174     }
1175
1176     /* Set key */
1177     i_gcrypt_err = gcry_cipher_setkey(aes_ctx, segment->aes_key,
1178                                        sizeof(segment->aes_key));
1179     if (i_gcrypt_err)
1180     {
1181         msg_Err(s, "gcry_cipher_setkey failed: %s", gpg_strerror(i_gcrypt_err));
1182         gcry_cipher_close(aes_ctx);
1183         return VLC_EGENERIC;
1184     }
1185
1186     if (hls->b_iv_loaded == false)
1187     {
1188         memset(hls->psz_AES_IV, 0, AES_BLOCK_SIZE);
1189         hls->psz_AES_IV[15] = segment->sequence & 0xff;
1190         hls->psz_AES_IV[14] = (segment->sequence >> 8)& 0xff;
1191         hls->psz_AES_IV[13] = (segment->sequence >> 16)& 0xff;
1192         hls->psz_AES_IV[12] = (segment->sequence >> 24)& 0xff;
1193     }
1194
1195     i_gcrypt_err = gcry_cipher_setiv(aes_ctx, hls->psz_AES_IV,
1196                                       sizeof(hls->psz_AES_IV));
1197
1198     if (i_gcrypt_err)
1199     {
1200         msg_Err(s, "gcry_cipher_setiv failed: %s", gpg_strerror(i_gcrypt_err));
1201         gcry_cipher_close(aes_ctx);
1202         return VLC_EGENERIC;
1203     }
1204
1205     i_gcrypt_err = gcry_cipher_decrypt(aes_ctx,
1206                                        segment->data->p_buffer, /* out */
1207                                        segment->data->i_buffer,
1208                                        NULL, /* in */
1209                                        0);
1210     if (i_gcrypt_err)
1211     {
1212         msg_Err(s, "gcry_cipher_decrypt failed:  %s/%s\n", gcry_strsource(i_gcrypt_err), gcry_strerror(i_gcrypt_err));
1213         gcry_cipher_close(aes_ctx);
1214         return VLC_EGENERIC;
1215     }
1216     gcry_cipher_close(aes_ctx);
1217     /* remove the PKCS#7 padding from the buffer */
1218     int pad = segment->data->p_buffer[segment->data->i_buffer-1];
1219     if (pad <= 0 || pad > AES_BLOCK_SIZE)
1220     {
1221         msg_Err(s, "Bad padding character (0x%x), perhaps we failed to decrypt the segment with the correct key", pad);
1222         return VLC_EGENERIC;
1223     }
1224     int count = pad;
1225     while (count--)
1226     {
1227         if (segment->data->p_buffer[segment->data->i_buffer-1-count] != pad)
1228         {
1229                 msg_Err(s, "Bad ending buffer, perhaps we failed to decrypt the segment with the correct key");
1230                 return VLC_EGENERIC;
1231         }
1232     }
1233
1234     /* not all the data is readable because of padding */
1235     segment->data->i_buffer -= pad;
1236
1237     return VLC_SUCCESS;
1238 }
1239
1240 static int get_HTTPLiveMetaPlaylist(stream_t *s, vlc_array_t **streams)
1241 {
1242     stream_sys_t *p_sys = s->p_sys;
1243     assert(*streams);
1244     int err = VLC_EGENERIC;
1245
1246     /* Duplicate HLS stream META information */
1247     for (int i = 0; i < vlc_array_count(p_sys->hls_stream); i++)
1248     {
1249         hls_stream_t *src, *dst;
1250         src = hls_Get(p_sys->hls_stream, i);
1251         if (src == NULL)
1252             return VLC_EGENERIC;
1253
1254         dst = hls_Copy(src, false);
1255         if (dst == NULL)
1256             return VLC_ENOMEM;
1257         vlc_array_append(*streams, dst);
1258
1259         /* Download playlist file from server */
1260         uint8_t *buf = NULL;
1261         ssize_t len = read_M3U8_from_url(s, dst->url, &buf);
1262         if (len < 0)
1263             err = VLC_EGENERIC;
1264         else
1265         {
1266             /* Parse HLS m3u8 content. */
1267             err = parse_M3U8(s, *streams, buf, len);
1268             free(buf);
1269         }
1270     }
1271     return err;
1272 }
1273
1274 /* Update hls_old (an existing member of p_sys->hls_stream) to match hls_new
1275    (which represents a downloaded, perhaps newer version of the same playlist) */
1276 static int hls_UpdatePlaylist(stream_t *s, hls_stream_t *hls_new, hls_stream_t *hls_old)
1277 {
1278     int count = vlc_array_count(hls_new->segments);
1279
1280     msg_Info(s, "updating hls stream (program-id=%d, bandwidth=%"PRIu64") has %d segments",
1281              hls_new->id, hls_new->bandwidth, count);
1282
1283     vlc_mutex_lock(&hls_old->lock);
1284     for (int n = 0; n < count; n++)
1285     {
1286         segment_t *p = segment_GetSegment(hls_new, n);
1287         if (p == NULL) return VLC_EGENERIC;
1288
1289         segment_t *segment = segment_Find(hls_old, p->sequence);
1290         if (segment)
1291         {
1292             vlc_mutex_lock(&segment->lock);
1293
1294             assert(p->url);
1295             assert(segment->url);
1296
1297             /* they should be the same */
1298             if ((p->sequence != segment->sequence) ||
1299                 (p->duration != segment->duration) ||
1300                 (strcmp(p->url, segment->url) != 0))
1301             {
1302                 msg_Warn(s, "existing segment found with different content - resetting");
1303                 msg_Warn(s, "- sequence: new=%d, old=%d", p->sequence, segment->sequence);
1304                 msg_Warn(s, "- duration: new=%d, old=%d", p->duration, segment->duration);
1305                 msg_Warn(s, "- file: new=%s", p->url);
1306                 msg_Warn(s, "        old=%s", segment->url);
1307
1308                 /* Resetting content */
1309                 segment->sequence = p->sequence;
1310                 segment->duration = p->duration;
1311                 free(segment->url);
1312                 segment->url = strdup(p->url);
1313                 if ( segment->url == NULL )
1314                 {
1315                     msg_Err(s, "Failed updating segment %d - skipping it",  p->sequence);
1316                     segment_Free(p);
1317                     vlc_mutex_unlock(&segment->lock);
1318                     continue;
1319                 }
1320                 /* We must free the content, because if the key was not downloaded, content can't be decrypted */
1321                 if ((p->psz_key_path || p->b_key_loaded) &&
1322                     segment->data)
1323                 {
1324                     block_Release(segment->data);
1325                     segment->data = NULL;
1326                 }
1327                 free(segment->psz_key_path);
1328                 segment->psz_key_path = p->psz_key_path ? strdup(p->psz_key_path) : NULL;
1329                 segment_Free(p);
1330             }
1331             vlc_mutex_unlock(&segment->lock);
1332         }
1333         else
1334         {
1335             int last = vlc_array_count(hls_old->segments) - 1;
1336             segment_t *l = segment_GetSegment(hls_old, last);
1337             if (l == NULL) {
1338                 vlc_mutex_unlock(&hls_old->lock);
1339                 return VLC_EGENERIC;
1340             }
1341
1342             if ((l->sequence + 1) != p->sequence)
1343             {
1344                 msg_Err(s, "gap in sequence numbers found: new=%d expected %d",
1345                         p->sequence, l->sequence+1);
1346             }
1347             vlc_array_append(hls_old->segments, p);
1348             msg_Info(s, "- segment %d appended", p->sequence);
1349         }
1350     }
1351
1352     /* update meta information */
1353     hls_old->sequence = hls_new->sequence;
1354     hls_old->duration = (hls_new->duration == -1) ? hls_old->duration : hls_new->duration;
1355     hls_old->b_cache = hls_new->b_cache;
1356     vlc_mutex_unlock(&hls_old->lock);
1357     return VLC_SUCCESS;
1358
1359 }
1360
1361 static int hls_ReloadPlaylist(stream_t *s)
1362 {
1363     stream_sys_t *p_sys = s->p_sys;
1364
1365     vlc_array_t *hls_streams = vlc_array_new();
1366     if (hls_streams == NULL)
1367         return VLC_ENOMEM;
1368
1369     msg_Info(s, "Reloading HLS live meta playlist");
1370
1371     if (get_HTTPLiveMetaPlaylist(s, &hls_streams) != VLC_SUCCESS)
1372     {
1373         /* Free hls streams */
1374         for (int i = 0; i < vlc_array_count(hls_streams); i++)
1375         {
1376             hls_stream_t *hls;
1377             hls = hls_Get(hls_streams, i);
1378             if (hls) hls_Free(hls);
1379         }
1380         vlc_array_destroy(hls_streams);
1381
1382         msg_Err(s, "reloading playlist failed");
1383         return VLC_EGENERIC;
1384     }
1385
1386     /* merge playlists */
1387     int count = vlc_array_count(hls_streams);
1388     for (int n = 0; n < count; n++)
1389     {
1390         hls_stream_t *hls_new = hls_Get(hls_streams, n);
1391         if (hls_new == NULL)
1392             continue;
1393
1394         hls_stream_t *hls_old = hls_Find(p_sys->hls_stream, hls_new);
1395         if (hls_old == NULL)
1396         {   /* new hls stream - append */
1397             vlc_array_append(p_sys->hls_stream, hls_new);
1398             msg_Info(s, "new HLS stream appended (id=%d, bandwidth=%"PRIu64")",
1399                      hls_new->id, hls_new->bandwidth);
1400         }
1401         else if (hls_UpdatePlaylist(s, hls_new, hls_old) != VLC_SUCCESS)
1402             msg_Info(s, "failed updating HLS stream (id=%d, bandwidth=%"PRIu64")",
1403                      hls_new->id, hls_new->bandwidth);
1404     }
1405     vlc_array_destroy(hls_streams);
1406     return VLC_SUCCESS;
1407 }
1408
1409 /****************************************************************************
1410  * hls_Thread
1411  ****************************************************************************/
1412 static int BandwidthAdaptation(stream_t *s, int progid, uint64_t *bandwidth)
1413 {
1414     stream_sys_t *p_sys = s->p_sys;
1415     int candidate = -1;
1416     uint64_t bw = *bandwidth;
1417     uint64_t bw_candidate = 0;
1418
1419     int count = vlc_array_count(p_sys->hls_stream);
1420     for (int n = 0; n < count; n++)
1421     {
1422         /* Select best bandwidth match */
1423         hls_stream_t *hls = hls_Get(p_sys->hls_stream, n);
1424         if (hls == NULL) break;
1425
1426         /* only consider streams with the same PROGRAM-ID */
1427         if (hls->id == progid)
1428         {
1429             if ((bw >= hls->bandwidth) && (bw_candidate < hls->bandwidth))
1430             {
1431                 msg_Dbg(s, "candidate %d bandwidth (bits/s) %"PRIu64" >= %"PRIu64,
1432                          n, bw, hls->bandwidth); /* bits / s */
1433                 bw_candidate = hls->bandwidth;
1434                 candidate = n; /* possible candidate */
1435             }
1436         }
1437     }
1438     *bandwidth = bw_candidate;
1439     return candidate;
1440 }
1441
1442 static int hls_DownloadSegmentData(stream_t *s, hls_stream_t *hls, segment_t *segment, int *cur_stream)
1443 {
1444     stream_sys_t *p_sys = s->p_sys;
1445
1446     assert(hls);
1447     assert(segment);
1448
1449     vlc_mutex_lock(&segment->lock);
1450     if (segment->data != NULL)
1451     {
1452         /* Segment already downloaded */
1453         vlc_mutex_unlock(&segment->lock);
1454         return VLC_SUCCESS;
1455     }
1456
1457     /* sanity check - can we download this segment on time? */
1458     if ((p_sys->bandwidth > 0) && (hls->bandwidth > 0))
1459     {
1460         uint64_t size = (segment->duration * hls->bandwidth); /* bits */
1461         int estimated = (int)(size / p_sys->bandwidth);
1462         if (estimated > segment->duration)
1463         {
1464             msg_Warn(s,"downloading segment %d predicted to take %ds, which exceeds its length (%ds)",
1465                         segment->sequence, estimated, segment->duration);
1466         }
1467     }
1468
1469     mtime_t start = mdate();
1470     if (hls_Download(s, segment) != VLC_SUCCESS)
1471     {
1472         msg_Err(s, "downloading segment %d from stream %d failed",
1473                     segment->sequence, *cur_stream);
1474         vlc_mutex_unlock(&segment->lock);
1475         return VLC_EGENERIC;
1476     }
1477     mtime_t duration = mdate() - start;
1478     if (hls->bandwidth == 0 && segment->duration > 0)
1479     {
1480         /* Try to estimate the bandwidth for this stream */
1481         hls->bandwidth = (uint64_t)(((double)segment->size * 8) / ((double)segment->duration));
1482     }
1483
1484     /* If the segment is encrypted, decode it */
1485     if (hls_DecodeSegmentData(s, hls, segment) != VLC_SUCCESS)
1486     {
1487         vlc_mutex_unlock(&segment->lock);
1488         return VLC_EGENERIC;
1489     }
1490
1491     vlc_mutex_unlock(&segment->lock);
1492
1493     msg_Info(s, "downloaded segment %d from stream %d",
1494                 segment->sequence, *cur_stream);
1495
1496     uint64_t bw = segment->size * 8 * 1000000 / __MAX(1, duration); /* bits / s */
1497     p_sys->bandwidth = bw;
1498     if (p_sys->b_meta && (hls->bandwidth != bw))
1499     {
1500         int newstream = BandwidthAdaptation(s, hls->id, &bw);
1501
1502         /* FIXME: we need an average here */
1503         if ((newstream >= 0) && (newstream != *cur_stream))
1504         {
1505             msg_Info(s, "detected %s bandwidth (%"PRIu64") stream",
1506                      (bw >= hls->bandwidth) ? "faster" : "lower", bw);
1507             *cur_stream = newstream;
1508         }
1509     }
1510     return VLC_SUCCESS;
1511 }
1512
1513 static void* hls_Thread(void *p_this)
1514 {
1515     stream_t *s = (stream_t *)p_this;
1516     stream_sys_t *p_sys = s->p_sys;
1517
1518     int canc = vlc_savecancel();
1519
1520     while (vlc_object_alive(s))
1521     {
1522         hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->download.stream);
1523         assert(hls);
1524
1525         /* Sliding window (~60 seconds worth of movie) */
1526         vlc_mutex_lock(&hls->lock);
1527         int count = vlc_array_count(hls->segments);
1528         vlc_mutex_unlock(&hls->lock);
1529
1530         /* Is there a new segment to process? */
1531         if ((!p_sys->b_live && (p_sys->playback.segment < (count - 6))) ||
1532             (p_sys->download.segment >= count))
1533         {
1534             /* wait */
1535             vlc_mutex_lock(&p_sys->download.lock_wait);
1536             while (((p_sys->download.segment - p_sys->playback.segment > 6) ||
1537                     (p_sys->download.segment >= count)) &&
1538                    (p_sys->download.seek == -1))
1539             {
1540                 vlc_cond_wait(&p_sys->download.wait, &p_sys->download.lock_wait);
1541                 if (p_sys->b_live /*&& (mdate() >= p_sys->playlist.wakeup)*/)
1542                     break;
1543                 if (!vlc_object_alive(s))
1544                     break;
1545             }
1546             /* */
1547             if (p_sys->download.seek >= 0)
1548             {
1549                 p_sys->download.segment = p_sys->download.seek;
1550                 p_sys->download.seek = -1;
1551             }
1552             vlc_mutex_unlock(&p_sys->download.lock_wait);
1553         }
1554
1555         if (!vlc_object_alive(s)) break;
1556
1557         vlc_mutex_lock(&hls->lock);
1558         segment_t *segment = segment_GetSegment(hls, p_sys->download.segment);
1559         vlc_mutex_unlock(&hls->lock);
1560
1561         if ((segment != NULL) &&
1562             (hls_DownloadSegmentData(s, hls, segment, &p_sys->download.stream) != VLC_SUCCESS))
1563         {
1564             if (!vlc_object_alive(s)) break;
1565
1566             if (!p_sys->b_live)
1567             {
1568                 p_sys->b_error = true;
1569                 break;
1570             }
1571         }
1572
1573         /* download succeeded */
1574         /* determine next segment to download */
1575         vlc_mutex_lock(&p_sys->download.lock_wait);
1576         if (p_sys->download.seek >= 0)
1577         {
1578             p_sys->download.segment = p_sys->download.seek;
1579             p_sys->download.seek = -1;
1580         }
1581         else if (p_sys->download.segment < count)
1582             p_sys->download.segment++;
1583         vlc_cond_signal(&p_sys->download.wait);
1584         vlc_mutex_unlock(&p_sys->download.lock_wait);
1585     }
1586
1587     vlc_restorecancel(canc);
1588     return NULL;
1589 }
1590
1591 static void* hls_Reload(void *p_this)
1592 {
1593     stream_t *s = (stream_t *)p_this;
1594     stream_sys_t *p_sys = s->p_sys;
1595
1596     assert(p_sys->b_live);
1597
1598     int canc = vlc_savecancel();
1599
1600     double wait = 0.5;
1601     while (vlc_object_alive(s))
1602     {
1603         mtime_t now = mdate();
1604         if (now >= p_sys->playlist.wakeup)
1605         {
1606             /* reload the m3u8 */
1607             if (hls_ReloadPlaylist(s) != VLC_SUCCESS)
1608             {
1609                 /* No change in playlist, then backoff */
1610                 p_sys->playlist.tries++;
1611                 if (p_sys->playlist.tries == 1) wait = 0.5;
1612                 else if (p_sys->playlist.tries == 2) wait = 1;
1613                 else if (p_sys->playlist.tries >= 3) wait = 2;
1614
1615                 /* Can we afford to backoff? */
1616                 if (p_sys->download.segment - p_sys->playback.segment < 3)
1617                 {
1618                     p_sys->playlist.tries = 0;
1619                     wait = 0.5;
1620                 }
1621             }
1622             else
1623             {
1624                 p_sys->playlist.tries = 0;
1625                 wait = 0.5;
1626             }
1627
1628             hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->download.stream);
1629             assert(hls);
1630
1631             /* determine next time to update playlist */
1632             p_sys->playlist.last = now;
1633             p_sys->playlist.wakeup = now + ((mtime_t)(hls->duration * wait)
1634                                                    * (mtime_t)1000000);
1635         }
1636
1637         mwait(p_sys->playlist.wakeup);
1638     }
1639
1640     vlc_restorecancel(canc);
1641     return NULL;
1642 }
1643
1644 static int Prefetch(stream_t *s, int *current)
1645 {
1646     stream_sys_t *p_sys = s->p_sys;
1647     int stream = *current;
1648
1649     hls_stream_t *hls = hls_Get(p_sys->hls_stream, stream);
1650     if (hls == NULL)
1651         return VLC_EGENERIC;
1652
1653     if (vlc_array_count(hls->segments) == 0)
1654         return VLC_EGENERIC;
1655     else if (vlc_array_count(hls->segments) == 1 && p_sys->b_live)
1656         msg_Warn(s, "Only 1 segment available to prefetch in live stream; may stall");
1657
1658     /* Download first 2 segments of this HLS stream if they exist */
1659     for (int i = 0; i < __MIN(vlc_array_count(hls->segments), 2); i++)
1660     {
1661         segment_t *segment = segment_GetSegment(hls, p_sys->download.segment);
1662         if (segment == NULL )
1663             return VLC_EGENERIC;
1664
1665         /* It is useless to lock the segment here, as Prefetch is called before
1666            download and playlit thread are started. */
1667         if (segment->data)
1668         {
1669             p_sys->download.segment++;
1670             continue;
1671         }
1672
1673         if (hls_DownloadSegmentData(s, hls, segment, current) != VLC_SUCCESS)
1674             return VLC_EGENERIC;
1675
1676         p_sys->download.segment++;
1677
1678         /* adapt bandwidth? */
1679         if (*current != stream)
1680         {
1681             hls_stream_t *hls = hls_Get(p_sys->hls_stream, *current);
1682             if (hls == NULL)
1683                 return VLC_EGENERIC;
1684
1685              stream = *current;
1686         }
1687     }
1688
1689     return VLC_SUCCESS;
1690 }
1691
1692 /****************************************************************************
1693  *
1694  ****************************************************************************/
1695 static int hls_Download(stream_t *s, segment_t *segment)
1696 {
1697     assert(segment);
1698
1699     stream_t *p_ts = stream_UrlNew(s, segment->url);
1700     if (p_ts == NULL)
1701         return VLC_EGENERIC;
1702
1703     segment->size = stream_Size(p_ts);
1704     assert(segment->size > 0);
1705
1706     segment->data = block_Alloc(segment->size);
1707     if (segment->data == NULL)
1708     {
1709         stream_Delete(p_ts);
1710         return VLC_ENOMEM;
1711     }
1712
1713     assert(segment->data->i_buffer == segment->size);
1714
1715     ssize_t length = 0, curlen = 0;
1716     uint64_t size;
1717     do
1718     {
1719         /* NOTE: Beware the size reported for a segment by the HLS server may not
1720          * be correct, when downloading the segment data. Therefore check the size
1721          * and enlarge the segment data block if necessary.
1722          */
1723         size = stream_Size(p_ts);
1724         if (size > segment->size)
1725         {
1726             msg_Dbg(s, "size changed %"PRIu64, segment->size);
1727             block_t *p_block = block_Realloc(segment->data, 0, size);
1728             if (p_block == NULL)
1729             {
1730                 stream_Delete(p_ts);
1731                 block_Release(segment->data);
1732                 segment->data = NULL;
1733                 return VLC_ENOMEM;
1734             }
1735             segment->data = p_block;
1736             segment->size = size;
1737             assert(segment->data->i_buffer == segment->size);
1738             p_block = NULL;
1739         }
1740         length = stream_Read(p_ts, segment->data->p_buffer + curlen, segment->size - curlen);
1741         if (length <= 0)
1742             break;
1743         curlen += length;
1744     } while (vlc_object_alive(s));
1745
1746     stream_Delete(p_ts);
1747     return VLC_SUCCESS;
1748 }
1749
1750 /* Read M3U8 file */
1751 static ssize_t read_M3U8_from_stream(stream_t *s, uint8_t **buffer)
1752 {
1753     int64_t total_bytes = 0;
1754     int64_t total_allocated = 0;
1755     uint8_t *p = NULL;
1756
1757     while (1)
1758     {
1759         char buf[4096];
1760         int64_t bytes;
1761
1762         bytes = stream_Read(s, buf, sizeof(buf));
1763         if (bytes == 0)
1764             break;      /* EOF ? */
1765         else if (bytes < 0)
1766             return bytes;
1767
1768         if ( (total_bytes + bytes + 1) > total_allocated )
1769         {
1770             if (total_allocated)
1771                 total_allocated *= 2;
1772             else
1773                 total_allocated = __MIN((uint64_t)bytes+1, sizeof(buf));
1774
1775             p = realloc_or_free(p, total_allocated);
1776             if (p == NULL)
1777                 return VLC_ENOMEM;
1778         }
1779
1780         memcpy(p+total_bytes, buf, bytes);
1781         total_bytes += bytes;
1782     }
1783
1784     if (total_allocated == 0)
1785         return VLC_EGENERIC;
1786
1787     p[total_bytes] = '\0';
1788     *buffer = p;
1789
1790     return total_bytes;
1791 }
1792
1793 static ssize_t read_M3U8_from_url(stream_t *s, const char* psz_url, uint8_t **buffer)
1794 {
1795     assert(*buffer == NULL);
1796
1797     /* Construct URL */
1798     stream_t *p_m3u8 = stream_UrlNew(s, psz_url);
1799     if (p_m3u8 == NULL)
1800         return VLC_EGENERIC;
1801
1802     ssize_t size = read_M3U8_from_stream(p_m3u8, buffer);
1803     stream_Delete(p_m3u8);
1804
1805     return size;
1806 }
1807
1808 static char *ReadLine(uint8_t *buffer, uint8_t **pos, const size_t len)
1809 {
1810     assert(buffer);
1811
1812     char *line = NULL;
1813     uint8_t *begin = buffer;
1814     uint8_t *p = begin;
1815     uint8_t *end = p + len;
1816
1817     while (p < end)
1818     {
1819         if ((*p == '\r') || (*p == '\n') || (*p == '\0'))
1820             break;
1821         p++;
1822     }
1823
1824     /* copy line excluding \r \n or \0 */
1825     line = strndup((char *)begin, p - begin);
1826
1827     while ((*p == '\r') || (*p == '\n') || (*p == '\0'))
1828     {
1829         if (*p == '\0')
1830         {
1831             *pos = end;
1832             break;
1833         }
1834         else
1835         {
1836             /* next pass start after \r and \n */
1837             p++;
1838             *pos = p;
1839         }
1840     }
1841
1842     return line;
1843 }
1844
1845 /****************************************************************************
1846  * Open
1847  ****************************************************************************/
1848 static int Open(vlc_object_t *p_this)
1849 {
1850     stream_t *s = (stream_t*)p_this;
1851     stream_sys_t *p_sys;
1852
1853     if (!isHTTPLiveStreaming(s))
1854         return VLC_EGENERIC;
1855
1856     msg_Info(p_this, "HTTP Live Streaming (%s)", s->psz_path);
1857
1858     /* Initialize crypto bit */
1859     vlc_gcrypt_init();
1860
1861     /* */
1862     s->p_sys = p_sys = calloc(1, sizeof(*p_sys));
1863     if (p_sys == NULL)
1864         return VLC_ENOMEM;
1865
1866     char *psz_uri = NULL;
1867     if (asprintf(&psz_uri,"%s://%s", s->psz_access, s->psz_path) < 0)
1868     {
1869         free(p_sys);
1870         return VLC_ENOMEM;
1871     }
1872     p_sys->m3u8 = psz_uri;
1873
1874     char *new_path;
1875     if (asprintf(&new_path, "%s.ts", s->psz_path) < 0)
1876     {
1877         free(p_sys->m3u8);
1878         free(p_sys);
1879         return VLC_ENOMEM;
1880     }
1881     free(s->psz_path);
1882     s->psz_path = new_path;
1883
1884     p_sys->bandwidth = 0;
1885     p_sys->b_live = true;
1886     p_sys->b_meta = false;
1887     p_sys->b_error = false;
1888
1889     p_sys->hls_stream = vlc_array_new();
1890     if (p_sys->hls_stream == NULL)
1891     {
1892         free(p_sys->m3u8);
1893         free(p_sys);
1894         return VLC_ENOMEM;
1895     }
1896
1897     /* */
1898     s->pf_read = Read;
1899     s->pf_peek = Peek;
1900     s->pf_control = Control;
1901
1902     /* Parse HLS m3u8 content. */
1903     uint8_t *buffer = NULL;
1904     ssize_t len = read_M3U8_from_stream(s->p_source, &buffer);
1905     if (len < 0)
1906         goto fail;
1907     if (parse_M3U8(s, p_sys->hls_stream, buffer, len) != VLC_SUCCESS)
1908     {
1909         free(buffer);
1910         goto fail;
1911     }
1912     free(buffer);
1913     /* HLS standard doesn't provide any guaranty about streams
1914        being sorted by bandwidth, so we sort them */
1915     qsort( p_sys->hls_stream->pp_elems, p_sys->hls_stream->i_count,
1916            sizeof( hls_stream_t* ), &hls_CompareStreams );
1917
1918     /* Choose first HLS stream to start with */
1919     int current = p_sys->playback.stream = 0;
1920     p_sys->playback.segment = p_sys->download.segment = ChooseSegment(s, current);
1921
1922     /* manage encryption key if needed */
1923     hls_ManageSegmentKeys(s, hls_Get(p_sys->hls_stream, current));
1924
1925     if (Prefetch(s, &current) != VLC_SUCCESS)
1926     {
1927         msg_Err(s, "fetching first segment failed.");
1928         goto fail;
1929     }
1930
1931     p_sys->download.stream = current;
1932     p_sys->playback.stream = current;
1933     p_sys->download.seek = -1;
1934
1935     vlc_mutex_init(&p_sys->download.lock_wait);
1936     vlc_cond_init(&p_sys->download.wait);
1937
1938     /* Initialize HLS live stream */
1939     if (p_sys->b_live)
1940     {
1941         hls_stream_t *hls = hls_Get(p_sys->hls_stream, current);
1942         p_sys->playlist.last = mdate();
1943         p_sys->playlist.wakeup = p_sys->playlist.last +
1944                 ((mtime_t)hls->duration * UINT64_C(1000000));
1945
1946         if (vlc_clone(&p_sys->reload, hls_Reload, s, VLC_THREAD_PRIORITY_LOW))
1947         {
1948             goto fail_thread;
1949         }
1950     }
1951
1952     if (vlc_clone(&p_sys->thread, hls_Thread, s, VLC_THREAD_PRIORITY_INPUT))
1953     {
1954         if (p_sys->b_live)
1955             vlc_join(p_sys->reload, NULL);
1956         goto fail_thread;
1957     }
1958
1959     return VLC_SUCCESS;
1960
1961 fail_thread:
1962     vlc_mutex_destroy(&p_sys->download.lock_wait);
1963     vlc_cond_destroy(&p_sys->download.wait);
1964
1965 fail:
1966     /* Free hls streams */
1967     for (int i = 0; i < vlc_array_count(p_sys->hls_stream); i++)
1968     {
1969         hls_stream_t *hls = hls_Get(p_sys->hls_stream, i);
1970         if (hls) hls_Free(hls);
1971     }
1972     vlc_array_destroy(p_sys->hls_stream);
1973
1974     /* */
1975     free(p_sys->m3u8);
1976     free(p_sys);
1977     return VLC_EGENERIC;
1978 }
1979
1980 /****************************************************************************
1981  * Close
1982  ****************************************************************************/
1983 static void Close(vlc_object_t *p_this)
1984 {
1985     stream_t *s = (stream_t*)p_this;
1986     stream_sys_t *p_sys = s->p_sys;
1987
1988     assert(p_sys->hls_stream);
1989
1990     /* */
1991     vlc_mutex_lock(&p_sys->download.lock_wait);
1992     /* negate the condition variable's predicate */
1993     p_sys->download.segment = p_sys->playback.segment = 0;
1994     p_sys->download.seek = 0; /* better safe than sorry */
1995     vlc_cond_signal(&p_sys->download.wait);
1996     vlc_mutex_unlock(&p_sys->download.lock_wait);
1997
1998     /* */
1999     if (p_sys->b_live)
2000         vlc_join(p_sys->reload, NULL);
2001     vlc_join(p_sys->thread, NULL);
2002     vlc_mutex_destroy(&p_sys->download.lock_wait);
2003     vlc_cond_destroy(&p_sys->download.wait);
2004
2005     /* Free hls streams */
2006     for (int i = 0; i < vlc_array_count(p_sys->hls_stream); i++)
2007     {
2008         hls_stream_t *hls = hls_Get(p_sys->hls_stream, i);
2009         if (hls) hls_Free(hls);
2010     }
2011     vlc_array_destroy(p_sys->hls_stream);
2012
2013     /* */
2014     free(p_sys->m3u8);
2015     if (p_sys->peeked)
2016         block_Release (p_sys->peeked);
2017     free(p_sys);
2018 }
2019
2020 /****************************************************************************
2021  * Stream filters functions
2022  ****************************************************************************/
2023 static segment_t *GetSegment(stream_t *s)
2024 {
2025     stream_sys_t *p_sys = s->p_sys;
2026     segment_t *segment = NULL;
2027
2028     /* Is this segment of the current HLS stream ready? */
2029     hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->playback.stream);
2030     if (hls != NULL)
2031     {
2032         vlc_mutex_lock(&hls->lock);
2033         segment = segment_GetSegment(hls, p_sys->playback.segment);
2034         if (segment != NULL)
2035         {
2036             vlc_mutex_lock(&segment->lock);
2037             /* This segment is ready? */
2038             if (segment->data != NULL)
2039             {
2040                 vlc_mutex_unlock(&segment->lock);
2041                 p_sys->b_cache = hls->b_cache;
2042                 vlc_mutex_unlock(&hls->lock);
2043                 goto check;
2044             }
2045             vlc_mutex_unlock(&segment->lock);
2046         }
2047         vlc_mutex_unlock(&hls->lock);
2048     }
2049
2050     /* Was the HLS stream changed to another bitrate? */
2051     segment = NULL;
2052     for (int i_stream = 0; i_stream < vlc_array_count(p_sys->hls_stream); i_stream++)
2053     {
2054         /* Is the next segment ready */
2055         hls_stream_t *hls = hls_Get(p_sys->hls_stream, i_stream);
2056         if (hls == NULL)
2057             return NULL;
2058
2059         vlc_mutex_lock(&hls->lock);
2060         segment = segment_GetSegment(hls, p_sys->playback.segment);
2061         if (segment == NULL)
2062         {
2063             vlc_mutex_unlock(&hls->lock);
2064             break;
2065         }
2066
2067         vlc_mutex_lock(&p_sys->download.lock_wait);
2068         int i_segment = p_sys->download.segment;
2069         vlc_mutex_unlock(&p_sys->download.lock_wait);
2070
2071         vlc_mutex_lock(&segment->lock);
2072         /* This segment is ready? */
2073         if ((segment->data != NULL) &&
2074             (p_sys->playback.segment < i_segment))
2075         {
2076             p_sys->playback.stream = i_stream;
2077             p_sys->b_cache = hls->b_cache;
2078             vlc_mutex_unlock(&segment->lock);
2079             vlc_mutex_unlock(&hls->lock);
2080             goto check;
2081         }
2082         vlc_mutex_unlock(&segment->lock);
2083         vlc_mutex_unlock(&hls->lock);
2084
2085         if (!p_sys->b_meta)
2086             break;
2087     }
2088     /* */
2089     return NULL;
2090
2091 check:
2092     /* sanity check */
2093     assert(segment->data);
2094     if (segment->data->i_buffer == 0)
2095     {
2096         vlc_mutex_lock(&hls->lock);
2097         int count = vlc_array_count(hls->segments);
2098         vlc_mutex_unlock(&hls->lock);
2099
2100         if ((p_sys->download.segment - p_sys->playback.segment == 0) &&
2101             ((count != p_sys->download.segment) || p_sys->b_live))
2102             msg_Err(s, "playback will stall");
2103         else if ((p_sys->download.segment - p_sys->playback.segment < 3) &&
2104                  ((count != p_sys->download.segment) || p_sys->b_live))
2105             msg_Warn(s, "playback in danger of stalling");
2106     }
2107     return segment;
2108 }
2109
2110 static int segment_RestorePos(segment_t *segment)
2111 {
2112     if (segment->data)
2113     {
2114         uint64_t size = segment->size - segment->data->i_buffer;
2115         if (size > 0)
2116         {
2117             segment->data->i_buffer += size;
2118             segment->data->p_buffer -= size;
2119         }
2120     }
2121     return VLC_SUCCESS;
2122 }
2123
2124 /* p_read might be NULL if caller wants to skip data */
2125 static ssize_t hls_Read(stream_t *s, uint8_t *p_read, unsigned int i_read)
2126 {
2127     stream_sys_t *p_sys = s->p_sys;
2128     ssize_t used = 0;
2129
2130     do
2131     {
2132         /* Determine next segment to read. If this is a meta playlist and
2133          * bandwidth conditions changed, then the stream might have switched
2134          * to another bandwidth. */
2135         segment_t *segment = GetSegment(s);
2136         if (segment == NULL)
2137             break;
2138
2139         vlc_mutex_lock(&segment->lock);
2140         if (segment->data->i_buffer == 0)
2141         {
2142             if (!p_sys->b_cache || p_sys->b_live)
2143             {
2144                 block_Release(segment->data);
2145                 segment->data = NULL;
2146             }
2147             else
2148                 segment_RestorePos(segment);
2149
2150             vlc_mutex_unlock(&segment->lock);
2151
2152             /* signal download thread */
2153             vlc_mutex_lock(&p_sys->download.lock_wait);
2154             p_sys->playback.segment++;
2155             vlc_cond_signal(&p_sys->download.wait);
2156             vlc_mutex_unlock(&p_sys->download.lock_wait);
2157             continue;
2158         }
2159
2160         if (segment->size == segment->data->i_buffer)
2161             msg_Info(s, "playing segment %d from stream %d",
2162                      segment->sequence, p_sys->playback.stream);
2163
2164         ssize_t len = -1;
2165         if (i_read <= segment->data->i_buffer)
2166             len = i_read;
2167         else if (i_read > segment->data->i_buffer)
2168             len = segment->data->i_buffer;
2169
2170         if (len > 0)
2171         {
2172             if (p_read) /* if NULL, then caller skips data */
2173                 memcpy(p_read + used, segment->data->p_buffer, len);
2174             segment->data->i_buffer -= len;
2175             segment->data->p_buffer += len;
2176             used += len;
2177             i_read -= len;
2178         }
2179         vlc_mutex_unlock(&segment->lock);
2180
2181     } while (i_read > 0);
2182
2183     return used;
2184 }
2185
2186 static int Read(stream_t *s, void *buffer, unsigned int i_read)
2187 {
2188     stream_sys_t *p_sys = s->p_sys;
2189     ssize_t length = 0;
2190
2191     assert(p_sys->hls_stream);
2192
2193     if (p_sys->b_error)
2194         return 0;
2195
2196     /* NOTE: buffer might be NULL if caller wants to skip data */
2197     length = hls_Read(s, (uint8_t*) buffer, i_read);
2198     if (length < 0)
2199         return 0;
2200
2201     p_sys->playback.offset += length;
2202     return length;
2203 }
2204
2205 static int Peek(stream_t *s, const uint8_t **pp_peek, unsigned int i_peek)
2206 {
2207     stream_sys_t *p_sys = s->p_sys;
2208     segment_t *segment;
2209     unsigned int len = i_peek;
2210
2211     segment = GetSegment(s);
2212     if (segment == NULL)
2213     {
2214         msg_Err(s, "segment %d should have been available (stream %d)",
2215                 p_sys->playback.segment, p_sys->playback.stream);
2216         return 0; /* eof? */
2217     }
2218
2219     vlc_mutex_lock(&segment->lock);
2220
2221     size_t i_buff = segment->data->i_buffer;
2222     uint8_t *p_buff = segment->data->p_buffer;
2223
2224     if (i_peek < i_buff)
2225     {
2226         *pp_peek = p_buff;
2227         vlc_mutex_unlock(&segment->lock);
2228         return i_peek;
2229     }
2230
2231     else /* This will seldom be run */
2232     {
2233         /* remember segment to read */
2234         int peek_segment = p_sys->playback.segment;
2235         size_t curlen = 0;
2236         segment_t *nsegment;
2237         p_sys->playback.segment++;
2238         block_t *peeked = p_sys->peeked;
2239
2240         if (peeked == NULL)
2241             peeked = block_Alloc (i_peek);
2242         else if (peeked->i_buffer < i_peek)
2243             peeked = block_Realloc (peeked, 0, i_peek);
2244         if (peeked == NULL)
2245             return 0;
2246         p_sys->peeked = peeked;
2247
2248         memcpy(peeked->p_buffer, p_buff, i_buff);
2249         curlen = i_buff;
2250         len -= i_buff;
2251         vlc_mutex_unlock(&segment->lock);
2252
2253         i_buff = peeked->i_buffer;
2254         p_buff = peeked->p_buffer;
2255         *pp_peek = p_buff;
2256
2257         while (curlen < i_peek)
2258         {
2259             nsegment = GetSegment(s);
2260             if (nsegment == NULL)
2261             {
2262                 msg_Err(s, "segment %d should have been available (stream %d)",
2263                         p_sys->playback.segment, p_sys->playback.stream);
2264                 /* restore segment to read */
2265                 p_sys->playback.segment = peek_segment;
2266                 return curlen; /* eof? */
2267             }
2268
2269             vlc_mutex_lock(&nsegment->lock);
2270
2271             if (len < nsegment->data->i_buffer)
2272             {
2273                 memcpy(p_buff + curlen, nsegment->data->p_buffer, len);
2274                 curlen += len;
2275             }
2276             else
2277             {
2278                 size_t i_nbuff = nsegment->data->i_buffer;
2279                 memcpy(p_buff + curlen, nsegment->data->p_buffer, i_nbuff);
2280                 curlen += i_nbuff;
2281                 len -= i_nbuff;
2282
2283                 p_sys->playback.segment++;
2284             }
2285
2286             vlc_mutex_unlock(&nsegment->lock);
2287         }
2288
2289         /* restore segment to read */
2290         p_sys->playback.segment = peek_segment;
2291         return curlen;
2292     }
2293 }
2294
2295 static bool hls_MaySeek(stream_t *s)
2296 {
2297     stream_sys_t *p_sys = s->p_sys;
2298
2299     if (p_sys->hls_stream == NULL)
2300         return false;
2301
2302     hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->playback.stream);
2303     if (hls == NULL) return false;
2304
2305     if (p_sys->b_live)
2306     {
2307         vlc_mutex_lock(&hls->lock);
2308         int count = vlc_array_count(hls->segments);
2309         vlc_mutex_unlock(&hls->lock);
2310
2311         vlc_mutex_lock(&p_sys->download.lock_wait);
2312         bool may_seek = (p_sys->download.segment < (count - 2));
2313         vlc_mutex_unlock(&p_sys->download.lock_wait);
2314         return may_seek;
2315     }
2316     return true;
2317 }
2318
2319 static uint64_t GetStreamSize(stream_t *s)
2320 {
2321     stream_sys_t *p_sys = s->p_sys;
2322
2323     if (p_sys->b_live)
2324         return 0;
2325
2326     hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->playback.stream);
2327     if (hls == NULL) return 0;
2328
2329     vlc_mutex_lock(&hls->lock);
2330     if (hls->size == 0)
2331         hls->size = hls_GetStreamSize(hls);
2332     uint64_t size = hls->size;
2333     vlc_mutex_unlock(&hls->lock);
2334
2335     return size;
2336 }
2337
2338 static int segment_Seek(stream_t *s, const uint64_t pos)
2339 {
2340     stream_sys_t *p_sys = s->p_sys;
2341
2342     hls_stream_t *hls = hls_Get(p_sys->hls_stream, p_sys->playback.stream);
2343     if (hls == NULL)
2344         return VLC_EGENERIC;
2345
2346     vlc_mutex_lock(&hls->lock);
2347
2348     bool b_found = false;
2349     uint64_t length = 0;
2350     uint64_t size = hls->size;
2351     int count = vlc_array_count(hls->segments);
2352
2353     segment_t *currentSegment = segment_GetSegment(hls, p_sys->playback.segment);
2354     if (currentSegment == NULL)
2355     {
2356         vlc_mutex_unlock(&hls->lock);
2357         return VLC_EGENERIC;
2358     }
2359
2360     for (int n = 0; n < count; n++)
2361     {
2362         segment_t *segment = segment_GetSegment(hls, n);
2363         if (segment == NULL)
2364         {
2365             vlc_mutex_unlock(&hls->lock);
2366             return VLC_EGENERIC;
2367         }
2368
2369         vlc_mutex_lock(&segment->lock);
2370         length += segment->duration * (hls->bandwidth/8);
2371         vlc_mutex_unlock(&segment->lock);
2372
2373         if (pos <= length)
2374         {
2375             if (count - n >= 3)
2376             {
2377                 p_sys->playback.segment = n;
2378                 b_found = true;
2379                 break;
2380             }
2381             /* Do not search in last 3 segments */
2382             vlc_mutex_unlock(&hls->lock);
2383             return VLC_EGENERIC;
2384         }
2385     }
2386
2387     /* */
2388     if (!b_found && (pos >= size))
2389     {
2390         p_sys->playback.segment = count - 1;
2391         b_found = true;
2392     }
2393
2394     /* */
2395     if (b_found)
2396     {
2397
2398         /* restore current segment to start position */
2399         vlc_mutex_lock(&currentSegment->lock);
2400         segment_RestorePos(currentSegment);
2401         vlc_mutex_unlock(&currentSegment->lock);
2402
2403         /* restore seeked segment to start position */
2404         segment_t *segment = segment_GetSegment(hls, p_sys->playback.segment);
2405         if (segment == NULL)
2406         {
2407             vlc_mutex_unlock(&hls->lock);
2408             return VLC_EGENERIC;
2409         }
2410
2411         vlc_mutex_lock(&segment->lock);
2412         segment_RestorePos(segment);
2413         vlc_mutex_unlock(&segment->lock);
2414
2415         /* start download at current playback segment */
2416         vlc_mutex_unlock(&hls->lock);
2417
2418         /* Wake up download thread */
2419         vlc_mutex_lock(&p_sys->download.lock_wait);
2420         p_sys->download.seek = p_sys->playback.segment;
2421         vlc_cond_signal(&p_sys->download.wait);
2422
2423         /* Wait for download to be finished */
2424         msg_Info(s, "seek to segment %d", p_sys->playback.segment);
2425         while ((p_sys->download.seek != -1) ||
2426                ((p_sys->download.segment - p_sys->playback.segment < 3) &&
2427                 (p_sys->download.segment < count)))
2428         {
2429             vlc_cond_wait(&p_sys->download.wait, &p_sys->download.lock_wait);
2430             if (!vlc_object_alive(s) || s->b_error) break;
2431         }
2432         vlc_mutex_unlock(&p_sys->download.lock_wait);
2433
2434         return VLC_SUCCESS;
2435     }
2436     vlc_mutex_unlock(&hls->lock);
2437
2438     return b_found ? VLC_SUCCESS : VLC_EGENERIC;
2439 }
2440
2441 static int Control(stream_t *s, int i_query, va_list args)
2442 {
2443     stream_sys_t *p_sys = s->p_sys;
2444
2445     switch (i_query)
2446     {
2447         case STREAM_CAN_SEEK:
2448             *(va_arg (args, bool *)) = hls_MaySeek(s);
2449             break;
2450         case STREAM_GET_POSITION:
2451             *(va_arg (args, uint64_t *)) = p_sys->playback.offset;
2452             break;
2453         case STREAM_SET_POSITION:
2454             if (hls_MaySeek(s))
2455             {
2456                 uint64_t pos = (uint64_t)va_arg(args, uint64_t);
2457                 if (segment_Seek(s, pos) == VLC_SUCCESS)
2458                 {
2459                     p_sys->playback.offset = pos;
2460                     break;
2461                 }
2462             }
2463             return VLC_EGENERIC;
2464         case STREAM_GET_SIZE:
2465             *(va_arg (args, uint64_t *)) = GetStreamSize(s);
2466             break;
2467         default:
2468             return VLC_EGENERIC;
2469     }
2470     return VLC_SUCCESS;
2471 }