git.sesse.net Git - ffmpeg/blob - libavformat/http.c

   1 /*
   2  * HTTP protocol for ffmpeg client
   3  * Copyright (c) 2000, 2001 Fabrice Bellard
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "config.h"
  23
  24 #if CONFIG_ZLIB
  25 #include <zlib.h>
  26 #endif /* CONFIG_ZLIB */
  27
  28 #include "libavutil/avassert.h"
  29 #include "libavutil/avstring.h"
  30 #include "libavutil/opt.h"
  31 #include "libavutil/time.h"
  32 #include "libavutil/parseutils.h"
  33
  34 #include "avformat.h"
  35 #include "http.h"
  36 #include "httpauth.h"
  37 #include "internal.h"
  38 #include "network.h"
  39 #include "os_support.h"
  40 #include "url.h"
  41
  42 /* XXX: POST protocol is not completely implemented because ffmpeg uses
  43  * only a subset of it. */
  44
  45 /* The IO buffer size is unrelated to the max URL size in itself, but needs
  46  * to be large enough to fit the full request headers (including long
  47  * path names). */
  48 #define BUFFER_SIZE   MAX_URL_SIZE
  49 #define MAX_REDIRECTS 8
  50 #define HTTP_SINGLE   1
  51 #define HTTP_MUTLI    2
  52 #define MAX_EXPIRY    19
  53 #define WHITESPACES " \n\t\r"
  54 typedef enum {
  55     LOWER_PROTO,
  56     READ_HEADERS,
  57     WRITE_REPLY_HEADERS,
  58     FINISH
  59 }HandshakeState;
  60
  61 typedef struct HTTPContext {
  62     const AVClass *class;
  63     URLContext *hd;
  64     unsigned char buffer[BUFFER_SIZE], *buf_ptr, *buf_end;
  65     int line_count;
  66     int http_code;
  67     /* Used if "Transfer-Encoding: chunked" otherwise -1. */
  68     uint64_t chunksize;
  69     int chunkend;
  70     uint64_t off, end_off, filesize;
  71     char *location;
  72     HTTPAuthState auth_state;
  73     HTTPAuthState proxy_auth_state;
  74     char *http_proxy;
  75     char *headers;
  76     char *mime_type;
  77     char *http_version;
  78     char *user_agent;
  79 #if FF_API_HTTP_USER_AGENT
  80     char *user_agent_deprecated;
  81 #endif
  82     char *content_type;
  83     /* Set if the server correctly handles Connection: close and will close
  84      * the connection after feeding us the content. */
  85     int willclose;
  86     int seekable;           /**< Control seekability, 0 = disable, 1 = enable, -1 = probe. */
  87     int chunked_post;
  88     /* A flag which indicates if the end of chunked encoding has been sent. */
  89     int end_chunked_post;
  90     /* A flag which indicates we have finished to read POST reply. */
  91     int end_header;
  92     /* A flag which indicates if we use persistent connections. */
  93     int multiple_requests;
  94     uint8_t *post_data;
  95     int post_datalen;
  96     int is_akamai;
  97     int is_mediagateway;
  98     char *cookies;          ///< holds newline (\n) delimited Set-Cookie header field values (without the "Set-Cookie: " field name)
  99     /* A dictionary containing cookies keyed by cookie name */
 100     AVDictionary *cookie_dict;
 101     int icy;
 102     /* how much data was read since the last ICY metadata packet */
 103     uint64_t icy_data_read;
 104     /* after how many bytes of read data a new metadata packet will be found */
 105     uint64_t icy_metaint;
 106     char *icy_metadata_headers;
 107     char *icy_metadata_packet;
 108     AVDictionary *metadata;
 109 #if CONFIG_ZLIB
 110     int compressed;
 111     z_stream inflate_stream;
 112     uint8_t *inflate_buffer;
 113 #endif /* CONFIG_ZLIB */
 114     AVDictionary *chained_options;
 115     int send_expect_100;
 116     char *method;
 117     int reconnect;
 118     int reconnect_at_eof;
 119     int reconnect_streamed;
 120     int reconnect_delay;
 121     int reconnect_delay_max;
 122     int listen;
 123     char *resource;
 124     int reply_code;
 125     int is_multi_client;
 126     HandshakeState handshake_step;
 127     int is_connected_server;
 128 } HTTPContext;
 129
 130 #define OFFSET(x) offsetof(HTTPContext, x)
 131 #define D AV_OPT_FLAG_DECODING_PARAM
 132 #define E AV_OPT_FLAG_ENCODING_PARAM
 133 #define DEFAULT_USER_AGENT "Lavf/" AV_STRINGIFY(LIBAVFORMAT_VERSION)
 134
 135 static const AVOption options[] = {
 136     { "seekable", "control seekability of connection", OFFSET(seekable), AV_OPT_TYPE_BOOL, { .i64 = -1 }, -1, 1, D },
 137     { "chunked_post", "use chunked transfer-encoding for posts", OFFSET(chunked_post), AV_OPT_TYPE_BOOL, { .i64 = 1 }, 0, 1, E },
 138     { "http_proxy", "set HTTP proxy to tunnel through", OFFSET(http_proxy), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
 139     { "headers", "set custom HTTP headers, can override built in default headers", OFFSET(headers), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
 140     { "content_type", "set a specific content type for the POST messages", OFFSET(content_type), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
 141     { "user_agent", "override User-Agent header", OFFSET(user_agent), AV_OPT_TYPE_STRING, { .str = DEFAULT_USER_AGENT }, 0, 0, D },
 142 #if FF_API_HTTP_USER_AGENT
 143     { "user-agent", "override User-Agent header", OFFSET(user_agent_deprecated), AV_OPT_TYPE_STRING, { .str = DEFAULT_USER_AGENT }, 0, 0, D },
 144 #endif
 145     { "multiple_requests", "use persistent connections", OFFSET(multiple_requests), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D | E },
 146     { "post_data", "set custom HTTP post data", OFFSET(post_data), AV_OPT_TYPE_BINARY, .flags = D | E },
 147     { "mime_type", "export the MIME type", OFFSET(mime_type), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 148     { "http_version", "export the http response version", OFFSET(http_version), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
 149     { "cookies", "set cookies to be sent in applicable future requests, use newline delimited Set-Cookie HTTP field value syntax", OFFSET(cookies), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D },
 150     { "icy", "request ICY metadata", OFFSET(icy), AV_OPT_TYPE_BOOL, { .i64 = 1 }, 0, 1, D },
 151     { "icy_metadata_headers", "return ICY metadata headers", OFFSET(icy_metadata_headers), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT },
 152     { "icy_metadata_packet", "return current ICY metadata packet", OFFSET(icy_metadata_packet), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT },
 153     { "metadata", "metadata read from the bitstream", OFFSET(metadata), AV_OPT_TYPE_DICT, {0}, 0, 0, AV_OPT_FLAG_EXPORT },
 154     { "auth_type", "HTTP authentication type", OFFSET(auth_state.auth_type), AV_OPT_TYPE_INT, { .i64 = HTTP_AUTH_NONE }, HTTP_AUTH_NONE, HTTP_AUTH_BASIC, D | E, "auth_type"},
 155     { "none", "No auth method set, autodetect", 0, AV_OPT_TYPE_CONST, { .i64 = HTTP_AUTH_NONE }, 0, 0, D | E, "auth_type"},
 156     { "basic", "HTTP basic authentication", 0, AV_OPT_TYPE_CONST, { .i64 = HTTP_AUTH_BASIC }, 0, 0, D | E, "auth_type"},
 157     { "send_expect_100", "Force sending an Expect: 100-continue header for POST", OFFSET(send_expect_100), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, E },
 158     { "location", "The actual location of the data received", OFFSET(location), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
 159     { "offset", "initial byte offset", OFFSET(off), AV_OPT_TYPE_INT64, { .i64 = 0 }, 0, INT64_MAX, D },
 160     { "end_offset", "try to limit the request to bytes preceding this offset", OFFSET(end_off), AV_OPT_TYPE_INT64, { .i64 = 0 }, 0, INT64_MAX, D },
 161     { "method", "Override the HTTP method or set the expected HTTP method from a client", OFFSET(method), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
 162     { "reconnect", "auto reconnect after disconnect before EOF", OFFSET(reconnect), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
 163     { "reconnect_at_eof", "auto reconnect at EOF", OFFSET(reconnect_at_eof), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
 164     { "reconnect_streamed", "auto reconnect streamed / non seekable streams", OFFSET(reconnect_streamed), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
 165     { "reconnect_delay_max", "max reconnect delay in seconds after which to give up", OFFSET(reconnect_delay_max), AV_OPT_TYPE_INT, { .i64 = 120 }, 0, UINT_MAX/1000/1000, D },
 166     { "listen", "listen on HTTP", OFFSET(listen), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 2, D | E },
 167     { "resource", "The resource requested by a client", OFFSET(resource), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, E },
 168     { "reply_code", "The http status code to return to a client", OFFSET(reply_code), AV_OPT_TYPE_INT, { .i64 = 200}, INT_MIN, 599, E},
 169     { NULL }
 170 };
 171
 172 static int http_connect(URLContext *h, const char *path, const char *local_path,
 173                         const char *hoststr, const char *auth,
 174                         const char *proxyauth, int *new_location);
 175 static int http_read_header(URLContext *h, int *new_location);
 176 static int http_shutdown(URLContext *h, int flags);
 177
 178 void ff_http_init_auth_state(URLContext *dest, const URLContext *src)
 179 {
 180     memcpy(&((HTTPContext *)dest->priv_data)->auth_state,
 181            &((HTTPContext *)src->priv_data)->auth_state,
 182            sizeof(HTTPAuthState));
 183     memcpy(&((HTTPContext *)dest->priv_data)->proxy_auth_state,
 184            &((HTTPContext *)src->priv_data)->proxy_auth_state,
 185            sizeof(HTTPAuthState));
 186 }
 187
 188 static int http_open_cnx_internal(URLContext *h, AVDictionary **options)
 189 {
 190     const char *path, *proxy_path, *lower_proto = "tcp", *local_path;
 191     char hostname[1024], hoststr[1024], proto[10];
 192     char auth[1024], proxyauth[1024] = "";
 193     char path1[MAX_URL_SIZE];
 194     char buf[1024], urlbuf[MAX_URL_SIZE];
 195     int port, use_proxy, err, location_changed = 0;
 196     HTTPContext *s = h->priv_data;
 197
 198     av_url_split(proto, sizeof(proto), auth, sizeof(auth),
 199                  hostname, sizeof(hostname), &port,
 200                  path1, sizeof(path1), s->location);
 201     ff_url_join(hoststr, sizeof(hoststr), NULL, NULL, hostname, port, NULL);
 202
 203     proxy_path = s->http_proxy ? s->http_proxy : getenv("http_proxy");
 204     use_proxy  = !ff_http_match_no_proxy(getenv("no_proxy"), hostname) &&
 205                  proxy_path && av_strstart(proxy_path, "http://", NULL);
 206
 207     if (!strcmp(proto, "https")) {
 208         lower_proto = "tls";
 209         use_proxy   = 0;
 210         if (port < 0)
 211             port = 443;
 212     }
 213     if (port < 0)
 214         port = 80;
 215
 216     if (path1[0] == '\0')
 217         path = "/";
 218     else
 219         path = path1;
 220     local_path = path;
 221     if (use_proxy) {
 222         /* Reassemble the request URL without auth string - we don't
 223          * want to leak the auth to the proxy. */
 224         ff_url_join(urlbuf, sizeof(urlbuf), proto, NULL, hostname, port, "%s",
 225                     path1);
 226         path = urlbuf;
 227         av_url_split(NULL, 0, proxyauth, sizeof(proxyauth),
 228                      hostname, sizeof(hostname), &port, NULL, 0, proxy_path);
 229     }
 230
 231     ff_url_join(buf, sizeof(buf), lower_proto, NULL, hostname, port, NULL);
 232
 233     if (!s->hd) {
 234         err = ffurl_open_whitelist(&s->hd, buf, AVIO_FLAG_READ_WRITE,
 235                                    &h->interrupt_callback, options,
 236                                    h->protocol_whitelist, h->protocol_blacklist, h);
 237         if (err < 0)
 238             return err;
 239     }
 240
 241     err = http_connect(h, path, local_path, hoststr,
 242                        auth, proxyauth, &location_changed);
 243     if (err < 0)
 244         return err;
 245
 246     return location_changed;
 247 }
 248
 249 /* return non zero if error */
 250 static int http_open_cnx(URLContext *h, AVDictionary **options)
 251 {
 252     HTTPAuthType cur_auth_type, cur_proxy_auth_type;
 253     HTTPContext *s = h->priv_data;
 254     int location_changed, attempts = 0, redirects = 0;
 255 redo:
 256     av_dict_copy(options, s->chained_options, 0);
 257
 258     cur_auth_type       = s->auth_state.auth_type;
 259     cur_proxy_auth_type = s->auth_state.auth_type;
 260
 261     location_changed = http_open_cnx_internal(h, options);
 262     if (location_changed < 0)
 263         goto fail;
 264
 265     attempts++;
 266     if (s->http_code == 401) {
 267         if ((cur_auth_type == HTTP_AUTH_NONE || s->auth_state.stale) &&
 268             s->auth_state.auth_type != HTTP_AUTH_NONE && attempts < 4) {
 269             ffurl_closep(&s->hd);
 270             goto redo;
 271         } else
 272             goto fail;
 273     }
 274     if (s->http_code == 407) {
 275         if ((cur_proxy_auth_type == HTTP_AUTH_NONE || s->proxy_auth_state.stale) &&
 276             s->proxy_auth_state.auth_type != HTTP_AUTH_NONE && attempts < 4) {
 277             ffurl_closep(&s->hd);
 278             goto redo;
 279         } else
 280             goto fail;
 281     }
 282     if ((s->http_code == 301 || s->http_code == 302 ||
 283          s->http_code == 303 || s->http_code == 307) &&
 284         location_changed == 1) {
 285         /* url moved, get next */
 286         ffurl_closep(&s->hd);
 287         if (redirects++ >= MAX_REDIRECTS)
 288             return AVERROR(EIO);
 289         /* Restart the authentication process with the new target, which
 290          * might use a different auth mechanism. */
 291         memset(&s->auth_state, 0, sizeof(s->auth_state));
 292         attempts         = 0;
 293         location_changed = 0;
 294         goto redo;
 295     }
 296     return 0;
 297
 298 fail:
 299     if (s->hd)
 300         ffurl_closep(&s->hd);
 301     if (location_changed < 0)
 302         return location_changed;
 303     return ff_http_averror(s->http_code, AVERROR(EIO));
 304 }
 305
 306 int ff_http_do_new_request(URLContext *h, const char *uri)
 307 {
 308     HTTPContext *s = h->priv_data;
 309     AVDictionary *options = NULL;
 310     int ret;
 311     char hostname1[1024], hostname2[1024], proto1[10], proto2[10];
 312     int port1, port2;
 313
 314     if (!h->prot ||
 315         !(!strcmp(h->prot->name, "http") ||
 316           !strcmp(h->prot->name, "https")))
 317         return AVERROR(EINVAL);
 318
 319     av_url_split(proto1, sizeof(proto1), NULL, 0,
 320                  hostname1, sizeof(hostname1), &port1,
 321                  NULL, 0, s->location);
 322     av_url_split(proto2, sizeof(proto2), NULL, 0,
 323                  hostname2, sizeof(hostname2), &port2,
 324                  NULL, 0, uri);
 325     if (port1 != port2 || strncmp(hostname1, hostname2, sizeof(hostname2)) != 0) {
 326         av_log(h, AV_LOG_ERROR, "Cannot reuse HTTP connection for different host: %s:%d != %s:%d\n",
 327             hostname1, port1,
 328             hostname2, port2
 329         );
 330         return AVERROR(EINVAL);
 331     }
 332
 333     if (!s->end_chunked_post) {
 334         ret = http_shutdown(h, h->flags);
 335         if (ret < 0)
 336             return ret;
 337     }
 338
 339     if (s->willclose)
 340         return AVERROR_EOF;
 341
 342     s->end_chunked_post = 0;
 343     s->chunkend      = 0;
 344     s->off           = 0;
 345     s->icy_data_read = 0;
 346     av_free(s->location);
 347     s->location = av_strdup(uri);
 348     if (!s->location)
 349         return AVERROR(ENOMEM);
 350
 351     av_log(s, AV_LOG_INFO, "Opening \'%s\' for %s\n", uri, h->flags & AVIO_FLAG_WRITE ? "writing" : "reading");
 352     ret = http_open_cnx(h, &options);
 353     av_dict_free(&options);
 354     return ret;
 355 }
 356
 357 int ff_http_averror(int status_code, int default_averror)
 358 {
 359     switch (status_code) {
 360         case 400: return AVERROR_HTTP_BAD_REQUEST;
 361         case 401: return AVERROR_HTTP_UNAUTHORIZED;
 362         case 403: return AVERROR_HTTP_FORBIDDEN;
 363         case 404: return AVERROR_HTTP_NOT_FOUND;
 364         default: break;
 365     }
 366     if (status_code >= 400 && status_code <= 499)
 367         return AVERROR_HTTP_OTHER_4XX;
 368     else if (status_code >= 500)
 369         return AVERROR_HTTP_SERVER_ERROR;
 370     else
 371         return default_averror;
 372 }
 373
 374 static int http_write_reply(URLContext* h, int status_code)
 375 {
 376     int ret, body = 0, reply_code, message_len;
 377     const char *reply_text, *content_type;
 378     HTTPContext *s = h->priv_data;
 379     char message[BUFFER_SIZE];
 380     content_type = "text/plain";
 381
 382     if (status_code < 0)
 383         body = 1;
 384     switch (status_code) {
 385     case AVERROR_HTTP_BAD_REQUEST:
 386     case 400:
 387         reply_code = 400;
 388         reply_text = "Bad Request";
 389         break;
 390     case AVERROR_HTTP_FORBIDDEN:
 391     case 403:
 392         reply_code = 403;
 393         reply_text = "Forbidden";
 394         break;
 395     case AVERROR_HTTP_NOT_FOUND:
 396     case 404:
 397         reply_code = 404;
 398         reply_text = "Not Found";
 399         break;
 400     case 200:
 401         reply_code = 200;
 402         reply_text = "OK";
 403         content_type = s->content_type ? s->content_type : "application/octet-stream";
 404         break;
 405     case AVERROR_HTTP_SERVER_ERROR:
 406     case 500:
 407         reply_code = 500;
 408         reply_text = "Internal server error";
 409         break;
 410     default:
 411         return AVERROR(EINVAL);
 412     }
 413     if (body) {
 414         s->chunked_post = 0;
 415         message_len = snprintf(message, sizeof(message),
 416                  "HTTP/1.1 %03d %s\r\n"
 417                  "Content-Type: %s\r\n"
 418                  "Content-Length: %"SIZE_SPECIFIER"\r\n"
 419                  "%s"
 420                  "\r\n"
 421                  "%03d %s\r\n",
 422                  reply_code,
 423                  reply_text,
 424                  content_type,
 425                  strlen(reply_text) + 6, // 3 digit status code + space + \r\n
 426                  s->headers ? s->headers : "",
 427                  reply_code,
 428                  reply_text);
 429     } else {
 430         s->chunked_post = 1;
 431         message_len = snprintf(message, sizeof(message),
 432                  "HTTP/1.1 %03d %s\r\n"
 433                  "Content-Type: %s\r\n"
 434                  "Transfer-Encoding: chunked\r\n"
 435                  "%s"
 436                  "\r\n",
 437                  reply_code,
 438                  reply_text,
 439                  content_type,
 440                  s->headers ? s->headers : "");
 441     }
 442     av_log(h, AV_LOG_TRACE, "HTTP reply header: \n%s----\n", message);
 443     if ((ret = ffurl_write(s->hd, message, message_len)) < 0)
 444         return ret;
 445     return 0;
 446 }
 447
 448 static void handle_http_errors(URLContext *h, int error)
 449 {
 450     av_assert0(error < 0);
 451     http_write_reply(h, error);
 452 }
 453
 454 static int http_handshake(URLContext *c)
 455 {
 456     int ret, err, new_location;
 457     HTTPContext *ch = c->priv_data;
 458     URLContext *cl = ch->hd;
 459     switch (ch->handshake_step) {
 460     case LOWER_PROTO:
 461         av_log(c, AV_LOG_TRACE, "Lower protocol\n");
 462         if ((ret = ffurl_handshake(cl)) > 0)
 463             return 2 + ret;
 464         if (ret < 0)
 465             return ret;
 466         ch->handshake_step = READ_HEADERS;
 467         ch->is_connected_server = 1;
 468         return 2;
 469     case READ_HEADERS:
 470         av_log(c, AV_LOG_TRACE, "Read headers\n");
 471         if ((err = http_read_header(c, &new_location)) < 0) {
 472             handle_http_errors(c, err);
 473             return err;
 474         }
 475         ch->handshake_step = WRITE_REPLY_HEADERS;
 476         return 1;
 477     case WRITE_REPLY_HEADERS:
 478         av_log(c, AV_LOG_TRACE, "Reply code: %d\n", ch->reply_code);
 479         if ((err = http_write_reply(c, ch->reply_code)) < 0)
 480             return err;
 481         ch->handshake_step = FINISH;
 482         return 1;
 483     case FINISH:
 484         return 0;
 485     }
 486     // this should never be reached.
 487     return AVERROR(EINVAL);
 488 }
 489
 490 static int http_listen(URLContext *h, const char *uri, int flags,
 491                        AVDictionary **options) {
 492     HTTPContext *s = h->priv_data;
 493     int ret;
 494     char hostname[1024], proto[10];
 495     char lower_url[100];
 496     const char *lower_proto = "tcp";
 497     int port;
 498     av_url_split(proto, sizeof(proto), NULL, 0, hostname, sizeof(hostname), &port,
 499                  NULL, 0, uri);
 500     if (!strcmp(proto, "https"))
 501         lower_proto = "tls";
 502     ff_url_join(lower_url, sizeof(lower_url), lower_proto, NULL, hostname, port,
 503                 NULL);
 504     if ((ret = av_dict_set_int(options, "listen", s->listen, 0)) < 0)
 505         goto fail;
 506     if ((ret = ffurl_open_whitelist(&s->hd, lower_url, AVIO_FLAG_READ_WRITE,
 507                                     &h->interrupt_callback, options,
 508                                     h->protocol_whitelist, h->protocol_blacklist, h
 509                                    )) < 0)
 510         goto fail;
 511     s->handshake_step = LOWER_PROTO;
 512     if (s->listen == HTTP_SINGLE) { /* single client */
 513         s->reply_code = 200;
 514         while ((ret = http_handshake(h)) > 0);
 515     }
 516 fail:
 517     av_dict_free(&s->chained_options);
 518     return ret;
 519 }
 520
 521 static int http_open(URLContext *h, const char *uri, int flags,
 522                      AVDictionary **options)
 523 {
 524     HTTPContext *s = h->priv_data;
 525     int ret;
 526
 527     if( s->seekable == 1 )
 528         h->is_streamed = 0;
 529     else
 530         h->is_streamed = 1;
 531
 532     s->filesize = UINT64_MAX;
 533     s->location = av_strdup(uri);
 534     if (!s->location)
 535         return AVERROR(ENOMEM);
 536     if (options)
 537         av_dict_copy(&s->chained_options, *options, 0);
 538
 539     if (s->headers) {
 540         int len = strlen(s->headers);
 541         if (len < 2 || strcmp("\r\n", s->headers + len - 2)) {
 542             av_log(h, AV_LOG_WARNING,
 543                    "No trailing CRLF found in HTTP header.\n");
 544             ret = av_reallocp(&s->headers, len + 3);
 545             if (ret < 0)
 546                 return ret;
 547             s->headers[len]     = '\r';
 548             s->headers[len + 1] = '\n';
 549             s->headers[len + 2] = '\0';
 550         }
 551     }
 552
 553     if (s->listen) {
 554         return http_listen(h, uri, flags, options);
 555     }
 556     ret = http_open_cnx(h, options);
 557     if (ret < 0)
 558         av_dict_free(&s->chained_options);
 559     return ret;
 560 }
 561
 562 static int http_accept(URLContext *s, URLContext **c)
 563 {
 564     int ret;
 565     HTTPContext *sc = s->priv_data;
 566     HTTPContext *cc;
 567     URLContext *sl = sc->hd;
 568     URLContext *cl = NULL;
 569
 570     av_assert0(sc->listen);
 571     if ((ret = ffurl_alloc(c, s->filename, s->flags, &sl->interrupt_callback)) < 0)
 572         goto fail;
 573     cc = (*c)->priv_data;
 574     if ((ret = ffurl_accept(sl, &cl)) < 0)
 575         goto fail;
 576     cc->hd = cl;
 577     cc->is_multi_client = 1;
 578 fail:
 579     return ret;
 580 }
 581
 582 static int http_getc(HTTPContext *s)
 583 {
 584     int len;
 585     if (s->buf_ptr >= s->buf_end) {
 586         len = ffurl_read(s->hd, s->buffer, BUFFER_SIZE);
 587         if (len < 0) {
 588             return len;
 589         } else if (len == 0) {
 590             return AVERROR_EOF;
 591         } else {
 592             s->buf_ptr = s->buffer;
 593             s->buf_end = s->buffer + len;
 594         }
 595     }
 596     return *s->buf_ptr++;
 597 }
 598
 599 static int http_get_line(HTTPContext *s, char *line, int line_size)
 600 {
 601     int ch;
 602     char *q;
 603
 604     q = line;
 605     for (;;) {
 606         ch = http_getc(s);
 607         if (ch < 0)
 608             return ch;
 609         if (ch == '\n') {
 610             /* process line */
 611             if (q > line && q[-1] == '\r')
 612                 q--;
 613             *q = '\0';
 614
 615             return 0;
 616         } else {
 617             if ((q - line) < line_size - 1)
 618                 *q++ = ch;
 619         }
 620     }
 621 }
 622
 623 static int check_http_code(URLContext *h, int http_code, const char *end)
 624 {
 625     HTTPContext *s = h->priv_data;
 626     /* error codes are 4xx and 5xx, but regard 401 as a success, so we
 627      * don't abort until all headers have been parsed. */
 628     if (http_code >= 400 && http_code < 600 &&
 629         (http_code != 401 || s->auth_state.auth_type != HTTP_AUTH_NONE) &&
 630         (http_code != 407 || s->proxy_auth_state.auth_type != HTTP_AUTH_NONE)) {
 631         end += strspn(end, SPACE_CHARS);
 632         av_log(h, AV_LOG_WARNING, "HTTP error %d %s\n", http_code, end);
 633         return ff_http_averror(http_code, AVERROR(EIO));
 634     }
 635     return 0;
 636 }
 637
 638 static int parse_location(HTTPContext *s, const char *p)
 639 {
 640     char redirected_location[MAX_URL_SIZE], *new_loc;
 641     ff_make_absolute_url(redirected_location, sizeof(redirected_location),
 642                          s->location, p);
 643     new_loc = av_strdup(redirected_location);
 644     if (!new_loc)
 645         return AVERROR(ENOMEM);
 646     av_free(s->location);
 647     s->location = new_loc;
 648     return 0;
 649 }
 650
 651 /* "bytes $from-$to/$document_size" */
 652 static void parse_content_range(URLContext *h, const char *p)
 653 {
 654     HTTPContext *s = h->priv_data;
 655     const char *slash;
 656
 657     if (!strncmp(p, "bytes ", 6)) {
 658         p     += 6;
 659         s->off = strtoull(p, NULL, 10);
 660         if ((slash = strchr(p, '/')) && strlen(slash) > 0)
 661             s->filesize = strtoull(slash + 1, NULL, 10);
 662     }
 663     if (s->seekable == -1 && (!s->is_akamai || s->filesize != 2147483647))
 664         h->is_streamed = 0; /* we _can_ in fact seek */
 665 }
 666
 667 static int parse_content_encoding(URLContext *h, const char *p)
 668 {
 669     if (!av_strncasecmp(p, "gzip", 4) ||
 670         !av_strncasecmp(p, "deflate", 7)) {
 671 #if CONFIG_ZLIB
 672         HTTPContext *s = h->priv_data;
 673
 674         s->compressed = 1;
 675         inflateEnd(&s->inflate_stream);
 676         if (inflateInit2(&s->inflate_stream, 32 + 15) != Z_OK) {
 677             av_log(h, AV_LOG_WARNING, "Error during zlib initialisation: %s\n",
 678                    s->inflate_stream.msg);
 679             return AVERROR(ENOSYS);
 680         }
 681         if (zlibCompileFlags() & (1 << 17)) {
 682             av_log(h, AV_LOG_WARNING,
 683                    "Your zlib was compiled without gzip support.\n");
 684             return AVERROR(ENOSYS);
 685         }
 686 #else
 687         av_log(h, AV_LOG_WARNING,
 688                "Compressed (%s) content, need zlib with gzip support\n", p);
 689         return AVERROR(ENOSYS);
 690 #endif /* CONFIG_ZLIB */
 691     } else if (!av_strncasecmp(p, "identity", 8)) {
 692         // The normal, no-encoding case (although servers shouldn't include
 693         // the header at all if this is the case).
 694     } else {
 695         av_log(h, AV_LOG_WARNING, "Unknown content coding: %s\n", p);
 696     }
 697     return 0;
 698 }
 699
 700 // Concat all Icy- header lines
 701 static int parse_icy(HTTPContext *s, const char *tag, const char *p)
 702 {
 703     int len = 4 + strlen(p) + strlen(tag);
 704     int is_first = !s->icy_metadata_headers;
 705     int ret;
 706
 707     av_dict_set(&s->metadata, tag, p, 0);
 708
 709     if (s->icy_metadata_headers)
 710         len += strlen(s->icy_metadata_headers);
 711
 712     if ((ret = av_reallocp(&s->icy_metadata_headers, len)) < 0)
 713         return ret;
 714
 715     if (is_first)
 716         *s->icy_metadata_headers = '\0';
 717
 718     av_strlcatf(s->icy_metadata_headers, len, "%s: %s\n", tag, p);
 719
 720     return 0;
 721 }
 722
 723 static int parse_set_cookie_expiry_time(const char *exp_str, struct tm *buf)
 724 {
 725     char exp_buf[MAX_EXPIRY];
 726     int i, j, exp_buf_len = MAX_EXPIRY-1;
 727     char *expiry;
 728
 729     // strip off any punctuation or whitespace
 730     for (i = 0, j = 0; exp_str[i] != '\0' && j < exp_buf_len; i++) {
 731         if ((exp_str[i] >= '0' && exp_str[i] <= '9') ||
 732             (exp_str[i] >= 'A' && exp_str[i] <= 'Z') ||
 733             (exp_str[i] >= 'a' && exp_str[i] <= 'z')) {
 734             exp_buf[j] = exp_str[i];
 735             j++;
 736         }
 737     }
 738     exp_buf[j] = '\0';
 739     expiry = exp_buf;
 740
 741     // move the string beyond the day of week
 742     while ((*expiry < '0' || *expiry > '9') && *expiry != '\0')
 743         expiry++;
 744
 745     return av_small_strptime(expiry, "%d%b%Y%H%M%S", buf) ? 0 : AVERROR(EINVAL);
 746 }
 747
 748 static int parse_set_cookie(const char *set_cookie, AVDictionary **dict)
 749 {
 750     char *param, *next_param, *cstr, *back;
 751
 752     if (!(cstr = av_strdup(set_cookie)))
 753         return AVERROR(EINVAL);
 754
 755     // strip any trailing whitespace
 756     back = &cstr[strlen(cstr)-1];
 757     while (strchr(WHITESPACES, *back)) {
 758         *back='\0';
 759         back--;
 760     }
 761
 762     next_param = cstr;
 763     while ((param = av_strtok(next_param, ";", &next_param))) {
 764         char *name, *value;
 765         param += strspn(param, WHITESPACES);
 766         if ((name = av_strtok(param, "=", &value))) {
 767             if (av_dict_set(dict, name, value, 0) < 0) {
 768                 av_free(cstr);
 769                 return -1;
 770             }
 771         }
 772     }
 773
 774     av_free(cstr);
 775     return 0;
 776 }
 777
 778 static int parse_cookie(HTTPContext *s, const char *p, AVDictionary **cookies)
 779 {
 780     AVDictionary *new_params = NULL;
 781     AVDictionaryEntry *e, *cookie_entry;
 782     char *eql, *name;
 783
 784     // ensure the cookie is parsable
 785     if (parse_set_cookie(p, &new_params))
 786         return -1;
 787
 788     // if there is no cookie value there is nothing to parse
 789     cookie_entry = av_dict_get(new_params, "", NULL, AV_DICT_IGNORE_SUFFIX);
 790     if (!cookie_entry || !cookie_entry->value) {
 791         av_dict_free(&new_params);
 792         return -1;
 793     }
 794
 795     // ensure the cookie is not expired or older than an existing value
 796     if ((e = av_dict_get(new_params, "expires", NULL, 0)) && e->value) {
 797         struct tm new_tm = {0};
 798         if (!parse_set_cookie_expiry_time(e->value, &new_tm)) {
 799             AVDictionaryEntry *e2;
 800
 801             // if the cookie has already expired ignore it
 802             if (av_timegm(&new_tm) < av_gettime() / 1000000) {
 803                 av_dict_free(&new_params);
 804                 return -1;
 805             }
 806
 807             // only replace an older cookie with the same name
 808             e2 = av_dict_get(*cookies, cookie_entry->key, NULL, 0);
 809             if (e2 && e2->value) {
 810                 AVDictionary *old_params = NULL;
 811                 if (!parse_set_cookie(p, &old_params)) {
 812                     e2 = av_dict_get(old_params, "expires", NULL, 0);
 813                     if (e2 && e2->value) {
 814                         struct tm old_tm = {0};
 815                         if (!parse_set_cookie_expiry_time(e->value, &old_tm)) {
 816                             if (av_timegm(&new_tm) < av_timegm(&old_tm)) {
 817                                 av_dict_free(&new_params);
 818                                 av_dict_free(&old_params);
 819                                 return -1;
 820                             }
 821                         }
 822                     }
 823                 }
 824                 av_dict_free(&old_params);
 825             }
 826         }
 827     }
 828
 829     // duplicate the cookie name (dict will dupe the value)
 830     if (!(eql = strchr(p, '='))) return AVERROR(EINVAL);
 831     if (!(name = av_strndup(p, eql - p))) return AVERROR(ENOMEM);
 832
 833     // add the cookie to the dictionary
 834     av_dict_set(cookies, name, eql, AV_DICT_DONT_STRDUP_KEY);
 835
 836     return 0;
 837 }
 838
 839 static int cookie_string(AVDictionary *dict, char **cookies)
 840 {
 841     AVDictionaryEntry *e = NULL;
 842     int len = 1;
 843
 844     // determine how much memory is needed for the cookies string
 845     while (e = av_dict_get(dict, "", e, AV_DICT_IGNORE_SUFFIX))
 846         len += strlen(e->key) + strlen(e->value) + 1;
 847
 848     // reallocate the cookies
 849     e = NULL;
 850     if (*cookies) av_free(*cookies);
 851     *cookies = av_malloc(len);
 852     if (!*cookies) return AVERROR(ENOMEM);
 853     *cookies[0] = '\0';
 854
 855     // write out the cookies
 856     while (e = av_dict_get(dict, "", e, AV_DICT_IGNORE_SUFFIX))
 857         av_strlcatf(*cookies, len, "%s%s\n", e->key, e->value);
 858
 859     return 0;
 860 }
 861
 862 static int process_line(URLContext *h, char *line, int line_count,
 863                         int *new_location)
 864 {
 865     HTTPContext *s = h->priv_data;
 866     const char *auto_method =  h->flags & AVIO_FLAG_READ ? "POST" : "GET";
 867     char *tag, *p, *end, *method, *resource, *version;
 868     int ret;
 869
 870     /* end of header */
 871     if (line[0] == '\0') {
 872         s->end_header = 1;
 873         return 0;
 874     }
 875
 876     p = line;
 877     if (line_count == 0) {
 878         if (s->is_connected_server) {
 879             // HTTP method
 880             method = p;
 881             while (*p && !av_isspace(*p))
 882                 p++;
 883             *(p++) = '\0';
 884             av_log(h, AV_LOG_TRACE, "Received method: %s\n", method);
 885             if (s->method) {
 886                 if (av_strcasecmp(s->method, method)) {
 887                     av_log(h, AV_LOG_ERROR, "Received and expected HTTP method do not match. (%s expected, %s received)\n",
 888                            s->method, method);
 889                     return ff_http_averror(400, AVERROR(EIO));
 890                 }
 891             } else {
 892                 // use autodetected HTTP method to expect
 893                 av_log(h, AV_LOG_TRACE, "Autodetected %s HTTP method\n", auto_method);
 894                 if (av_strcasecmp(auto_method, method)) {
 895                     av_log(h, AV_LOG_ERROR, "Received and autodetected HTTP method did not match "
 896                            "(%s autodetected %s received)\n", auto_method, method);
 897                     return ff_http_averror(400, AVERROR(EIO));
 898                 }
 899                 if (!(s->method = av_strdup(method)))
 900                     return AVERROR(ENOMEM);
 901             }
 902
 903             // HTTP resource
 904             while (av_isspace(*p))
 905                 p++;
 906             resource = p;
 907             while (!av_isspace(*p))
 908                 p++;
 909             *(p++) = '\0';
 910             av_log(h, AV_LOG_TRACE, "Requested resource: %s\n", resource);
 911             if (!(s->resource = av_strdup(resource)))
 912                 return AVERROR(ENOMEM);
 913
 914             // HTTP version
 915             while (av_isspace(*p))
 916                 p++;
 917             version = p;
 918             while (*p && !av_isspace(*p))
 919                 p++;
 920             *p = '\0';
 921             if (av_strncasecmp(version, "HTTP/", 5)) {
 922                 av_log(h, AV_LOG_ERROR, "Malformed HTTP version string.\n");
 923                 return ff_http_averror(400, AVERROR(EIO));
 924             }
 925             av_log(h, AV_LOG_TRACE, "HTTP version string: %s\n", version);
 926         } else {
 927             if (av_strncasecmp(p, "HTTP/1.0", 8) == 0)
 928                 s->willclose = 1;
 929             while (*p != '/' && *p != '\0')
 930                 p++;
 931             while (*p == '/')
 932                 p++;
 933             av_freep(&s->http_version);
 934             s->http_version = av_strndup(p, 3);
 935             while (!av_isspace(*p) && *p != '\0')
 936                 p++;
 937             while (av_isspace(*p))
 938                 p++;
 939             s->http_code = strtol(p, &end, 10);
 940
 941             av_log(h, AV_LOG_TRACE, "http_code=%d\n", s->http_code);
 942
 943             if ((ret = check_http_code(h, s->http_code, end)) < 0)
 944                 return ret;
 945         }
 946     } else {
 947         while (*p != '\0' && *p != ':')
 948             p++;
 949         if (*p != ':')
 950             return 1;
 951
 952         *p  = '\0';
 953         tag = line;
 954         p++;
 955         while (av_isspace(*p))
 956             p++;
 957         if (!av_strcasecmp(tag, "Location")) {
 958             if ((ret = parse_location(s, p)) < 0)
 959                 return ret;
 960             *new_location = 1;
 961         } else if (!av_strcasecmp(tag, "Content-Length") &&
 962                    s->filesize == UINT64_MAX) {
 963             s->filesize = strtoull(p, NULL, 10);
 964         } else if (!av_strcasecmp(tag, "Content-Range")) {
 965             parse_content_range(h, p);
 966         } else if (!av_strcasecmp(tag, "Accept-Ranges") &&
 967                    !strncmp(p, "bytes", 5) &&
 968                    s->seekable == -1) {
 969             h->is_streamed = 0;
 970         } else if (!av_strcasecmp(tag, "Transfer-Encoding") &&
 971                    !av_strncasecmp(p, "chunked", 7)) {
 972             s->filesize  = UINT64_MAX;
 973             s->chunksize = 0;
 974         } else if (!av_strcasecmp(tag, "WWW-Authenticate")) {
 975             ff_http_auth_handle_header(&s->auth_state, tag, p);
 976         } else if (!av_strcasecmp(tag, "Authentication-Info")) {
 977             ff_http_auth_handle_header(&s->auth_state, tag, p);
 978         } else if (!av_strcasecmp(tag, "Proxy-Authenticate")) {
 979             ff_http_auth_handle_header(&s->proxy_auth_state, tag, p);
 980         } else if (!av_strcasecmp(tag, "Connection")) {
 981             if (!strcmp(p, "close"))
 982                 s->willclose = 1;
 983         } else if (!av_strcasecmp(tag, "Server")) {
 984             if (!av_strcasecmp(p, "AkamaiGHost")) {
 985                 s->is_akamai = 1;
 986             } else if (!av_strncasecmp(p, "MediaGateway", 12)) {
 987                 s->is_mediagateway = 1;
 988             }
 989         } else if (!av_strcasecmp(tag, "Content-Type")) {
 990             av_free(s->mime_type);
 991             s->mime_type = av_strdup(p);
 992         } else if (!av_strcasecmp(tag, "Set-Cookie")) {
 993             if (parse_cookie(s, p, &s->cookie_dict))
 994                 av_log(h, AV_LOG_WARNING, "Unable to parse '%s'\n", p);
 995         } else if (!av_strcasecmp(tag, "Icy-MetaInt")) {
 996             s->icy_metaint = strtoull(p, NULL, 10);
 997         } else if (!av_strncasecmp(tag, "Icy-", 4)) {
 998             if ((ret = parse_icy(s, tag, p)) < 0)
 999                 return ret;
1000         } else if (!av_strcasecmp(tag, "Content-Encoding")) {
1001             if ((ret = parse_content_encoding(h, p)) < 0)
1002                 return ret;
1003         }
1004     }
1005     return 1;
1006 }
1007
1008 /**
1009  * Create a string containing cookie values for use as a HTTP cookie header
1010  * field value for a particular path and domain from the cookie values stored in
1011  * the HTTP protocol context. The cookie string is stored in *cookies.
1012  *
1013  * @return a negative value if an error condition occurred, 0 otherwise
1014  */
1015 static int get_cookies(HTTPContext *s, char **cookies, const char *path,
1016                        const char *domain)
1017 {
1018     // cookie strings will look like Set-Cookie header field values.  Multiple
1019     // Set-Cookie fields will result in multiple values delimited by a newline
1020     int ret = 0;
1021     char *cookie, *set_cookies = av_strdup(s->cookies), *next = set_cookies;
1022
1023     if (!set_cookies) return AVERROR(EINVAL);
1024
1025     // destroy any cookies in the dictionary.
1026     av_dict_free(&s->cookie_dict);
1027
1028     *cookies = NULL;
1029     while ((cookie = av_strtok(next, "\n", &next))) {
1030         AVDictionary *cookie_params = NULL;
1031         AVDictionaryEntry *cookie_entry, *e;
1032
1033         // store the cookie in a dict in case it is updated in the response
1034         if (parse_cookie(s, cookie, &s->cookie_dict))
1035             av_log(s, AV_LOG_WARNING, "Unable to parse '%s'\n", cookie);
1036
1037         // continue on to the next cookie if this one cannot be parsed
1038         if (parse_set_cookie(cookie, &cookie_params))
1039             continue;
1040
1041         // if the cookie has no value, skip it
1042         cookie_entry = av_dict_get(cookie_params, "", NULL, AV_DICT_IGNORE_SUFFIX);
1043         if (!cookie_entry || !cookie_entry->value) {
1044             av_dict_free(&cookie_params);
1045             continue;
1046         }
1047
1048         // if the cookie has expired, don't add it
1049         if ((e = av_dict_get(cookie_params, "expires", NULL, 0)) && e->value) {
1050             struct tm tm_buf = {0};
1051             if (!parse_set_cookie_expiry_time(e->value, &tm_buf)) {
1052                 if (av_timegm(&tm_buf) < av_gettime() / 1000000) {
1053                     av_dict_free(&cookie_params);
1054                     continue;
1055                 }
1056             }
1057         }
1058
1059         // if no domain in the cookie assume it appied to this request
1060         if ((e = av_dict_get(cookie_params, "domain", NULL, 0)) && e->value) {
1061             // find the offset comparison is on the min domain (b.com, not a.b.com)
1062             int domain_offset = strlen(domain) - strlen(e->value);
1063             if (domain_offset < 0) {
1064                 av_dict_free(&cookie_params);
1065                 continue;
1066             }
1067
1068             // match the cookie domain
1069             if (av_strcasecmp(&domain[domain_offset], e->value)) {
1070                 av_dict_free(&cookie_params);
1071                 continue;
1072             }
1073         }
1074
1075         // ensure this cookie matches the path
1076         e = av_dict_get(cookie_params, "path", NULL, 0);
1077         if (!e || av_strncasecmp(path, e->value, strlen(e->value))) {
1078             av_dict_free(&cookie_params);
1079             continue;
1080         }
1081
1082         // cookie parameters match, so copy the value
1083         if (!*cookies) {
1084             if (!(*cookies = av_asprintf("%s=%s", cookie_entry->key, cookie_entry->value))) {
1085                 ret = AVERROR(ENOMEM);
1086                 break;
1087             }
1088         } else {
1089             char *tmp = *cookies;
1090             size_t str_size = strlen(cookie_entry->key) + strlen(cookie_entry->value) + strlen(*cookies) + 4;
1091             if (!(*cookies = av_malloc(str_size))) {
1092                 ret = AVERROR(ENOMEM);
1093                 av_free(tmp);
1094                 break;
1095             }
1096             snprintf(*cookies, str_size, "%s; %s=%s", tmp, cookie_entry->key, cookie_entry->value);
1097             av_free(tmp);
1098         }
1099     }
1100
1101     av_free(set_cookies);
1102
1103     return ret;
1104 }
1105
1106 static inline int has_header(const char *str, const char *header)
1107 {
1108     /* header + 2 to skip over CRLF prefix. (make sure you have one!) */
1109     if (!str)
1110         return 0;
1111     return av_stristart(str, header + 2, NULL) || av_stristr(str, header);
1112 }
1113
1114 static int http_read_header(URLContext *h, int *new_location)
1115 {
1116     HTTPContext *s = h->priv_data;
1117     char line[MAX_URL_SIZE];
1118     int err = 0;
1119
1120     s->chunksize = UINT64_MAX;
1121
1122     for (;;) {
1123         if ((err = http_get_line(s, line, sizeof(line))) < 0)
1124             return err;
1125
1126         av_log(h, AV_LOG_TRACE, "header='%s'\n", line);
1127
1128         err = process_line(h, line, s->line_count, new_location);
1129         if (err < 0)
1130             return err;
1131         if (err == 0)
1132             break;
1133         s->line_count++;
1134     }
1135
1136     if (s->seekable == -1 && s->is_mediagateway && s->filesize == 2000000000)
1137         h->is_streamed = 1; /* we can in fact _not_ seek */
1138
1139     // add any new cookies into the existing cookie string
1140     cookie_string(s->cookie_dict, &s->cookies);
1141     av_dict_free(&s->cookie_dict);
1142
1143     return err;
1144 }
1145
1146 static int http_connect(URLContext *h, const char *path, const char *local_path,
1147                         const char *hoststr, const char *auth,
1148                         const char *proxyauth, int *new_location)
1149 {
1150     HTTPContext *s = h->priv_data;
1151     int post, err;
1152     char headers[HTTP_HEADERS_SIZE] = "";
1153     char *authstr = NULL, *proxyauthstr = NULL;
1154     uint64_t off = s->off;
1155     int len = 0;
1156     const char *method;
1157     int send_expect_100 = 0;
1158     int ret;
1159
1160     /* send http header */
1161     post = h->flags & AVIO_FLAG_WRITE;
1162
1163     if (s->post_data) {
1164         /* force POST method and disable chunked encoding when
1165          * custom HTTP post data is set */
1166         post            = 1;
1167         s->chunked_post = 0;
1168     }
1169
1170     if (s->method)
1171         method = s->method;
1172     else
1173         method = post ? "POST" : "GET";
1174
1175     authstr      = ff_http_auth_create_response(&s->auth_state, auth,
1176                                                 local_path, method);
1177     proxyauthstr = ff_http_auth_create_response(&s->proxy_auth_state, proxyauth,
1178                                                 local_path, method);
1179     if (post && !s->post_data) {
1180         send_expect_100 = s->send_expect_100;
1181         /* The user has supplied authentication but we don't know the auth type,
1182          * send Expect: 100-continue to get the 401 response including the
1183          * WWW-Authenticate header, or an 100 continue if no auth actually
1184          * is needed. */
1185         if (auth && *auth &&
1186             s->auth_state.auth_type == HTTP_AUTH_NONE &&
1187             s->http_code != 401)
1188             send_expect_100 = 1;
1189     }
1190
1191 #if FF_API_HTTP_USER_AGENT
1192     if (strcmp(s->user_agent_deprecated, DEFAULT_USER_AGENT)) {
1193         av_log(s, AV_LOG_WARNING, "the user-agent option is deprecated, please use user_agent option\n");
1194         s->user_agent = av_strdup(s->user_agent_deprecated);
1195     }
1196 #endif
1197     /* set default headers if needed */
1198     if (!has_header(s->headers, "\r\nUser-Agent: "))
1199         len += av_strlcatf(headers + len, sizeof(headers) - len,
1200                            "User-Agent: %s\r\n", s->user_agent);
1201     if (!has_header(s->headers, "\r\nAccept: "))
1202         len += av_strlcpy(headers + len, "Accept: */*\r\n",
1203                           sizeof(headers) - len);
1204     // Note: we send this on purpose even when s->off is 0 when we're probing,
1205     // since it allows us to detect more reliably if a (non-conforming)
1206     // server supports seeking by analysing the reply headers.
1207     if (!has_header(s->headers, "\r\nRange: ") && !post && (s->off > 0 || s->end_off || s->seekable == -1)) {
1208         len += av_strlcatf(headers + len, sizeof(headers) - len,
1209                            "Range: bytes=%"PRIu64"-", s->off);
1210         if (s->end_off)
1211             len += av_strlcatf(headers + len, sizeof(headers) - len,
1212                                "%"PRId64, s->end_off - 1);
1213         len += av_strlcpy(headers + len, "\r\n",
1214                           sizeof(headers) - len);
1215     }
1216     if (send_expect_100 && !has_header(s->headers, "\r\nExpect: "))
1217         len += av_strlcatf(headers + len, sizeof(headers) - len,
1218                            "Expect: 100-continue\r\n");
1219
1220     if (!has_header(s->headers, "\r\nConnection: ")) {
1221         if (s->multiple_requests)
1222             len += av_strlcpy(headers + len, "Connection: keep-alive\r\n",
1223                               sizeof(headers) - len);
1224         else
1225             len += av_strlcpy(headers + len, "Connection: close\r\n",
1226                               sizeof(headers) - len);
1227     }
1228
1229     if (!has_header(s->headers, "\r\nHost: "))
1230         len += av_strlcatf(headers + len, sizeof(headers) - len,
1231                            "Host: %s\r\n", hoststr);
1232     if (!has_header(s->headers, "\r\nContent-Length: ") && s->post_data)
1233         len += av_strlcatf(headers + len, sizeof(headers) - len,
1234                            "Content-Length: %d\r\n", s->post_datalen);
1235
1236     if (!has_header(s->headers, "\r\nContent-Type: ") && s->content_type)
1237         len += av_strlcatf(headers + len, sizeof(headers) - len,
1238                            "Content-Type: %s\r\n", s->content_type);
1239     if (!has_header(s->headers, "\r\nCookie: ") && s->cookies) {
1240         char *cookies = NULL;
1241         if (!get_cookies(s, &cookies, path, hoststr) && cookies) {
1242             len += av_strlcatf(headers + len, sizeof(headers) - len,
1243                                "Cookie: %s\r\n", cookies);
1244             av_free(cookies);
1245         }
1246     }
1247     if (!has_header(s->headers, "\r\nIcy-MetaData: ") && s->icy)
1248         len += av_strlcatf(headers + len, sizeof(headers) - len,
1249                            "Icy-MetaData: %d\r\n", 1);
1250
1251     /* now add in custom headers */
1252     if (s->headers)
1253         av_strlcpy(headers + len, s->headers, sizeof(headers) - len);
1254
1255     ret = snprintf(s->buffer, sizeof(s->buffer),
1256              "%s %s HTTP/1.1\r\n"
1257              "%s"
1258              "%s"
1259              "%s"
1260              "%s%s"
1261              "\r\n",
1262              method,
1263              path,
1264              post && s->chunked_post ? "Transfer-Encoding: chunked\r\n" : "",
1265              headers,
1266              authstr ? authstr : "",
1267              proxyauthstr ? "Proxy-" : "", proxyauthstr ? proxyauthstr : "");
1268
1269     av_log(h, AV_LOG_DEBUG, "request: %s\n", s->buffer);
1270
1271     if (strlen(headers) + 1 == sizeof(headers) ||
1272         ret >= sizeof(s->buffer)) {
1273         av_log(h, AV_LOG_ERROR, "overlong headers\n");
1274         err = AVERROR(EINVAL);
1275         goto done;
1276     }
1277
1278
1279     if ((err = ffurl_write(s->hd, s->buffer, strlen(s->buffer))) < 0)
1280         goto done;
1281
1282     if (s->post_data)
1283         if ((err = ffurl_write(s->hd, s->post_data, s->post_datalen)) < 0)
1284             goto done;
1285
1286     /* init input buffer */
1287     s->buf_ptr          = s->buffer;
1288     s->buf_end          = s->buffer;
1289     s->line_count       = 0;
1290     s->off              = 0;
1291     s->icy_data_read    = 0;
1292     s->filesize         = UINT64_MAX;
1293     s->willclose        = 0;
1294     s->end_chunked_post = 0;
1295     s->end_header       = 0;
1296 #if CONFIG_ZLIB
1297     s->compressed       = 0;
1298 #endif
1299     if (post && !s->post_data && !send_expect_100) {
1300         /* Pretend that it did work. We didn't read any header yet, since
1301          * we've still to send the POST data, but the code calling this
1302          * function will check http_code after we return. */
1303         s->http_code = 200;
1304         err = 0;
1305         goto done;
1306     }
1307
1308     /* wait for header */
1309     err = http_read_header(h, new_location);
1310     if (err < 0)
1311         goto done;
1312
1313     if (*new_location)
1314         s->off = off;
1315
1316     err = (off == s->off) ? 0 : -1;
1317 done:
1318     av_freep(&authstr);
1319     av_freep(&proxyauthstr);
1320     return err;
1321 }
1322
1323 static int http_buf_read(URLContext *h, uint8_t *buf, int size)
1324 {
1325     HTTPContext *s = h->priv_data;
1326     int len;
1327
1328     if (s->chunksize != UINT64_MAX) {
1329         if (s->chunkend) {
1330             return AVERROR_EOF;
1331         }
1332         if (!s->chunksize) {
1333             char line[32];
1334             int err;
1335
1336             do {
1337                 if ((err = http_get_line(s, line, sizeof(line))) < 0)
1338                     return err;
1339             } while (!*line);    /* skip CR LF from last chunk */
1340
1341             s->chunksize = strtoull(line, NULL, 16);
1342
1343             av_log(h, AV_LOG_TRACE,
1344                    "Chunked encoding data size: %"PRIu64"\n",
1345                     s->chunksize);
1346
1347             if (!s->chunksize && s->multiple_requests) {
1348                 http_get_line(s, line, sizeof(line)); // read empty chunk
1349                 s->chunkend = 1;
1350                 return 0;
1351             }
1352             else if (!s->chunksize) {
1353                 av_log(h, AV_LOG_DEBUG, "Last chunk received, closing conn\n");
1354                 ffurl_closep(&s->hd);
1355                 return 0;
1356             }
1357             else if (s->chunksize == UINT64_MAX) {
1358                 av_log(h, AV_LOG_ERROR, "Invalid chunk size %"PRIu64"\n",
1359                        s->chunksize);
1360                 return AVERROR(EINVAL);
1361             }
1362         }
1363         size = FFMIN(size, s->chunksize);
1364     }
1365
1366     /* read bytes from input buffer first */
1367     len = s->buf_end - s->buf_ptr;
1368     if (len > 0) {
1369         if (len > size)
1370             len = size;
1371         memcpy(buf, s->buf_ptr, len);
1372         s->buf_ptr += len;
1373     } else {
1374         uint64_t target_end = s->end_off ? s->end_off : s->filesize;
1375         if ((!s->willclose || s->chunksize == UINT64_MAX) && s->off >= target_end)
1376             return AVERROR_EOF;
1377         len = ffurl_read(s->hd, buf, size);
1378         if (!len && (!s->willclose || s->chunksize == UINT64_MAX) && s->off < target_end) {
1379             av_log(h, AV_LOG_ERROR,
1380                    "Stream ends prematurely at %"PRIu64", should be %"PRIu64"\n",
1381                    s->off, target_end
1382                   );
1383             return AVERROR(EIO);
1384         }
1385     }
1386     if (len > 0) {
1387         s->off += len;
1388         if (s->chunksize > 0 && s->chunksize != UINT64_MAX) {
1389             av_assert0(s->chunksize >= len);
1390             s->chunksize -= len;
1391         }
1392     }
1393     return len;
1394 }
1395
1396 #if CONFIG_ZLIB
1397 #define DECOMPRESS_BUF_SIZE (256 * 1024)
1398 static int http_buf_read_compressed(URLContext *h, uint8_t *buf, int size)
1399 {
1400     HTTPContext *s = h->priv_data;
1401     int ret;
1402
1403     if (!s->inflate_buffer) {
1404         s->inflate_buffer = av_malloc(DECOMPRESS_BUF_SIZE);
1405         if (!s->inflate_buffer)
1406             return AVERROR(ENOMEM);
1407     }
1408
1409     if (s->inflate_stream.avail_in == 0) {
1410         int read = http_buf_read(h, s->inflate_buffer, DECOMPRESS_BUF_SIZE);
1411         if (read <= 0)
1412             return read;
1413         s->inflate_stream.next_in  = s->inflate_buffer;
1414         s->inflate_stream.avail_in = read;
1415     }
1416
1417     s->inflate_stream.avail_out = size;
1418     s->inflate_stream.next_out  = buf;
1419
1420     ret = inflate(&s->inflate_stream, Z_SYNC_FLUSH);
1421     if (ret != Z_OK && ret != Z_STREAM_END)
1422         av_log(h, AV_LOG_WARNING, "inflate return value: %d, %s\n",
1423                ret, s->inflate_stream.msg);
1424
1425     return size - s->inflate_stream.avail_out;
1426 }
1427 #endif /* CONFIG_ZLIB */
1428
1429 static int64_t http_seek_internal(URLContext *h, int64_t off, int whence, int force_reconnect);
1430
1431 static int http_read_stream(URLContext *h, uint8_t *buf, int size)
1432 {
1433     HTTPContext *s = h->priv_data;
1434     int err, new_location, read_ret;
1435     int64_t seek_ret;
1436
1437     if (!s->hd)
1438         return AVERROR_EOF;
1439
1440     if (s->end_chunked_post && !s->end_header) {
1441         err = http_read_header(h, &new_location);
1442         if (err < 0)
1443             return err;
1444     }
1445
1446 #if CONFIG_ZLIB
1447     if (s->compressed)
1448         return http_buf_read_compressed(h, buf, size);
1449 #endif /* CONFIG_ZLIB */
1450     read_ret = http_buf_read(h, buf, size);
1451     if (   (read_ret  < 0 && s->reconnect        && (!h->is_streamed || s->reconnect_streamed) && s->filesize > 0 && s->off < s->filesize)
1452         || (read_ret == 0 && s->reconnect_at_eof && (!h->is_streamed || s->reconnect_streamed))) {
1453         uint64_t target = h->is_streamed ? 0 : s->off;
1454
1455         if (s->reconnect_delay > s->reconnect_delay_max)
1456             return AVERROR(EIO);
1457
1458         av_log(h, AV_LOG_INFO, "Will reconnect at %"PRIu64" error=%s.\n", s->off, av_err2str(read_ret));
1459         av_usleep(1000U*1000*s->reconnect_delay);
1460         s->reconnect_delay = 1 + 2*s->reconnect_delay;
1461         seek_ret = http_seek_internal(h, target, SEEK_SET, 1);
1462         if (seek_ret != target) {
1463             av_log(h, AV_LOG_ERROR, "Failed to reconnect at %"PRIu64".\n", target);
1464             return read_ret;
1465         }
1466
1467         read_ret = http_buf_read(h, buf, size);
1468     } else
1469         s->reconnect_delay = 0;
1470
1471     return read_ret;
1472 }
1473
1474 // Like http_read_stream(), but no short reads.
1475 // Assumes partial reads are an error.
1476 static int http_read_stream_all(URLContext *h, uint8_t *buf, int size)
1477 {
1478     int pos = 0;
1479     while (pos < size) {
1480         int len = http_read_stream(h, buf + pos, size - pos);
1481         if (len < 0)
1482             return len;
1483         pos += len;
1484     }
1485     return pos;
1486 }
1487
1488 static void update_metadata(HTTPContext *s, char *data)
1489 {
1490     char *key;
1491     char *val;
1492     char *end;
1493     char *next = data;
1494
1495     while (*next) {
1496         key = next;
1497         val = strstr(key, "='");
1498         if (!val)
1499             break;
1500         end = strstr(val, "';");
1501         if (!end)
1502             break;
1503
1504         *val = '\0';
1505         *end = '\0';
1506         val += 2;
1507
1508         av_dict_set(&s->metadata, key, val, 0);
1509
1510         next = end + 2;
1511     }
1512 }
1513
1514 static int store_icy(URLContext *h, int size)
1515 {
1516     HTTPContext *s = h->priv_data;
1517     /* until next metadata packet */
1518     uint64_t remaining;
1519
1520     if (s->icy_metaint < s->icy_data_read)
1521         return AVERROR_INVALIDDATA;
1522     remaining = s->icy_metaint - s->icy_data_read;
1523
1524     if (!remaining) {
1525         /* The metadata packet is variable sized. It has a 1 byte header
1526          * which sets the length of the packet (divided by 16). If it's 0,
1527          * the metadata doesn't change. After the packet, icy_metaint bytes
1528          * of normal data follows. */
1529         uint8_t ch;
1530         int len = http_read_stream_all(h, &ch, 1);
1531         if (len < 0)
1532             return len;
1533         if (ch > 0) {
1534             char data[255 * 16 + 1];
1535             int ret;
1536             len = ch * 16;
1537             ret = http_read_stream_all(h, data, len);
1538             if (ret < 0)
1539                 return ret;
1540             data[len + 1] = 0;
1541             if ((ret = av_opt_set(s, "icy_metadata_packet", data, 0)) < 0)
1542                 return ret;
1543             update_metadata(s, data);
1544         }
1545         s->icy_data_read = 0;
1546         remaining        = s->icy_metaint;
1547     }
1548
1549     return FFMIN(size, remaining);
1550 }
1551
1552 static int http_read(URLContext *h, uint8_t *buf, int size)
1553 {
1554     HTTPContext *s = h->priv_data;
1555
1556     if (s->icy_metaint > 0) {
1557         size = store_icy(h, size);
1558         if (size < 0)
1559             return size;
1560     }
1561
1562     size = http_read_stream(h, buf, size);
1563     if (size > 0)
1564         s->icy_data_read += size;
1565     return size;
1566 }
1567
1568 /* used only when posting data */
1569 static int http_write(URLContext *h, const uint8_t *buf, int size)
1570 {
1571     char temp[11] = "";  /* 32-bit hex + CRLF + nul */
1572     int ret;
1573     char crlf[] = "\r\n";
1574     HTTPContext *s = h->priv_data;
1575
1576     if (!s->chunked_post) {
1577         /* non-chunked data is sent without any special encoding */
1578         return ffurl_write(s->hd, buf, size);
1579     }
1580
1581     /* silently ignore zero-size data since chunk encoding that would
1582      * signal EOF */
1583     if (size > 0) {
1584         /* upload data using chunked encoding */
1585         snprintf(temp, sizeof(temp), "%x\r\n", size);
1586
1587         if ((ret = ffurl_write(s->hd, temp, strlen(temp))) < 0 ||
1588             (ret = ffurl_write(s->hd, buf, size)) < 0          ||
1589             (ret = ffurl_write(s->hd, crlf, sizeof(crlf) - 1)) < 0)
1590             return ret;
1591     }
1592     return size;
1593 }
1594
1595 static int http_shutdown(URLContext *h, int flags)
1596 {
1597     int ret = 0;
1598     char footer[] = "0\r\n\r\n";
1599     HTTPContext *s = h->priv_data;
1600
1601     /* signal end of chunked encoding if used */
1602     if (((flags & AVIO_FLAG_WRITE) && s->chunked_post) ||
1603         ((flags & AVIO_FLAG_READ) && s->chunked_post && s->listen)) {
1604         ret = ffurl_write(s->hd, footer, sizeof(footer) - 1);
1605         ret = ret > 0 ? 0 : ret;
1606         s->end_chunked_post = 1;
1607     }
1608
1609     return ret;
1610 }
1611
1612 static int http_close(URLContext *h)
1613 {
1614     int ret = 0;
1615     HTTPContext *s = h->priv_data;
1616
1617 #if CONFIG_ZLIB
1618     inflateEnd(&s->inflate_stream);
1619     av_freep(&s->inflate_buffer);
1620 #endif /* CONFIG_ZLIB */
1621
1622     if (!s->end_chunked_post)
1623         /* Close the write direction by sending the end of chunked encoding. */
1624         ret = http_shutdown(h, h->flags);
1625
1626     if (s->hd)
1627         ffurl_closep(&s->hd);
1628     av_dict_free(&s->chained_options);
1629     return ret;
1630 }
1631
1632 static int64_t http_seek_internal(URLContext *h, int64_t off, int whence, int force_reconnect)
1633 {
1634     HTTPContext *s = h->priv_data;
1635     URLContext *old_hd = s->hd;
1636     uint64_t old_off = s->off;
1637     uint8_t old_buf[BUFFER_SIZE];
1638     int old_buf_size, ret;
1639     AVDictionary *options = NULL;
1640
1641     if (whence == AVSEEK_SIZE)
1642         return s->filesize;
1643     else if (!force_reconnect &&
1644              ((whence == SEEK_CUR && off == 0) ||
1645               (whence == SEEK_SET && off == s->off)))
1646         return s->off;
1647     else if ((s->filesize == UINT64_MAX && whence == SEEK_END))
1648         return AVERROR(ENOSYS);
1649
1650     if (whence == SEEK_CUR)
1651         off += s->off;
1652     else if (whence == SEEK_END)
1653         off += s->filesize;
1654     else if (whence != SEEK_SET)
1655         return AVERROR(EINVAL);
1656     if (off < 0)
1657         return AVERROR(EINVAL);
1658     s->off = off;
1659
1660     if (s->off && h->is_streamed)
1661         return AVERROR(ENOSYS);
1662
1663     /* we save the old context in case the seek fails */
1664     old_buf_size = s->buf_end - s->buf_ptr;
1665     memcpy(old_buf, s->buf_ptr, old_buf_size);
1666     s->hd = NULL;
1667
1668     /* if it fails, continue on old connection */
1669     if ((ret = http_open_cnx(h, &options)) < 0) {
1670         av_dict_free(&options);
1671         memcpy(s->buffer, old_buf, old_buf_size);
1672         s->buf_ptr = s->buffer;
1673         s->buf_end = s->buffer + old_buf_size;
1674         s->hd      = old_hd;
1675         s->off     = old_off;
1676         return ret;
1677     }
1678     av_dict_free(&options);
1679     ffurl_close(old_hd);
1680     return off;
1681 }
1682
1683 static int64_t http_seek(URLContext *h, int64_t off, int whence)
1684 {
1685     return http_seek_internal(h, off, whence, 0);
1686 }
1687
1688 static int http_get_file_handle(URLContext *h)
1689 {
1690     HTTPContext *s = h->priv_data;
1691     return ffurl_get_file_handle(s->hd);
1692 }
1693
1694 static int http_get_short_seek(URLContext *h)
1695 {
1696     HTTPContext *s = h->priv_data;
1697     return ffurl_get_short_seek(s->hd);
1698 }
1699
1700 #define HTTP_CLASS(flavor)                          \
1701 static const AVClass flavor ## _context_class = {   \
1702     .class_name = # flavor,                         \
1703     .item_name  = av_default_item_name,             \
1704     .option     = options,                          \
1705     .version    = LIBAVUTIL_VERSION_INT,            \
1706 }
1707
1708 #if CONFIG_HTTP_PROTOCOL
1709 HTTP_CLASS(http);
1710
1711 const URLProtocol ff_http_protocol = {
1712     .name                = "http",
1713     .url_open2           = http_open,
1714     .url_accept          = http_accept,
1715     .url_handshake       = http_handshake,
1716     .url_read            = http_read,
1717     .url_write           = http_write,
1718     .url_seek            = http_seek,
1719     .url_close           = http_close,
1720     .url_get_file_handle = http_get_file_handle,
1721     .url_get_short_seek  = http_get_short_seek,
1722     .url_shutdown        = http_shutdown,
1723     .priv_data_size      = sizeof(HTTPContext),
1724     .priv_data_class     = &http_context_class,
1725     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1726     .default_whitelist   = "http,https,tls,rtp,tcp,udp,crypto,httpproxy"
1727 };
1728 #endif /* CONFIG_HTTP_PROTOCOL */
1729
1730 #if CONFIG_HTTPS_PROTOCOL
1731 HTTP_CLASS(https);
1732
1733 const URLProtocol ff_https_protocol = {
1734     .name                = "https",
1735     .url_open2           = http_open,
1736     .url_read            = http_read,
1737     .url_write           = http_write,
1738     .url_seek            = http_seek,
1739     .url_close           = http_close,
1740     .url_get_file_handle = http_get_file_handle,
1741     .url_get_short_seek  = http_get_short_seek,
1742     .url_shutdown        = http_shutdown,
1743     .priv_data_size      = sizeof(HTTPContext),
1744     .priv_data_class     = &https_context_class,
1745     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1746     .default_whitelist   = "http,https,tls,rtp,tcp,udp,crypto,httpproxy"
1747 };
1748 #endif /* CONFIG_HTTPS_PROTOCOL */
1749
1750 #if CONFIG_HTTPPROXY_PROTOCOL
1751 static int http_proxy_close(URLContext *h)
1752 {
1753     HTTPContext *s = h->priv_data;
1754     if (s->hd)
1755         ffurl_closep(&s->hd);
1756     return 0;
1757 }
1758
1759 static int http_proxy_open(URLContext *h, const char *uri, int flags)
1760 {
1761     HTTPContext *s = h->priv_data;
1762     char hostname[1024], hoststr[1024];
1763     char auth[1024], pathbuf[1024], *path;
1764     char lower_url[100];
1765     int port, ret = 0, attempts = 0;
1766     HTTPAuthType cur_auth_type;
1767     char *authstr;
1768     int new_loc;
1769
1770     if( s->seekable == 1 )
1771         h->is_streamed = 0;
1772     else
1773         h->is_streamed = 1;
1774
1775     av_url_split(NULL, 0, auth, sizeof(auth), hostname, sizeof(hostname), &port,
1776                  pathbuf, sizeof(pathbuf), uri);
1777     ff_url_join(hoststr, sizeof(hoststr), NULL, NULL, hostname, port, NULL);
1778     path = pathbuf;
1779     if (*path == '/')
1780         path++;
1781
1782     ff_url_join(lower_url, sizeof(lower_url), "tcp", NULL, hostname, port,
1783                 NULL);
1784 redo:
1785     ret = ffurl_open_whitelist(&s->hd, lower_url, AVIO_FLAG_READ_WRITE,
1786                                &h->interrupt_callback, NULL,
1787                                h->protocol_whitelist, h->protocol_blacklist, h);
1788     if (ret < 0)
1789         return ret;
1790
1791     authstr = ff_http_auth_create_response(&s->proxy_auth_state, auth,
1792                                            path, "CONNECT");
1793     snprintf(s->buffer, sizeof(s->buffer),
1794              "CONNECT %s HTTP/1.1\r\n"
1795              "Host: %s\r\n"
1796              "Connection: close\r\n"
1797              "%s%s"
1798              "\r\n",
1799              path,
1800              hoststr,
1801              authstr ? "Proxy-" : "", authstr ? authstr : "");
1802     av_freep(&authstr);
1803
1804     if ((ret = ffurl_write(s->hd, s->buffer, strlen(s->buffer))) < 0)
1805         goto fail;
1806
1807     s->buf_ptr    = s->buffer;
1808     s->buf_end    = s->buffer;
1809     s->line_count = 0;
1810     s->filesize   = UINT64_MAX;
1811     cur_auth_type = s->proxy_auth_state.auth_type;
1812
1813     /* Note: This uses buffering, potentially reading more than the
1814      * HTTP header. If tunneling a protocol where the server starts
1815      * the conversation, we might buffer part of that here, too.
1816      * Reading that requires using the proper ffurl_read() function
1817      * on this URLContext, not using the fd directly (as the tls
1818      * protocol does). This shouldn't be an issue for tls though,
1819      * since the client starts the conversation there, so there
1820      * is no extra data that we might buffer up here.
1821      */
1822     ret = http_read_header(h, &new_loc);
1823     if (ret < 0)
1824         goto fail;
1825
1826     attempts++;
1827     if (s->http_code == 407 &&
1828         (cur_auth_type == HTTP_AUTH_NONE || s->proxy_auth_state.stale) &&
1829         s->proxy_auth_state.auth_type != HTTP_AUTH_NONE && attempts < 2) {
1830         ffurl_closep(&s->hd);
1831         goto redo;
1832     }
1833
1834     if (s->http_code < 400)
1835         return 0;
1836     ret = ff_http_averror(s->http_code, AVERROR(EIO));
1837
1838 fail:
1839     http_proxy_close(h);
1840     return ret;
1841 }
1842
1843 static int http_proxy_write(URLContext *h, const uint8_t *buf, int size)
1844 {
1845     HTTPContext *s = h->priv_data;
1846     return ffurl_write(s->hd, buf, size);
1847 }
1848
1849 const URLProtocol ff_httpproxy_protocol = {
1850     .name                = "httpproxy",
1851     .url_open            = http_proxy_open,
1852     .url_read            = http_buf_read,
1853     .url_write           = http_proxy_write,
1854     .url_close           = http_proxy_close,
1855     .url_get_file_handle = http_get_file_handle,
1856     .priv_data_size      = sizeof(HTTPContext),
1857     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1858 };
1859 #endif /* CONFIG_HTTPPROXY_PROTOCOL */