]> git.sesse.net Git - ffmpeg/blob - libavformat/http.c
Merge commit 'b46900914a1f25ce8dbf49d7c53766ff1f18b60f'
[ffmpeg] / libavformat / http.c
1 /*
2  * HTTP protocol for ffmpeg client
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "config.h"
23
24 #if CONFIG_ZLIB
25 #include <zlib.h>
26 #endif /* CONFIG_ZLIB */
27
28 #include "libavutil/avassert.h"
29 #include "libavutil/avstring.h"
30 #include "libavutil/opt.h"
31 #include "libavutil/time.h"
32 #include "libavutil/parseutils.h"
33
34 #include "avformat.h"
35 #include "http.h"
36 #include "httpauth.h"
37 #include "internal.h"
38 #include "network.h"
39 #include "os_support.h"
40 #include "url.h"
41
42 /* XXX: POST protocol is not completely implemented because ffmpeg uses
43  * only a subset of it. */
44
45 /* The IO buffer size is unrelated to the max URL size in itself, but needs
46  * to be large enough to fit the full request headers (including long
47  * path names). */
48 #define BUFFER_SIZE   MAX_URL_SIZE
49 #define MAX_REDIRECTS 8
50 #define HTTP_SINGLE   1
51 #define HTTP_MUTLI    2
52 #define MAX_EXPIRY    19
53 #define WHITESPACES " \n\t\r"
54 typedef enum {
55     LOWER_PROTO,
56     READ_HEADERS,
57     WRITE_REPLY_HEADERS,
58     FINISH
59 }HandshakeState;
60
61 typedef struct HTTPContext {
62     const AVClass *class;
63     URLContext *hd;
64     unsigned char buffer[BUFFER_SIZE], *buf_ptr, *buf_end;
65     int line_count;
66     int http_code;
67     /* Used if "Transfer-Encoding: chunked" otherwise -1. */
68     uint64_t chunksize;
69     uint64_t off, end_off, filesize;
70     char *location;
71     HTTPAuthState auth_state;
72     HTTPAuthState proxy_auth_state;
73     char *http_proxy;
74     char *headers;
75     char *mime_type;
76     char *user_agent;
77 #if FF_API_HTTP_USER_AGENT
78     char *user_agent_deprecated;
79 #endif
80     char *content_type;
81     /* Set if the server correctly handles Connection: close and will close
82      * the connection after feeding us the content. */
83     int willclose;
84     int seekable;           /**< Control seekability, 0 = disable, 1 = enable, -1 = probe. */
85     int chunked_post;
86     /* A flag which indicates if the end of chunked encoding has been sent. */
87     int end_chunked_post;
88     /* A flag which indicates we have finished to read POST reply. */
89     int end_header;
90     /* A flag which indicates if we use persistent connections. */
91     int multiple_requests;
92     uint8_t *post_data;
93     int post_datalen;
94     int is_akamai;
95     int is_mediagateway;
96     char *cookies;          ///< holds newline (\n) delimited Set-Cookie header field values (without the "Set-Cookie: " field name)
97     /* A dictionary containing cookies keyed by cookie name */
98     AVDictionary *cookie_dict;
99     int icy;
100     /* how much data was read since the last ICY metadata packet */
101     uint64_t icy_data_read;
102     /* after how many bytes of read data a new metadata packet will be found */
103     uint64_t icy_metaint;
104     char *icy_metadata_headers;
105     char *icy_metadata_packet;
106     AVDictionary *metadata;
107 #if CONFIG_ZLIB
108     int compressed;
109     z_stream inflate_stream;
110     uint8_t *inflate_buffer;
111 #endif /* CONFIG_ZLIB */
112     AVDictionary *chained_options;
113     int send_expect_100;
114     char *method;
115     int reconnect;
116     int reconnect_at_eof;
117     int reconnect_streamed;
118     int reconnect_delay;
119     int reconnect_delay_max;
120     int listen;
121     char *resource;
122     int reply_code;
123     int is_multi_client;
124     HandshakeState handshake_step;
125     int is_connected_server;
126 } HTTPContext;
127
128 #define OFFSET(x) offsetof(HTTPContext, x)
129 #define D AV_OPT_FLAG_DECODING_PARAM
130 #define E AV_OPT_FLAG_ENCODING_PARAM
131 #define DEFAULT_USER_AGENT "Lavf/" AV_STRINGIFY(LIBAVFORMAT_VERSION)
132
133 static const AVOption options[] = {
134     { "seekable", "control seekability of connection", OFFSET(seekable), AV_OPT_TYPE_BOOL, { .i64 = -1 }, -1, 1, D },
135     { "chunked_post", "use chunked transfer-encoding for posts", OFFSET(chunked_post), AV_OPT_TYPE_BOOL, { .i64 = 1 }, 0, 1, E },
136     { "http_proxy", "set HTTP proxy to tunnel through", OFFSET(http_proxy), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
137     { "headers", "set custom HTTP headers, can override built in default headers", OFFSET(headers), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
138     { "content_type", "set a specific content type for the POST messages", OFFSET(content_type), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
139     { "user_agent", "override User-Agent header", OFFSET(user_agent), AV_OPT_TYPE_STRING, { .str = DEFAULT_USER_AGENT }, 0, 0, D },
140 #if FF_API_HTTP_USER_AGENT
141     { "user-agent", "override User-Agent header", OFFSET(user_agent_deprecated), AV_OPT_TYPE_STRING, { .str = DEFAULT_USER_AGENT }, 0, 0, D },
142 #endif
143     { "multiple_requests", "use persistent connections", OFFSET(multiple_requests), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D | E },
144     { "post_data", "set custom HTTP post data", OFFSET(post_data), AV_OPT_TYPE_BINARY, .flags = D | E },
145     { "mime_type", "export the MIME type", OFFSET(mime_type), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT | AV_OPT_FLAG_READONLY },
146     { "cookies", "set cookies to be sent in applicable future requests, use newline delimited Set-Cookie HTTP field value syntax", OFFSET(cookies), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D },
147     { "icy", "request ICY metadata", OFFSET(icy), AV_OPT_TYPE_BOOL, { .i64 = 1 }, 0, 1, D },
148     { "icy_metadata_headers", "return ICY metadata headers", OFFSET(icy_metadata_headers), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT },
149     { "icy_metadata_packet", "return current ICY metadata packet", OFFSET(icy_metadata_packet), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, AV_OPT_FLAG_EXPORT },
150     { "metadata", "metadata read from the bitstream", OFFSET(metadata), AV_OPT_TYPE_DICT, {0}, 0, 0, AV_OPT_FLAG_EXPORT },
151     { "auth_type", "HTTP authentication type", OFFSET(auth_state.auth_type), AV_OPT_TYPE_INT, { .i64 = HTTP_AUTH_NONE }, HTTP_AUTH_NONE, HTTP_AUTH_BASIC, D | E, "auth_type"},
152     { "none", "No auth method set, autodetect", 0, AV_OPT_TYPE_CONST, { .i64 = HTTP_AUTH_NONE }, 0, 0, D | E, "auth_type"},
153     { "basic", "HTTP basic authentication", 0, AV_OPT_TYPE_CONST, { .i64 = HTTP_AUTH_BASIC }, 0, 0, D | E, "auth_type"},
154     { "send_expect_100", "Force sending an Expect: 100-continue header for POST", OFFSET(send_expect_100), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, E },
155     { "location", "The actual location of the data received", OFFSET(location), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
156     { "offset", "initial byte offset", OFFSET(off), AV_OPT_TYPE_INT64, { .i64 = 0 }, 0, INT64_MAX, D },
157     { "end_offset", "try to limit the request to bytes preceding this offset", OFFSET(end_off), AV_OPT_TYPE_INT64, { .i64 = 0 }, 0, INT64_MAX, D },
158     { "method", "Override the HTTP method or set the expected HTTP method from a client", OFFSET(method), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, D | E },
159     { "reconnect", "auto reconnect after disconnect before EOF", OFFSET(reconnect), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
160     { "reconnect_at_eof", "auto reconnect at EOF", OFFSET(reconnect_at_eof), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
161     { "reconnect_streamed", "auto reconnect streamed / non seekable streams", OFFSET(reconnect_streamed), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, D },
162     { "reconnect_delay_max", "max reconnect delay in seconds after which to give up", OFFSET(reconnect_delay_max), AV_OPT_TYPE_INT, { .i64 = 120 }, 0, UINT_MAX/1000/1000, D },
163     { "listen", "listen on HTTP", OFFSET(listen), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 2, D | E },
164     { "resource", "The resource requested by a client", OFFSET(resource), AV_OPT_TYPE_STRING, { .str = NULL }, 0, 0, E },
165     { "reply_code", "The http status code to return to a client", OFFSET(reply_code), AV_OPT_TYPE_INT, { .i64 = 200}, INT_MIN, 599, E},
166     { NULL }
167 };
168
169 static int http_connect(URLContext *h, const char *path, const char *local_path,
170                         const char *hoststr, const char *auth,
171                         const char *proxyauth, int *new_location);
172 static int http_read_header(URLContext *h, int *new_location);
173
174 void ff_http_init_auth_state(URLContext *dest, const URLContext *src)
175 {
176     memcpy(&((HTTPContext *)dest->priv_data)->auth_state,
177            &((HTTPContext *)src->priv_data)->auth_state,
178            sizeof(HTTPAuthState));
179     memcpy(&((HTTPContext *)dest->priv_data)->proxy_auth_state,
180            &((HTTPContext *)src->priv_data)->proxy_auth_state,
181            sizeof(HTTPAuthState));
182 }
183
184 static int http_open_cnx_internal(URLContext *h, AVDictionary **options)
185 {
186     const char *path, *proxy_path, *lower_proto = "tcp", *local_path;
187     char hostname[1024], hoststr[1024], proto[10];
188     char auth[1024], proxyauth[1024] = "";
189     char path1[MAX_URL_SIZE];
190     char buf[1024], urlbuf[MAX_URL_SIZE];
191     int port, use_proxy, err, location_changed = 0;
192     HTTPContext *s = h->priv_data;
193
194     av_url_split(proto, sizeof(proto), auth, sizeof(auth),
195                  hostname, sizeof(hostname), &port,
196                  path1, sizeof(path1), s->location);
197     ff_url_join(hoststr, sizeof(hoststr), NULL, NULL, hostname, port, NULL);
198
199     proxy_path = s->http_proxy ? s->http_proxy : getenv("http_proxy");
200     use_proxy  = !ff_http_match_no_proxy(getenv("no_proxy"), hostname) &&
201                  proxy_path && av_strstart(proxy_path, "http://", NULL);
202
203     if (!strcmp(proto, "https")) {
204         lower_proto = "tls";
205         use_proxy   = 0;
206         if (port < 0)
207             port = 443;
208     }
209     if (port < 0)
210         port = 80;
211
212     if (path1[0] == '\0')
213         path = "/";
214     else
215         path = path1;
216     local_path = path;
217     if (use_proxy) {
218         /* Reassemble the request URL without auth string - we don't
219          * want to leak the auth to the proxy. */
220         ff_url_join(urlbuf, sizeof(urlbuf), proto, NULL, hostname, port, "%s",
221                     path1);
222         path = urlbuf;
223         av_url_split(NULL, 0, proxyauth, sizeof(proxyauth),
224                      hostname, sizeof(hostname), &port, NULL, 0, proxy_path);
225     }
226
227     ff_url_join(buf, sizeof(buf), lower_proto, NULL, hostname, port, NULL);
228
229     if (!s->hd) {
230         err = ffurl_open_whitelist(&s->hd, buf, AVIO_FLAG_READ_WRITE,
231                                    &h->interrupt_callback, options,
232                                    h->protocol_whitelist, h->protocol_blacklist, h);
233         if (err < 0)
234             return err;
235     }
236
237     err = http_connect(h, path, local_path, hoststr,
238                        auth, proxyauth, &location_changed);
239     if (err < 0)
240         return err;
241
242     return location_changed;
243 }
244
245 /* return non zero if error */
246 static int http_open_cnx(URLContext *h, AVDictionary **options)
247 {
248     HTTPAuthType cur_auth_type, cur_proxy_auth_type;
249     HTTPContext *s = h->priv_data;
250     int location_changed, attempts = 0, redirects = 0;
251 redo:
252     av_dict_copy(options, s->chained_options, 0);
253
254     cur_auth_type       = s->auth_state.auth_type;
255     cur_proxy_auth_type = s->auth_state.auth_type;
256
257     location_changed = http_open_cnx_internal(h, options);
258     if (location_changed < 0)
259         goto fail;
260
261     attempts++;
262     if (s->http_code == 401) {
263         if ((cur_auth_type == HTTP_AUTH_NONE || s->auth_state.stale) &&
264             s->auth_state.auth_type != HTTP_AUTH_NONE && attempts < 4) {
265             ffurl_closep(&s->hd);
266             goto redo;
267         } else
268             goto fail;
269     }
270     if (s->http_code == 407) {
271         if ((cur_proxy_auth_type == HTTP_AUTH_NONE || s->proxy_auth_state.stale) &&
272             s->proxy_auth_state.auth_type != HTTP_AUTH_NONE && attempts < 4) {
273             ffurl_closep(&s->hd);
274             goto redo;
275         } else
276             goto fail;
277     }
278     if ((s->http_code == 301 || s->http_code == 302 ||
279          s->http_code == 303 || s->http_code == 307) &&
280         location_changed == 1) {
281         /* url moved, get next */
282         ffurl_closep(&s->hd);
283         if (redirects++ >= MAX_REDIRECTS)
284             return AVERROR(EIO);
285         /* Restart the authentication process with the new target, which
286          * might use a different auth mechanism. */
287         memset(&s->auth_state, 0, sizeof(s->auth_state));
288         attempts         = 0;
289         location_changed = 0;
290         goto redo;
291     }
292     return 0;
293
294 fail:
295     if (s->hd)
296         ffurl_closep(&s->hd);
297     if (location_changed < 0)
298         return location_changed;
299     return ff_http_averror(s->http_code, AVERROR(EIO));
300 }
301
302 int ff_http_do_new_request(URLContext *h, const char *uri)
303 {
304     HTTPContext *s = h->priv_data;
305     AVDictionary *options = NULL;
306     int ret;
307
308     s->off           = 0;
309     s->icy_data_read = 0;
310     av_free(s->location);
311     s->location = av_strdup(uri);
312     if (!s->location)
313         return AVERROR(ENOMEM);
314
315     ret = http_open_cnx(h, &options);
316     av_dict_free(&options);
317     return ret;
318 }
319
320 int ff_http_averror(int status_code, int default_averror)
321 {
322     switch (status_code) {
323         case 400: return AVERROR_HTTP_BAD_REQUEST;
324         case 401: return AVERROR_HTTP_UNAUTHORIZED;
325         case 403: return AVERROR_HTTP_FORBIDDEN;
326         case 404: return AVERROR_HTTP_NOT_FOUND;
327         default: break;
328     }
329     if (status_code >= 400 && status_code <= 499)
330         return AVERROR_HTTP_OTHER_4XX;
331     else if (status_code >= 500)
332         return AVERROR_HTTP_SERVER_ERROR;
333     else
334         return default_averror;
335 }
336
337 static int http_write_reply(URLContext* h, int status_code)
338 {
339     int ret, body = 0, reply_code, message_len;
340     const char *reply_text, *content_type;
341     HTTPContext *s = h->priv_data;
342     char message[BUFFER_SIZE];
343     content_type = "text/plain";
344
345     if (status_code < 0)
346         body = 1;
347     switch (status_code) {
348     case AVERROR_HTTP_BAD_REQUEST:
349     case 400:
350         reply_code = 400;
351         reply_text = "Bad Request";
352         break;
353     case AVERROR_HTTP_FORBIDDEN:
354     case 403:
355         reply_code = 403;
356         reply_text = "Forbidden";
357         break;
358     case AVERROR_HTTP_NOT_FOUND:
359     case 404:
360         reply_code = 404;
361         reply_text = "Not Found";
362         break;
363     case 200:
364         reply_code = 200;
365         reply_text = "OK";
366         content_type = s->content_type ? s->content_type : "application/octet-stream";
367         break;
368     case AVERROR_HTTP_SERVER_ERROR:
369     case 500:
370         reply_code = 500;
371         reply_text = "Internal server error";
372         break;
373     default:
374         return AVERROR(EINVAL);
375     }
376     if (body) {
377         s->chunked_post = 0;
378         message_len = snprintf(message, sizeof(message),
379                  "HTTP/1.1 %03d %s\r\n"
380                  "Content-Type: %s\r\n"
381                  "Content-Length: %"SIZE_SPECIFIER"\r\n"
382                  "%s"
383                  "\r\n"
384                  "%03d %s\r\n",
385                  reply_code,
386                  reply_text,
387                  content_type,
388                  strlen(reply_text) + 6, // 3 digit status code + space + \r\n
389                  s->headers ? s->headers : "",
390                  reply_code,
391                  reply_text);
392     } else {
393         s->chunked_post = 1;
394         message_len = snprintf(message, sizeof(message),
395                  "HTTP/1.1 %03d %s\r\n"
396                  "Content-Type: %s\r\n"
397                  "Transfer-Encoding: chunked\r\n"
398                  "%s"
399                  "\r\n",
400                  reply_code,
401                  reply_text,
402                  content_type,
403                  s->headers ? s->headers : "");
404     }
405     av_log(h, AV_LOG_TRACE, "HTTP reply header: \n%s----\n", message);
406     if ((ret = ffurl_write(s->hd, message, message_len)) < 0)
407         return ret;
408     return 0;
409 }
410
411 static void handle_http_errors(URLContext *h, int error)
412 {
413     av_assert0(error < 0);
414     http_write_reply(h, error);
415 }
416
417 static int http_handshake(URLContext *c)
418 {
419     int ret, err, new_location;
420     HTTPContext *ch = c->priv_data;
421     URLContext *cl = ch->hd;
422     switch (ch->handshake_step) {
423     case LOWER_PROTO:
424         av_log(c, AV_LOG_TRACE, "Lower protocol\n");
425         if ((ret = ffurl_handshake(cl)) > 0)
426             return 2 + ret;
427         if (ret < 0)
428             return ret;
429         ch->handshake_step = READ_HEADERS;
430         ch->is_connected_server = 1;
431         return 2;
432     case READ_HEADERS:
433         av_log(c, AV_LOG_TRACE, "Read headers\n");
434         if ((err = http_read_header(c, &new_location)) < 0) {
435             handle_http_errors(c, err);
436             return err;
437         }
438         ch->handshake_step = WRITE_REPLY_HEADERS;
439         return 1;
440     case WRITE_REPLY_HEADERS:
441         av_log(c, AV_LOG_TRACE, "Reply code: %d\n", ch->reply_code);
442         if ((err = http_write_reply(c, ch->reply_code)) < 0)
443             return err;
444         ch->handshake_step = FINISH;
445         return 1;
446     case FINISH:
447         return 0;
448     }
449     // this should never be reached.
450     return AVERROR(EINVAL);
451 }
452
453 static int http_listen(URLContext *h, const char *uri, int flags,
454                        AVDictionary **options) {
455     HTTPContext *s = h->priv_data;
456     int ret;
457     char hostname[1024], proto[10];
458     char lower_url[100];
459     const char *lower_proto = "tcp";
460     int port;
461     av_url_split(proto, sizeof(proto), NULL, 0, hostname, sizeof(hostname), &port,
462                  NULL, 0, uri);
463     if (!strcmp(proto, "https"))
464         lower_proto = "tls";
465     ff_url_join(lower_url, sizeof(lower_url), lower_proto, NULL, hostname, port,
466                 NULL);
467     if ((ret = av_dict_set_int(options, "listen", s->listen, 0)) < 0)
468         goto fail;
469     if ((ret = ffurl_open_whitelist(&s->hd, lower_url, AVIO_FLAG_READ_WRITE,
470                                     &h->interrupt_callback, options,
471                                     h->protocol_whitelist, h->protocol_blacklist, h
472                                    )) < 0)
473         goto fail;
474     s->handshake_step = LOWER_PROTO;
475     if (s->listen == HTTP_SINGLE) { /* single client */
476         s->reply_code = 200;
477         while ((ret = http_handshake(h)) > 0);
478     }
479 fail:
480     av_dict_free(&s->chained_options);
481     return ret;
482 }
483
484 static int http_open(URLContext *h, const char *uri, int flags,
485                      AVDictionary **options)
486 {
487     HTTPContext *s = h->priv_data;
488     int ret;
489
490     if( s->seekable == 1 )
491         h->is_streamed = 0;
492     else
493         h->is_streamed = 1;
494
495     s->filesize = UINT64_MAX;
496     s->location = av_strdup(uri);
497     if (!s->location)
498         return AVERROR(ENOMEM);
499     if (options)
500         av_dict_copy(&s->chained_options, *options, 0);
501
502     if (s->headers) {
503         int len = strlen(s->headers);
504         if (len < 2 || strcmp("\r\n", s->headers + len - 2)) {
505             av_log(h, AV_LOG_WARNING,
506                    "No trailing CRLF found in HTTP header.\n");
507             ret = av_reallocp(&s->headers, len + 3);
508             if (ret < 0)
509                 return ret;
510             s->headers[len]     = '\r';
511             s->headers[len + 1] = '\n';
512             s->headers[len + 2] = '\0';
513         }
514     }
515
516     if (s->listen) {
517         return http_listen(h, uri, flags, options);
518     }
519     ret = http_open_cnx(h, options);
520     if (ret < 0)
521         av_dict_free(&s->chained_options);
522     return ret;
523 }
524
525 static int http_accept(URLContext *s, URLContext **c)
526 {
527     int ret;
528     HTTPContext *sc = s->priv_data;
529     HTTPContext *cc;
530     URLContext *sl = sc->hd;
531     URLContext *cl = NULL;
532
533     av_assert0(sc->listen);
534     if ((ret = ffurl_alloc(c, s->filename, s->flags, &sl->interrupt_callback)) < 0)
535         goto fail;
536     cc = (*c)->priv_data;
537     if ((ret = ffurl_accept(sl, &cl)) < 0)
538         goto fail;
539     cc->hd = cl;
540     cc->is_multi_client = 1;
541 fail:
542     return ret;
543 }
544
545 static int http_getc(HTTPContext *s)
546 {
547     int len;
548     if (s->buf_ptr >= s->buf_end) {
549         len = ffurl_read(s->hd, s->buffer, BUFFER_SIZE);
550         if (len < 0) {
551             return len;
552         } else if (len == 0) {
553             return AVERROR_EOF;
554         } else {
555             s->buf_ptr = s->buffer;
556             s->buf_end = s->buffer + len;
557         }
558     }
559     return *s->buf_ptr++;
560 }
561
562 static int http_get_line(HTTPContext *s, char *line, int line_size)
563 {
564     int ch;
565     char *q;
566
567     q = line;
568     for (;;) {
569         ch = http_getc(s);
570         if (ch < 0)
571             return ch;
572         if (ch == '\n') {
573             /* process line */
574             if (q > line && q[-1] == '\r')
575                 q--;
576             *q = '\0';
577
578             return 0;
579         } else {
580             if ((q - line) < line_size - 1)
581                 *q++ = ch;
582         }
583     }
584 }
585
586 static int check_http_code(URLContext *h, int http_code, const char *end)
587 {
588     HTTPContext *s = h->priv_data;
589     /* error codes are 4xx and 5xx, but regard 401 as a success, so we
590      * don't abort until all headers have been parsed. */
591     if (http_code >= 400 && http_code < 600 &&
592         (http_code != 401 || s->auth_state.auth_type != HTTP_AUTH_NONE) &&
593         (http_code != 407 || s->proxy_auth_state.auth_type != HTTP_AUTH_NONE)) {
594         end += strspn(end, SPACE_CHARS);
595         av_log(h, AV_LOG_WARNING, "HTTP error %d %s\n", http_code, end);
596         return ff_http_averror(http_code, AVERROR(EIO));
597     }
598     return 0;
599 }
600
601 static int parse_location(HTTPContext *s, const char *p)
602 {
603     char redirected_location[MAX_URL_SIZE], *new_loc;
604     ff_make_absolute_url(redirected_location, sizeof(redirected_location),
605                          s->location, p);
606     new_loc = av_strdup(redirected_location);
607     if (!new_loc)
608         return AVERROR(ENOMEM);
609     av_free(s->location);
610     s->location = new_loc;
611     return 0;
612 }
613
614 /* "bytes $from-$to/$document_size" */
615 static void parse_content_range(URLContext *h, const char *p)
616 {
617     HTTPContext *s = h->priv_data;
618     const char *slash;
619
620     if (!strncmp(p, "bytes ", 6)) {
621         p     += 6;
622         s->off = strtoull(p, NULL, 10);
623         if ((slash = strchr(p, '/')) && strlen(slash) > 0)
624             s->filesize = strtoull(slash + 1, NULL, 10);
625     }
626     if (s->seekable == -1 && (!s->is_akamai || s->filesize != 2147483647))
627         h->is_streamed = 0; /* we _can_ in fact seek */
628 }
629
630 static int parse_content_encoding(URLContext *h, const char *p)
631 {
632     if (!av_strncasecmp(p, "gzip", 4) ||
633         !av_strncasecmp(p, "deflate", 7)) {
634 #if CONFIG_ZLIB
635         HTTPContext *s = h->priv_data;
636
637         s->compressed = 1;
638         inflateEnd(&s->inflate_stream);
639         if (inflateInit2(&s->inflate_stream, 32 + 15) != Z_OK) {
640             av_log(h, AV_LOG_WARNING, "Error during zlib initialisation: %s\n",
641                    s->inflate_stream.msg);
642             return AVERROR(ENOSYS);
643         }
644         if (zlibCompileFlags() & (1 << 17)) {
645             av_log(h, AV_LOG_WARNING,
646                    "Your zlib was compiled without gzip support.\n");
647             return AVERROR(ENOSYS);
648         }
649 #else
650         av_log(h, AV_LOG_WARNING,
651                "Compressed (%s) content, need zlib with gzip support\n", p);
652         return AVERROR(ENOSYS);
653 #endif /* CONFIG_ZLIB */
654     } else if (!av_strncasecmp(p, "identity", 8)) {
655         // The normal, no-encoding case (although servers shouldn't include
656         // the header at all if this is the case).
657     } else {
658         av_log(h, AV_LOG_WARNING, "Unknown content coding: %s\n", p);
659     }
660     return 0;
661 }
662
663 // Concat all Icy- header lines
664 static int parse_icy(HTTPContext *s, const char *tag, const char *p)
665 {
666     int len = 4 + strlen(p) + strlen(tag);
667     int is_first = !s->icy_metadata_headers;
668     int ret;
669
670     av_dict_set(&s->metadata, tag, p, 0);
671
672     if (s->icy_metadata_headers)
673         len += strlen(s->icy_metadata_headers);
674
675     if ((ret = av_reallocp(&s->icy_metadata_headers, len)) < 0)
676         return ret;
677
678     if (is_first)
679         *s->icy_metadata_headers = '\0';
680
681     av_strlcatf(s->icy_metadata_headers, len, "%s: %s\n", tag, p);
682
683     return 0;
684 }
685
686 static int parse_set_cookie_expiry_time(const char *exp_str, struct tm *buf)
687 {
688     char exp_buf[MAX_EXPIRY];
689     int i, j, exp_buf_len = MAX_EXPIRY-1;
690     char *expiry;
691
692     // strip off any punctuation or whitespace
693     for (i = 0, j = 0; exp_str[i] != '\0' && j < exp_buf_len; i++) {
694         if ((exp_str[i] >= '0' && exp_str[i] <= '9') ||
695             (exp_str[i] >= 'A' && exp_str[i] <= 'Z') ||
696             (exp_str[i] >= 'a' && exp_str[i] <= 'z')) {
697             exp_buf[j] = exp_str[i];
698             j++;
699         }
700     }
701     exp_buf[j] = '\0';
702     expiry = exp_buf;
703
704     // move the string beyond the day of week
705     while ((*expiry < '0' || *expiry > '9') && *expiry != '\0')
706         expiry++;
707
708     return av_small_strptime(expiry, "%d%b%Y%H%M%S", buf) ? 0 : AVERROR(EINVAL);
709 }
710
711 static int parse_set_cookie(const char *set_cookie, AVDictionary **dict)
712 {
713     char *param, *next_param, *cstr, *back;
714
715     if (!(cstr = av_strdup(set_cookie)))
716         return AVERROR(EINVAL);
717
718     // strip any trailing whitespace
719     back = &cstr[strlen(cstr)-1];
720     while (strchr(WHITESPACES, *back)) {
721         *back='\0';
722         back--;
723     }
724
725     next_param = cstr;
726     while ((param = av_strtok(next_param, ";", &next_param))) {
727         char *name, *value;
728         param += strspn(param, WHITESPACES);
729         if ((name = av_strtok(param, "=", &value))) {
730             if (av_dict_set(dict, name, value, 0) < 0) {
731                 av_free(cstr);
732                 return -1;
733             }
734         }
735     }
736
737     av_free(cstr);
738     return 0;
739 }
740
741 static int parse_cookie(HTTPContext *s, const char *p, AVDictionary **cookies)
742 {
743     AVDictionary *new_params = NULL;
744     AVDictionaryEntry *e, *cookie_entry;
745     char *eql, *name;
746
747     // ensure the cookie is parsable
748     if (parse_set_cookie(p, &new_params))
749         return -1;
750
751     // if there is no cookie value there is nothing to parse
752     cookie_entry = av_dict_get(new_params, "", NULL, AV_DICT_IGNORE_SUFFIX);
753     if (!cookie_entry || !cookie_entry->value) {
754         av_dict_free(&new_params);
755         return -1;
756     }
757
758     // ensure the cookie is not expired or older than an existing value
759     if ((e = av_dict_get(new_params, "expires", NULL, 0)) && e->value) {
760         struct tm new_tm = {0};
761         if (!parse_set_cookie_expiry_time(e->value, &new_tm)) {
762             AVDictionaryEntry *e2;
763
764             // if the cookie has already expired ignore it
765             if (av_timegm(&new_tm) < av_gettime() / 1000000) {
766                 av_dict_free(&new_params);
767                 return -1;
768             }
769
770             // only replace an older cookie with the same name
771             e2 = av_dict_get(*cookies, cookie_entry->key, NULL, 0);
772             if (e2 && e2->value) {
773                 AVDictionary *old_params = NULL;
774                 if (!parse_set_cookie(p, &old_params)) {
775                     e2 = av_dict_get(old_params, "expires", NULL, 0);
776                     if (e2 && e2->value) {
777                         struct tm old_tm = {0};
778                         if (!parse_set_cookie_expiry_time(e->value, &old_tm)) {
779                             if (av_timegm(&new_tm) < av_timegm(&old_tm)) {
780                                 av_dict_free(&new_params);
781                                 av_dict_free(&old_params);
782                                 return -1;
783                             }
784                         }
785                     }
786                 }
787                 av_dict_free(&old_params);
788             }
789         }
790     }
791
792     // duplicate the cookie name (dict will dupe the value)
793     if (!(eql = strchr(p, '='))) return AVERROR(EINVAL);
794     if (!(name = av_strndup(p, eql - p))) return AVERROR(ENOMEM);
795
796     // add the cookie to the dictionary
797     av_dict_set(cookies, name, eql, AV_DICT_DONT_STRDUP_KEY);
798
799     return 0;
800 }
801
802 static int cookie_string(AVDictionary *dict, char **cookies)
803 {
804     AVDictionaryEntry *e = NULL;
805     int len = 1;
806
807     // determine how much memory is needed for the cookies string
808     while (e = av_dict_get(dict, "", e, AV_DICT_IGNORE_SUFFIX))
809         len += strlen(e->key) + strlen(e->value) + 1;
810
811     // reallocate the cookies
812     e = NULL;
813     if (*cookies) av_free(*cookies);
814     *cookies = av_malloc(len);
815     if (!*cookies) return AVERROR(ENOMEM);
816     *cookies[0] = '\0';
817
818     // write out the cookies
819     while (e = av_dict_get(dict, "", e, AV_DICT_IGNORE_SUFFIX))
820         av_strlcatf(*cookies, len, "%s%s\n", e->key, e->value);
821
822     return 0;
823 }
824
825 static int process_line(URLContext *h, char *line, int line_count,
826                         int *new_location)
827 {
828     HTTPContext *s = h->priv_data;
829     const char *auto_method =  h->flags & AVIO_FLAG_READ ? "POST" : "GET";
830     char *tag, *p, *end, *method, *resource, *version;
831     int ret;
832
833     /* end of header */
834     if (line[0] == '\0') {
835         s->end_header = 1;
836         return 0;
837     }
838
839     p = line;
840     if (line_count == 0) {
841         if (s->is_connected_server) {
842             // HTTP method
843             method = p;
844             while (*p && !av_isspace(*p))
845                 p++;
846             *(p++) = '\0';
847             av_log(h, AV_LOG_TRACE, "Received method: %s\n", method);
848             if (s->method) {
849                 if (av_strcasecmp(s->method, method)) {
850                     av_log(h, AV_LOG_ERROR, "Received and expected HTTP method do not match. (%s expected, %s received)\n",
851                            s->method, method);
852                     return ff_http_averror(400, AVERROR(EIO));
853                 }
854             } else {
855                 // use autodetected HTTP method to expect
856                 av_log(h, AV_LOG_TRACE, "Autodetected %s HTTP method\n", auto_method);
857                 if (av_strcasecmp(auto_method, method)) {
858                     av_log(h, AV_LOG_ERROR, "Received and autodetected HTTP method did not match "
859                            "(%s autodetected %s received)\n", auto_method, method);
860                     return ff_http_averror(400, AVERROR(EIO));
861                 }
862                 if (!(s->method = av_strdup(method)))
863                     return AVERROR(ENOMEM);
864             }
865
866             // HTTP resource
867             while (av_isspace(*p))
868                 p++;
869             resource = p;
870             while (!av_isspace(*p))
871                 p++;
872             *(p++) = '\0';
873             av_log(h, AV_LOG_TRACE, "Requested resource: %s\n", resource);
874             if (!(s->resource = av_strdup(resource)))
875                 return AVERROR(ENOMEM);
876
877             // HTTP version
878             while (av_isspace(*p))
879                 p++;
880             version = p;
881             while (*p && !av_isspace(*p))
882                 p++;
883             *p = '\0';
884             if (av_strncasecmp(version, "HTTP/", 5)) {
885                 av_log(h, AV_LOG_ERROR, "Malformed HTTP version string.\n");
886                 return ff_http_averror(400, AVERROR(EIO));
887             }
888             av_log(h, AV_LOG_TRACE, "HTTP version string: %s\n", version);
889         } else {
890             while (!av_isspace(*p) && *p != '\0')
891                 p++;
892             while (av_isspace(*p))
893                 p++;
894             s->http_code = strtol(p, &end, 10);
895
896             av_log(h, AV_LOG_TRACE, "http_code=%d\n", s->http_code);
897
898             if ((ret = check_http_code(h, s->http_code, end)) < 0)
899                 return ret;
900         }
901     } else {
902         while (*p != '\0' && *p != ':')
903             p++;
904         if (*p != ':')
905             return 1;
906
907         *p  = '\0';
908         tag = line;
909         p++;
910         while (av_isspace(*p))
911             p++;
912         if (!av_strcasecmp(tag, "Location")) {
913             if ((ret = parse_location(s, p)) < 0)
914                 return ret;
915             *new_location = 1;
916         } else if (!av_strcasecmp(tag, "Content-Length") &&
917                    s->filesize == UINT64_MAX) {
918             s->filesize = strtoull(p, NULL, 10);
919         } else if (!av_strcasecmp(tag, "Content-Range")) {
920             parse_content_range(h, p);
921         } else if (!av_strcasecmp(tag, "Accept-Ranges") &&
922                    !strncmp(p, "bytes", 5) &&
923                    s->seekable == -1) {
924             h->is_streamed = 0;
925         } else if (!av_strcasecmp(tag, "Transfer-Encoding") &&
926                    !av_strncasecmp(p, "chunked", 7)) {
927             s->filesize  = UINT64_MAX;
928             s->chunksize = 0;
929         } else if (!av_strcasecmp(tag, "WWW-Authenticate")) {
930             ff_http_auth_handle_header(&s->auth_state, tag, p);
931         } else if (!av_strcasecmp(tag, "Authentication-Info")) {
932             ff_http_auth_handle_header(&s->auth_state, tag, p);
933         } else if (!av_strcasecmp(tag, "Proxy-Authenticate")) {
934             ff_http_auth_handle_header(&s->proxy_auth_state, tag, p);
935         } else if (!av_strcasecmp(tag, "Connection")) {
936             if (!strcmp(p, "close"))
937                 s->willclose = 1;
938         } else if (!av_strcasecmp(tag, "Server")) {
939             if (!av_strcasecmp(p, "AkamaiGHost")) {
940                 s->is_akamai = 1;
941             } else if (!av_strncasecmp(p, "MediaGateway", 12)) {
942                 s->is_mediagateway = 1;
943             }
944         } else if (!av_strcasecmp(tag, "Content-Type")) {
945             av_free(s->mime_type);
946             s->mime_type = av_strdup(p);
947         } else if (!av_strcasecmp(tag, "Set-Cookie")) {
948             if (parse_cookie(s, p, &s->cookie_dict))
949                 av_log(h, AV_LOG_WARNING, "Unable to parse '%s'\n", p);
950         } else if (!av_strcasecmp(tag, "Icy-MetaInt")) {
951             s->icy_metaint = strtoull(p, NULL, 10);
952         } else if (!av_strncasecmp(tag, "Icy-", 4)) {
953             if ((ret = parse_icy(s, tag, p)) < 0)
954                 return ret;
955         } else if (!av_strcasecmp(tag, "Content-Encoding")) {
956             if ((ret = parse_content_encoding(h, p)) < 0)
957                 return ret;
958         }
959     }
960     return 1;
961 }
962
963 /**
964  * Create a string containing cookie values for use as a HTTP cookie header
965  * field value for a particular path and domain from the cookie values stored in
966  * the HTTP protocol context. The cookie string is stored in *cookies.
967  *
968  * @return a negative value if an error condition occurred, 0 otherwise
969  */
970 static int get_cookies(HTTPContext *s, char **cookies, const char *path,
971                        const char *domain)
972 {
973     // cookie strings will look like Set-Cookie header field values.  Multiple
974     // Set-Cookie fields will result in multiple values delimited by a newline
975     int ret = 0;
976     char *cookie, *set_cookies = av_strdup(s->cookies), *next = set_cookies;
977
978     if (!set_cookies) return AVERROR(EINVAL);
979
980     // destroy any cookies in the dictionary.
981     av_dict_free(&s->cookie_dict);
982
983     *cookies = NULL;
984     while ((cookie = av_strtok(next, "\n", &next))) {
985         AVDictionary *cookie_params = NULL;
986         AVDictionaryEntry *cookie_entry, *e;
987
988         // store the cookie in a dict in case it is updated in the response
989         if (parse_cookie(s, cookie, &s->cookie_dict))
990             av_log(s, AV_LOG_WARNING, "Unable to parse '%s'\n", cookie);
991
992         // continue on to the next cookie if this one cannot be parsed
993         if (parse_set_cookie(cookie, &cookie_params))
994             continue;
995
996         // if the cookie has no value, skip it
997         cookie_entry = av_dict_get(cookie_params, "", NULL, AV_DICT_IGNORE_SUFFIX);
998         if (!cookie_entry || !cookie_entry->value) {
999             av_dict_free(&cookie_params);
1000             continue;
1001         }
1002
1003         // if the cookie has expired, don't add it
1004         if ((e = av_dict_get(cookie_params, "expires", NULL, 0)) && e->value) {
1005             struct tm tm_buf = {0};
1006             if (!parse_set_cookie_expiry_time(e->value, &tm_buf)) {
1007                 if (av_timegm(&tm_buf) < av_gettime() / 1000000) {
1008                     av_dict_free(&cookie_params);
1009                     continue;
1010                 }
1011             }
1012         }
1013
1014         // if no domain in the cookie assume it appied to this request
1015         if ((e = av_dict_get(cookie_params, "domain", NULL, 0)) && e->value) {
1016             // find the offset comparison is on the min domain (b.com, not a.b.com)
1017             int domain_offset = strlen(domain) - strlen(e->value);
1018             if (domain_offset < 0) {
1019                 av_dict_free(&cookie_params);
1020                 continue;
1021             }
1022
1023             // match the cookie domain
1024             if (av_strcasecmp(&domain[domain_offset], e->value)) {
1025                 av_dict_free(&cookie_params);
1026                 continue;
1027             }
1028         }
1029
1030         // ensure this cookie matches the path
1031         e = av_dict_get(cookie_params, "path", NULL, 0);
1032         if (!e || av_strncasecmp(path, e->value, strlen(e->value))) {
1033             av_dict_free(&cookie_params);
1034             continue;
1035         }
1036
1037         // cookie parameters match, so copy the value
1038         if (!*cookies) {
1039             if (!(*cookies = av_asprintf("%s=%s", cookie_entry->key, cookie_entry->value))) {
1040                 ret = AVERROR(ENOMEM);
1041                 break;
1042             }
1043         } else {
1044             char *tmp = *cookies;
1045             size_t str_size = strlen(cookie_entry->key) + strlen(cookie_entry->value) + strlen(*cookies) + 4;
1046             if (!(*cookies = av_malloc(str_size))) {
1047                 ret = AVERROR(ENOMEM);
1048                 av_free(tmp);
1049                 break;
1050             }
1051             snprintf(*cookies, str_size, "%s; %s=%s", tmp, cookie_entry->key, cookie_entry->value);
1052             av_free(tmp);
1053         }
1054     }
1055
1056     av_free(set_cookies);
1057
1058     return ret;
1059 }
1060
1061 static inline int has_header(const char *str, const char *header)
1062 {
1063     /* header + 2 to skip over CRLF prefix. (make sure you have one!) */
1064     if (!str)
1065         return 0;
1066     return av_stristart(str, header + 2, NULL) || av_stristr(str, header);
1067 }
1068
1069 static int http_read_header(URLContext *h, int *new_location)
1070 {
1071     HTTPContext *s = h->priv_data;
1072     char line[MAX_URL_SIZE];
1073     int err = 0;
1074
1075     s->chunksize = UINT64_MAX;
1076
1077     for (;;) {
1078         if ((err = http_get_line(s, line, sizeof(line))) < 0)
1079             return err;
1080
1081         av_log(h, AV_LOG_TRACE, "header='%s'\n", line);
1082
1083         err = process_line(h, line, s->line_count, new_location);
1084         if (err < 0)
1085             return err;
1086         if (err == 0)
1087             break;
1088         s->line_count++;
1089     }
1090
1091     if (s->seekable == -1 && s->is_mediagateway && s->filesize == 2000000000)
1092         h->is_streamed = 1; /* we can in fact _not_ seek */
1093
1094     // add any new cookies into the existing cookie string
1095     cookie_string(s->cookie_dict, &s->cookies);
1096     av_dict_free(&s->cookie_dict);
1097
1098     return err;
1099 }
1100
1101 static int http_connect(URLContext *h, const char *path, const char *local_path,
1102                         const char *hoststr, const char *auth,
1103                         const char *proxyauth, int *new_location)
1104 {
1105     HTTPContext *s = h->priv_data;
1106     int post, err;
1107     char headers[HTTP_HEADERS_SIZE] = "";
1108     char *authstr = NULL, *proxyauthstr = NULL;
1109     uint64_t off = s->off;
1110     int len = 0;
1111     const char *method;
1112     int send_expect_100 = 0;
1113     int ret;
1114
1115     /* send http header */
1116     post = h->flags & AVIO_FLAG_WRITE;
1117
1118     if (s->post_data) {
1119         /* force POST method and disable chunked encoding when
1120          * custom HTTP post data is set */
1121         post            = 1;
1122         s->chunked_post = 0;
1123     }
1124
1125     if (s->method)
1126         method = s->method;
1127     else
1128         method = post ? "POST" : "GET";
1129
1130     authstr      = ff_http_auth_create_response(&s->auth_state, auth,
1131                                                 local_path, method);
1132     proxyauthstr = ff_http_auth_create_response(&s->proxy_auth_state, proxyauth,
1133                                                 local_path, method);
1134     if (post && !s->post_data) {
1135         send_expect_100 = s->send_expect_100;
1136         /* The user has supplied authentication but we don't know the auth type,
1137          * send Expect: 100-continue to get the 401 response including the
1138          * WWW-Authenticate header, or an 100 continue if no auth actually
1139          * is needed. */
1140         if (auth && *auth &&
1141             s->auth_state.auth_type == HTTP_AUTH_NONE &&
1142             s->http_code != 401)
1143             send_expect_100 = 1;
1144     }
1145
1146 #if FF_API_HTTP_USER_AGENT
1147     if (strcmp(s->user_agent_deprecated, DEFAULT_USER_AGENT)) {
1148         av_log(s, AV_LOG_WARNING, "the user-agent option is deprecated, please use user_agent option\n");
1149         s->user_agent = av_strdup(s->user_agent_deprecated);
1150     }
1151 #endif
1152     /* set default headers if needed */
1153     if (!has_header(s->headers, "\r\nUser-Agent: "))
1154         len += av_strlcatf(headers + len, sizeof(headers) - len,
1155                            "User-Agent: %s\r\n", s->user_agent);
1156     if (!has_header(s->headers, "\r\nAccept: "))
1157         len += av_strlcpy(headers + len, "Accept: */*\r\n",
1158                           sizeof(headers) - len);
1159     // Note: we send this on purpose even when s->off is 0 when we're probing,
1160     // since it allows us to detect more reliably if a (non-conforming)
1161     // server supports seeking by analysing the reply headers.
1162     if (!has_header(s->headers, "\r\nRange: ") && !post && (s->off > 0 || s->end_off || s->seekable == -1)) {
1163         len += av_strlcatf(headers + len, sizeof(headers) - len,
1164                            "Range: bytes=%"PRIu64"-", s->off);
1165         if (s->end_off)
1166             len += av_strlcatf(headers + len, sizeof(headers) - len,
1167                                "%"PRId64, s->end_off - 1);
1168         len += av_strlcpy(headers + len, "\r\n",
1169                           sizeof(headers) - len);
1170     }
1171     if (send_expect_100 && !has_header(s->headers, "\r\nExpect: "))
1172         len += av_strlcatf(headers + len, sizeof(headers) - len,
1173                            "Expect: 100-continue\r\n");
1174
1175     if (!has_header(s->headers, "\r\nConnection: ")) {
1176         if (s->multiple_requests)
1177             len += av_strlcpy(headers + len, "Connection: keep-alive\r\n",
1178                               sizeof(headers) - len);
1179         else
1180             len += av_strlcpy(headers + len, "Connection: close\r\n",
1181                               sizeof(headers) - len);
1182     }
1183
1184     if (!has_header(s->headers, "\r\nHost: "))
1185         len += av_strlcatf(headers + len, sizeof(headers) - len,
1186                            "Host: %s\r\n", hoststr);
1187     if (!has_header(s->headers, "\r\nContent-Length: ") && s->post_data)
1188         len += av_strlcatf(headers + len, sizeof(headers) - len,
1189                            "Content-Length: %d\r\n", s->post_datalen);
1190
1191     if (!has_header(s->headers, "\r\nContent-Type: ") && s->content_type)
1192         len += av_strlcatf(headers + len, sizeof(headers) - len,
1193                            "Content-Type: %s\r\n", s->content_type);
1194     if (!has_header(s->headers, "\r\nCookie: ") && s->cookies) {
1195         char *cookies = NULL;
1196         if (!get_cookies(s, &cookies, path, hoststr) && cookies) {
1197             len += av_strlcatf(headers + len, sizeof(headers) - len,
1198                                "Cookie: %s\r\n", cookies);
1199             av_free(cookies);
1200         }
1201     }
1202     if (!has_header(s->headers, "\r\nIcy-MetaData: ") && s->icy)
1203         len += av_strlcatf(headers + len, sizeof(headers) - len,
1204                            "Icy-MetaData: %d\r\n", 1);
1205
1206     /* now add in custom headers */
1207     if (s->headers)
1208         av_strlcpy(headers + len, s->headers, sizeof(headers) - len);
1209
1210     ret = snprintf(s->buffer, sizeof(s->buffer),
1211              "%s %s HTTP/1.1\r\n"
1212              "%s"
1213              "%s"
1214              "%s"
1215              "%s%s"
1216              "\r\n",
1217              method,
1218              path,
1219              post && s->chunked_post ? "Transfer-Encoding: chunked\r\n" : "",
1220              headers,
1221              authstr ? authstr : "",
1222              proxyauthstr ? "Proxy-" : "", proxyauthstr ? proxyauthstr : "");
1223
1224     av_log(h, AV_LOG_DEBUG, "request: %s\n", s->buffer);
1225
1226     if (strlen(headers) + 1 == sizeof(headers) ||
1227         ret >= sizeof(s->buffer)) {
1228         av_log(h, AV_LOG_ERROR, "overlong headers\n");
1229         err = AVERROR(EINVAL);
1230         goto done;
1231     }
1232
1233
1234     if ((err = ffurl_write(s->hd, s->buffer, strlen(s->buffer))) < 0)
1235         goto done;
1236
1237     if (s->post_data)
1238         if ((err = ffurl_write(s->hd, s->post_data, s->post_datalen)) < 0)
1239             goto done;
1240
1241     /* init input buffer */
1242     s->buf_ptr          = s->buffer;
1243     s->buf_end          = s->buffer;
1244     s->line_count       = 0;
1245     s->off              = 0;
1246     s->icy_data_read    = 0;
1247     s->filesize         = UINT64_MAX;
1248     s->willclose        = 0;
1249     s->end_chunked_post = 0;
1250     s->end_header       = 0;
1251 #if CONFIG_ZLIB
1252     s->compressed       = 0;
1253 #endif
1254     if (post && !s->post_data && !send_expect_100) {
1255         /* Pretend that it did work. We didn't read any header yet, since
1256          * we've still to send the POST data, but the code calling this
1257          * function will check http_code after we return. */
1258         s->http_code = 200;
1259         err = 0;
1260         goto done;
1261     }
1262
1263     /* wait for header */
1264     err = http_read_header(h, new_location);
1265     if (err < 0)
1266         goto done;
1267
1268     if (*new_location)
1269         s->off = off;
1270
1271     err = (off == s->off) ? 0 : -1;
1272 done:
1273     av_freep(&authstr);
1274     av_freep(&proxyauthstr);
1275     return err;
1276 }
1277
1278 static int http_buf_read(URLContext *h, uint8_t *buf, int size)
1279 {
1280     HTTPContext *s = h->priv_data;
1281     int len;
1282
1283     if (s->chunksize != UINT64_MAX) {
1284         if (!s->chunksize) {
1285             char line[32];
1286             int err;
1287
1288             do {
1289                 if ((err = http_get_line(s, line, sizeof(line))) < 0)
1290                     return err;
1291             } while (!*line);    /* skip CR LF from last chunk */
1292
1293             s->chunksize = strtoull(line, NULL, 16);
1294
1295             av_log(h, AV_LOG_TRACE,
1296                    "Chunked encoding data size: %"PRIu64"'\n",
1297                     s->chunksize);
1298
1299             if (!s->chunksize) {
1300                 av_log(h, AV_LOG_DEBUG, "Last chunk received, closing conn\n");
1301                 ffurl_closep(&s->hd);
1302                 return 0;
1303             }
1304             else if (s->chunksize == UINT64_MAX) {
1305                 av_log(h, AV_LOG_ERROR, "Invalid chunk size %"PRIu64"\n",
1306                        s->chunksize);
1307                 return AVERROR(EINVAL);
1308             }
1309         }
1310         size = FFMIN(size, s->chunksize);
1311     }
1312
1313     /* read bytes from input buffer first */
1314     len = s->buf_end - s->buf_ptr;
1315     if (len > 0) {
1316         if (len > size)
1317             len = size;
1318         memcpy(buf, s->buf_ptr, len);
1319         s->buf_ptr += len;
1320     } else {
1321         uint64_t target_end = s->end_off ? s->end_off : s->filesize;
1322         if ((!s->willclose || s->chunksize == UINT64_MAX) && s->off >= target_end)
1323             return AVERROR_EOF;
1324         len = ffurl_read(s->hd, buf, size);
1325         if (!len && (!s->willclose || s->chunksize == UINT64_MAX) && s->off < target_end) {
1326             av_log(h, AV_LOG_ERROR,
1327                    "Stream ends prematurely at %"PRIu64", should be %"PRIu64"\n",
1328                    s->off, target_end
1329                   );
1330             return AVERROR(EIO);
1331         }
1332     }
1333     if (len > 0) {
1334         s->off += len;
1335         if (s->chunksize > 0 && s->chunksize != UINT64_MAX) {
1336             av_assert0(s->chunksize >= len);
1337             s->chunksize -= len;
1338         }
1339     }
1340     return len;
1341 }
1342
1343 #if CONFIG_ZLIB
1344 #define DECOMPRESS_BUF_SIZE (256 * 1024)
1345 static int http_buf_read_compressed(URLContext *h, uint8_t *buf, int size)
1346 {
1347     HTTPContext *s = h->priv_data;
1348     int ret;
1349
1350     if (!s->inflate_buffer) {
1351         s->inflate_buffer = av_malloc(DECOMPRESS_BUF_SIZE);
1352         if (!s->inflate_buffer)
1353             return AVERROR(ENOMEM);
1354     }
1355
1356     if (s->inflate_stream.avail_in == 0) {
1357         int read = http_buf_read(h, s->inflate_buffer, DECOMPRESS_BUF_SIZE);
1358         if (read <= 0)
1359             return read;
1360         s->inflate_stream.next_in  = s->inflate_buffer;
1361         s->inflate_stream.avail_in = read;
1362     }
1363
1364     s->inflate_stream.avail_out = size;
1365     s->inflate_stream.next_out  = buf;
1366
1367     ret = inflate(&s->inflate_stream, Z_SYNC_FLUSH);
1368     if (ret != Z_OK && ret != Z_STREAM_END)
1369         av_log(h, AV_LOG_WARNING, "inflate return value: %d, %s\n",
1370                ret, s->inflate_stream.msg);
1371
1372     return size - s->inflate_stream.avail_out;
1373 }
1374 #endif /* CONFIG_ZLIB */
1375
1376 static int64_t http_seek_internal(URLContext *h, int64_t off, int whence, int force_reconnect);
1377
1378 static int http_read_stream(URLContext *h, uint8_t *buf, int size)
1379 {
1380     HTTPContext *s = h->priv_data;
1381     int err, new_location, read_ret;
1382     int64_t seek_ret;
1383
1384     if (!s->hd)
1385         return AVERROR_EOF;
1386
1387     if (s->end_chunked_post && !s->end_header) {
1388         err = http_read_header(h, &new_location);
1389         if (err < 0)
1390             return err;
1391     }
1392
1393 #if CONFIG_ZLIB
1394     if (s->compressed)
1395         return http_buf_read_compressed(h, buf, size);
1396 #endif /* CONFIG_ZLIB */
1397     read_ret = http_buf_read(h, buf, size);
1398     if (   (read_ret  < 0 && s->reconnect        && (!h->is_streamed || s->reconnect_streamed) && s->filesize > 0 && s->off < s->filesize)
1399         || (read_ret == 0 && s->reconnect_at_eof && (!h->is_streamed || s->reconnect_streamed))) {
1400         uint64_t target = h->is_streamed ? 0 : s->off;
1401
1402         if (s->reconnect_delay > s->reconnect_delay_max)
1403             return AVERROR(EIO);
1404
1405         av_log(h, AV_LOG_INFO, "Will reconnect at %"PRIu64" error=%s.\n", s->off, av_err2str(read_ret));
1406         av_usleep(1000U*1000*s->reconnect_delay);
1407         s->reconnect_delay = 1 + 2*s->reconnect_delay;
1408         seek_ret = http_seek_internal(h, target, SEEK_SET, 1);
1409         if (seek_ret != target) {
1410             av_log(h, AV_LOG_ERROR, "Failed to reconnect at %"PRIu64".\n", target);
1411             return read_ret;
1412         }
1413
1414         read_ret = http_buf_read(h, buf, size);
1415     } else
1416         s->reconnect_delay = 0;
1417
1418     return read_ret;
1419 }
1420
1421 // Like http_read_stream(), but no short reads.
1422 // Assumes partial reads are an error.
1423 static int http_read_stream_all(URLContext *h, uint8_t *buf, int size)
1424 {
1425     int pos = 0;
1426     while (pos < size) {
1427         int len = http_read_stream(h, buf + pos, size - pos);
1428         if (len < 0)
1429             return len;
1430         pos += len;
1431     }
1432     return pos;
1433 }
1434
1435 static void update_metadata(HTTPContext *s, char *data)
1436 {
1437     char *key;
1438     char *val;
1439     char *end;
1440     char *next = data;
1441
1442     while (*next) {
1443         key = next;
1444         val = strstr(key, "='");
1445         if (!val)
1446             break;
1447         end = strstr(val, "';");
1448         if (!end)
1449             break;
1450
1451         *val = '\0';
1452         *end = '\0';
1453         val += 2;
1454
1455         av_dict_set(&s->metadata, key, val, 0);
1456
1457         next = end + 2;
1458     }
1459 }
1460
1461 static int store_icy(URLContext *h, int size)
1462 {
1463     HTTPContext *s = h->priv_data;
1464     /* until next metadata packet */
1465     uint64_t remaining;
1466
1467     if (s->icy_metaint < s->icy_data_read)
1468         return AVERROR_INVALIDDATA;
1469     remaining = s->icy_metaint - s->icy_data_read;
1470
1471     if (!remaining) {
1472         /* The metadata packet is variable sized. It has a 1 byte header
1473          * which sets the length of the packet (divided by 16). If it's 0,
1474          * the metadata doesn't change. After the packet, icy_metaint bytes
1475          * of normal data follows. */
1476         uint8_t ch;
1477         int len = http_read_stream_all(h, &ch, 1);
1478         if (len < 0)
1479             return len;
1480         if (ch > 0) {
1481             char data[255 * 16 + 1];
1482             int ret;
1483             len = ch * 16;
1484             ret = http_read_stream_all(h, data, len);
1485             if (ret < 0)
1486                 return ret;
1487             data[len + 1] = 0;
1488             if ((ret = av_opt_set(s, "icy_metadata_packet", data, 0)) < 0)
1489                 return ret;
1490             update_metadata(s, data);
1491         }
1492         s->icy_data_read = 0;
1493         remaining        = s->icy_metaint;
1494     }
1495
1496     return FFMIN(size, remaining);
1497 }
1498
1499 static int http_read(URLContext *h, uint8_t *buf, int size)
1500 {
1501     HTTPContext *s = h->priv_data;
1502
1503     if (s->icy_metaint > 0) {
1504         size = store_icy(h, size);
1505         if (size < 0)
1506             return size;
1507     }
1508
1509     size = http_read_stream(h, buf, size);
1510     if (size > 0)
1511         s->icy_data_read += size;
1512     return size;
1513 }
1514
1515 /* used only when posting data */
1516 static int http_write(URLContext *h, const uint8_t *buf, int size)
1517 {
1518     char temp[11] = "";  /* 32-bit hex + CRLF + nul */
1519     int ret;
1520     char crlf[] = "\r\n";
1521     HTTPContext *s = h->priv_data;
1522
1523     if (!s->chunked_post) {
1524         /* non-chunked data is sent without any special encoding */
1525         return ffurl_write(s->hd, buf, size);
1526     }
1527
1528     /* silently ignore zero-size data since chunk encoding that would
1529      * signal EOF */
1530     if (size > 0) {
1531         /* upload data using chunked encoding */
1532         snprintf(temp, sizeof(temp), "%x\r\n", size);
1533
1534         if ((ret = ffurl_write(s->hd, temp, strlen(temp))) < 0 ||
1535             (ret = ffurl_write(s->hd, buf, size)) < 0          ||
1536             (ret = ffurl_write(s->hd, crlf, sizeof(crlf) - 1)) < 0)
1537             return ret;
1538     }
1539     return size;
1540 }
1541
1542 static int http_shutdown(URLContext *h, int flags)
1543 {
1544     int ret = 0;
1545     char footer[] = "0\r\n\r\n";
1546     HTTPContext *s = h->priv_data;
1547
1548     /* signal end of chunked encoding if used */
1549     if (((flags & AVIO_FLAG_WRITE) && s->chunked_post) ||
1550         ((flags & AVIO_FLAG_READ) && s->chunked_post && s->listen)) {
1551         ret = ffurl_write(s->hd, footer, sizeof(footer) - 1);
1552         ret = ret > 0 ? 0 : ret;
1553         s->end_chunked_post = 1;
1554     }
1555
1556     return ret;
1557 }
1558
1559 static int http_close(URLContext *h)
1560 {
1561     int ret = 0;
1562     HTTPContext *s = h->priv_data;
1563
1564 #if CONFIG_ZLIB
1565     inflateEnd(&s->inflate_stream);
1566     av_freep(&s->inflate_buffer);
1567 #endif /* CONFIG_ZLIB */
1568
1569     if (!s->end_chunked_post)
1570         /* Close the write direction by sending the end of chunked encoding. */
1571         ret = http_shutdown(h, h->flags);
1572
1573     if (s->hd)
1574         ffurl_closep(&s->hd);
1575     av_dict_free(&s->chained_options);
1576     return ret;
1577 }
1578
1579 static int64_t http_seek_internal(URLContext *h, int64_t off, int whence, int force_reconnect)
1580 {
1581     HTTPContext *s = h->priv_data;
1582     URLContext *old_hd = s->hd;
1583     uint64_t old_off = s->off;
1584     uint8_t old_buf[BUFFER_SIZE];
1585     int old_buf_size, ret;
1586     AVDictionary *options = NULL;
1587
1588     if (whence == AVSEEK_SIZE)
1589         return s->filesize;
1590     else if (!force_reconnect &&
1591              ((whence == SEEK_CUR && off == 0) ||
1592               (whence == SEEK_SET && off == s->off)))
1593         return s->off;
1594     else if ((s->filesize == UINT64_MAX && whence == SEEK_END))
1595         return AVERROR(ENOSYS);
1596
1597     if (whence == SEEK_CUR)
1598         off += s->off;
1599     else if (whence == SEEK_END)
1600         off += s->filesize;
1601     else if (whence != SEEK_SET)
1602         return AVERROR(EINVAL);
1603     if (off < 0)
1604         return AVERROR(EINVAL);
1605     s->off = off;
1606
1607     if (s->off && h->is_streamed)
1608         return AVERROR(ENOSYS);
1609
1610     /* we save the old context in case the seek fails */
1611     old_buf_size = s->buf_end - s->buf_ptr;
1612     memcpy(old_buf, s->buf_ptr, old_buf_size);
1613     s->hd = NULL;
1614
1615     /* if it fails, continue on old connection */
1616     if ((ret = http_open_cnx(h, &options)) < 0) {
1617         av_dict_free(&options);
1618         memcpy(s->buffer, old_buf, old_buf_size);
1619         s->buf_ptr = s->buffer;
1620         s->buf_end = s->buffer + old_buf_size;
1621         s->hd      = old_hd;
1622         s->off     = old_off;
1623         return ret;
1624     }
1625     av_dict_free(&options);
1626     ffurl_close(old_hd);
1627     return off;
1628 }
1629
1630 static int64_t http_seek(URLContext *h, int64_t off, int whence)
1631 {
1632     return http_seek_internal(h, off, whence, 0);
1633 }
1634
1635 static int http_get_file_handle(URLContext *h)
1636 {
1637     HTTPContext *s = h->priv_data;
1638     return ffurl_get_file_handle(s->hd);
1639 }
1640
1641 static int http_get_short_seek(URLContext *h)
1642 {
1643     HTTPContext *s = h->priv_data;
1644     return ffurl_get_short_seek(s->hd);
1645 }
1646
1647 #define HTTP_CLASS(flavor)                          \
1648 static const AVClass flavor ## _context_class = {   \
1649     .class_name = # flavor,                         \
1650     .item_name  = av_default_item_name,             \
1651     .option     = options,                          \
1652     .version    = LIBAVUTIL_VERSION_INT,            \
1653 }
1654
1655 #if CONFIG_HTTP_PROTOCOL
1656 HTTP_CLASS(http);
1657
1658 const URLProtocol ff_http_protocol = {
1659     .name                = "http",
1660     .url_open2           = http_open,
1661     .url_accept          = http_accept,
1662     .url_handshake       = http_handshake,
1663     .url_read            = http_read,
1664     .url_write           = http_write,
1665     .url_seek            = http_seek,
1666     .url_close           = http_close,
1667     .url_get_file_handle = http_get_file_handle,
1668     .url_get_short_seek  = http_get_short_seek,
1669     .url_shutdown        = http_shutdown,
1670     .priv_data_size      = sizeof(HTTPContext),
1671     .priv_data_class     = &http_context_class,
1672     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1673     .default_whitelist   = "http,https,tls,rtp,tcp,udp,crypto,httpproxy"
1674 };
1675 #endif /* CONFIG_HTTP_PROTOCOL */
1676
1677 #if CONFIG_HTTPS_PROTOCOL
1678 HTTP_CLASS(https);
1679
1680 const URLProtocol ff_https_protocol = {
1681     .name                = "https",
1682     .url_open2           = http_open,
1683     .url_read            = http_read,
1684     .url_write           = http_write,
1685     .url_seek            = http_seek,
1686     .url_close           = http_close,
1687     .url_get_file_handle = http_get_file_handle,
1688     .url_get_short_seek  = http_get_short_seek,
1689     .url_shutdown        = http_shutdown,
1690     .priv_data_size      = sizeof(HTTPContext),
1691     .priv_data_class     = &https_context_class,
1692     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1693     .default_whitelist   = "http,https,tls,rtp,tcp,udp,crypto,httpproxy"
1694 };
1695 #endif /* CONFIG_HTTPS_PROTOCOL */
1696
1697 #if CONFIG_HTTPPROXY_PROTOCOL
1698 static int http_proxy_close(URLContext *h)
1699 {
1700     HTTPContext *s = h->priv_data;
1701     if (s->hd)
1702         ffurl_closep(&s->hd);
1703     return 0;
1704 }
1705
1706 static int http_proxy_open(URLContext *h, const char *uri, int flags)
1707 {
1708     HTTPContext *s = h->priv_data;
1709     char hostname[1024], hoststr[1024];
1710     char auth[1024], pathbuf[1024], *path;
1711     char lower_url[100];
1712     int port, ret = 0, attempts = 0;
1713     HTTPAuthType cur_auth_type;
1714     char *authstr;
1715     int new_loc;
1716
1717     if( s->seekable == 1 )
1718         h->is_streamed = 0;
1719     else
1720         h->is_streamed = 1;
1721
1722     av_url_split(NULL, 0, auth, sizeof(auth), hostname, sizeof(hostname), &port,
1723                  pathbuf, sizeof(pathbuf), uri);
1724     ff_url_join(hoststr, sizeof(hoststr), NULL, NULL, hostname, port, NULL);
1725     path = pathbuf;
1726     if (*path == '/')
1727         path++;
1728
1729     ff_url_join(lower_url, sizeof(lower_url), "tcp", NULL, hostname, port,
1730                 NULL);
1731 redo:
1732     ret = ffurl_open_whitelist(&s->hd, lower_url, AVIO_FLAG_READ_WRITE,
1733                                &h->interrupt_callback, NULL,
1734                                h->protocol_whitelist, h->protocol_blacklist, h);
1735     if (ret < 0)
1736         return ret;
1737
1738     authstr = ff_http_auth_create_response(&s->proxy_auth_state, auth,
1739                                            path, "CONNECT");
1740     snprintf(s->buffer, sizeof(s->buffer),
1741              "CONNECT %s HTTP/1.1\r\n"
1742              "Host: %s\r\n"
1743              "Connection: close\r\n"
1744              "%s%s"
1745              "\r\n",
1746              path,
1747              hoststr,
1748              authstr ? "Proxy-" : "", authstr ? authstr : "");
1749     av_freep(&authstr);
1750
1751     if ((ret = ffurl_write(s->hd, s->buffer, strlen(s->buffer))) < 0)
1752         goto fail;
1753
1754     s->buf_ptr    = s->buffer;
1755     s->buf_end    = s->buffer;
1756     s->line_count = 0;
1757     s->filesize   = UINT64_MAX;
1758     cur_auth_type = s->proxy_auth_state.auth_type;
1759
1760     /* Note: This uses buffering, potentially reading more than the
1761      * HTTP header. If tunneling a protocol where the server starts
1762      * the conversation, we might buffer part of that here, too.
1763      * Reading that requires using the proper ffurl_read() function
1764      * on this URLContext, not using the fd directly (as the tls
1765      * protocol does). This shouldn't be an issue for tls though,
1766      * since the client starts the conversation there, so there
1767      * is no extra data that we might buffer up here.
1768      */
1769     ret = http_read_header(h, &new_loc);
1770     if (ret < 0)
1771         goto fail;
1772
1773     attempts++;
1774     if (s->http_code == 407 &&
1775         (cur_auth_type == HTTP_AUTH_NONE || s->proxy_auth_state.stale) &&
1776         s->proxy_auth_state.auth_type != HTTP_AUTH_NONE && attempts < 2) {
1777         ffurl_closep(&s->hd);
1778         goto redo;
1779     }
1780
1781     if (s->http_code < 400)
1782         return 0;
1783     ret = ff_http_averror(s->http_code, AVERROR(EIO));
1784
1785 fail:
1786     http_proxy_close(h);
1787     return ret;
1788 }
1789
1790 static int http_proxy_write(URLContext *h, const uint8_t *buf, int size)
1791 {
1792     HTTPContext *s = h->priv_data;
1793     return ffurl_write(s->hd, buf, size);
1794 }
1795
1796 const URLProtocol ff_httpproxy_protocol = {
1797     .name                = "httpproxy",
1798     .url_open            = http_proxy_open,
1799     .url_read            = http_buf_read,
1800     .url_write           = http_proxy_write,
1801     .url_close           = http_proxy_close,
1802     .url_get_file_handle = http_get_file_handle,
1803     .priv_data_size      = sizeof(HTTPContext),
1804     .flags               = URL_PROTOCOL_FLAG_NETWORK,
1805 };
1806 #endif /* CONFIG_HTTPPROXY_PROTOCOL */