Add support for deduplicating headers/short responses.
[cubemap] / serverpool.cpp
1 #include <assert.h>
2 #include <stdlib.h>
3 #include <sys/types.h>
4
5 #include "client.h"
6 #include "log.h"
7 #include "server.h"
8 #include "serverpool.h"
9 #include "state.pb.h"
10 #include "udpstream.h"
11 #include "util.h"
12
13 struct sockaddr_in6;
14
15 using namespace std;
16
17 ServerPool::ServerPool(int size)
18         : servers(new Server[size]),
19           num_servers(size)
20 {
21 }
22
23 CubemapStateProto ServerPool::serialize()
24 {
25         CubemapStateProto state;
26
27         unordered_map<const string *, size_t> short_response_pool;
28
29         for (int i = 0; i < num_servers; ++i) {
30                 CubemapStateProto local_state = servers[i].serialize(&short_response_pool);
31
32                 // The stream state should be identical between the servers, so we only store it once,
33                 // save for the fds, which we keep around to distribute to the servers after re-exec.
34                 if (i == 0) {
35                         state.mutable_streams()->MergeFrom(local_state.streams());
36                 } else {
37                         assert(state.streams_size() == local_state.streams_size());
38                         for (int j = 0; j < local_state.streams_size(); ++j) {
39                                 assert(local_state.streams(j).data_fds_size() == 1);
40                                 state.mutable_streams(j)->add_data_fds(local_state.streams(j).data_fds(0));
41                         }
42                 }
43                 for (const ClientProto &client : local_state.clients()) {
44                         state.add_clients()->MergeFrom(client);
45                 }
46         }
47
48         for (size_t i = 0; i < short_response_pool.size(); ++i) {
49                 state.mutable_short_response_pool()->Add();
50         }
51         for (const auto &string_and_index : short_response_pool) {
52                 state.mutable_short_response_pool(string_and_index.second)->set_header_or_short_response(*string_and_index.first);
53         }
54
55         return state;
56 }
57
58 void ServerPool::add_client(int sock, Acceptor *acceptor)
59 {
60         servers[clients_added++ % num_servers].add_client_deferred(sock, acceptor);
61 }
62
63 void ServerPool::add_client_from_serialized(const ClientProto &client, const std::vector<std::shared_ptr<const std::string>> &short_responses)
64 {
65         servers[clients_added++ % num_servers].add_client_from_serialized(client, short_responses);
66 }
67
68 int ServerPool::lookup_stream_by_url(const string &url) const
69 {
70         assert(servers != nullptr);
71         return servers[0].lookup_stream_by_url(url);
72 }
73
74 int ServerPool::add_stream(const string &url, size_t backlog_size, size_t prebuffering_bytes, Stream::Encoding encoding, Stream::Encoding src_encoding)
75 {
76         // Adding more HTTP streams after UDP streams would cause the UDP stream
77         // indices to move around, which is obviously not good.
78         assert(udp_streams.empty());
79
80         for (int i = 0; i < num_servers; ++i) {
81                 int stream_index = servers[i].add_stream(url, backlog_size, prebuffering_bytes, encoding, src_encoding);
82                 assert(stream_index == num_http_streams);
83         }
84         return num_http_streams++;
85 }
86
87 int ServerPool::add_stream_from_serialized(const StreamProto &stream, const vector<int> &data_fds)
88 {
89         // Adding more HTTP streams after UDP streams would cause the UDP stream
90         // indices to move around, which is obviously not good.
91         assert(udp_streams.empty());
92
93         assert(!data_fds.empty());
94         string contents;
95         for (int i = 0; i < num_servers; ++i) {
96                 int data_fd;
97                 if (i < int(data_fds.size())) {
98                         // Reuse one of the existing file descriptors.
99                         data_fd = data_fds[i];
100                 } else {
101                         // Clone the first one.
102                         if (contents.empty()) {
103                                 if (!read_tempfile(data_fds[0], &contents)) {
104                                         exit(1);
105                                 }
106                         }
107                         data_fd = make_tempfile(contents);
108                 }
109
110                 int stream_index = servers[i].add_stream_from_serialized(stream, data_fd);
111                 assert(stream_index == num_http_streams);
112         }
113
114         // Close and delete any leftovers, if the number of servers was reduced.
115         for (size_t i = num_servers; i < data_fds.size(); ++i) {
116                 safe_close(data_fds[i]);  // Implicitly deletes the file.
117         }
118
119         return num_http_streams++;
120 }
121         
122 int ServerPool::add_udpstream(const sockaddr_in6 &dst, int pacing_rate, int ttl, int multicast_iface_index)
123 {
124         udp_streams.emplace_back(new UDPStream(dst, pacing_rate, ttl, multicast_iface_index));
125         return num_http_streams + udp_streams.size() - 1;
126 }
127
128 void ServerPool::set_header(int stream_index, const string &http_header, const string &stream_header)
129 {
130         assert(stream_index >= 0 && stream_index < ssize_t(num_http_streams + udp_streams.size()));
131
132         if (stream_index >= num_http_streams) {
133                 // UDP stream. TODO: Log which stream this is.
134                 if (!stream_header.empty()) {
135                         log(WARNING, "Trying to send stream format with headers to a UDP destination. This is unlikely to work well.");
136                 }
137
138                 // Ignore the HTTP header.
139                 return;
140         }
141
142         // HTTP stream.
143         for (int i = 0; i < num_servers; ++i) {
144                 servers[i].set_header(stream_index, http_header, stream_header);
145         }
146 }
147
148 void ServerPool::add_data(int stream_index, const char *data, size_t bytes, uint16_t metacube_flags)
149 {
150         assert(stream_index >= 0 && stream_index < ssize_t(num_http_streams + udp_streams.size()));
151
152         if (stream_index >= num_http_streams) {
153                 // UDP stream.
154                 udp_streams[stream_index - num_http_streams]->send(data, bytes);
155                 return;
156         }
157
158         // HTTP stream.
159         for (int i = 0; i < num_servers; ++i) {
160                 servers[i].add_data_deferred(stream_index, data, bytes, metacube_flags);
161         }
162 }
163
164 void ServerPool::add_gen204(const std::string &url, const std::string &allow_origin)
165 {
166         for (int i = 0; i < num_servers; ++i) {
167                 servers[i].add_gen204(url, allow_origin);
168         }
169 }
170
171 void ServerPool::create_tls_context_for_acceptor(const Acceptor *acceptor)
172 {
173         for (int i = 0; i < num_servers; ++i) {
174                 servers[i].create_tls_context_for_acceptor(acceptor);
175         }
176 }
177
178 void ServerPool::run()
179 {
180         for (int i = 0; i < num_servers; ++i) {
181                 servers[i].run();
182         }
183 }
184         
185 void ServerPool::stop()
186 {
187         for (int i = 0; i < num_servers; ++i) {
188                 servers[i].stop();
189         }
190 }
191         
192 vector<ClientStats> ServerPool::get_client_stats() const
193 {
194         vector<ClientStats> ret;
195         for (int i = 0; i < num_servers; ++i) {
196                 vector<ClientStats> stats = servers[i].get_client_stats();
197                 ret.insert(ret.end(), stats.begin(), stats.end());
198         }
199         return ret;
200 }
201         
202 void ServerPool::set_pacing_rate(int stream_index, uint32_t pacing_rate)
203 {
204         for (int i = 0; i < num_servers; ++i) {
205                 servers[i].set_pacing_rate(stream_index, pacing_rate);
206         }       
207 }
208
209 void ServerPool::set_backlog_size(int stream_index, size_t new_size)
210 {
211         for (int i = 0; i < num_servers; ++i) {
212                 servers[i].set_backlog_size(stream_index, new_size);
213         }       
214 }
215
216 void ServerPool::set_prebuffering_bytes(int stream_index, size_t new_amount)
217 {
218         for (int i = 0; i < num_servers; ++i) {
219                 servers[i].set_prebuffering_bytes(stream_index, new_amount);
220         }
221 }
222
223 void ServerPool::set_encoding(int stream_index, Stream::Encoding encoding)
224 {
225         for (int i = 0; i < num_servers; ++i) {
226                 servers[i].set_encoding(stream_index, encoding);
227         }       
228 }
229
230 void ServerPool::set_src_encoding(int stream_index, Stream::Encoding encoding)
231 {
232         for (int i = 0; i < num_servers; ++i) {
233                 servers[i].set_src_encoding(stream_index, encoding);
234         }
235 }