]> git.sesse.net Git - vlc/blob - src/misc/win32_specific.c
Do not leak the IPC helper - might fix #1598
[vlc] / src / misc / win32_specific.c
1 /*****************************************************************************
2  * win32_specific.c: Win32 specific features
3  *****************************************************************************
4  * Copyright (C) 2001-2004 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Samuel Hocevar <sam@zoy.org>
8  *          Gildas Bazin <gbazin@videolan.org>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
23  *****************************************************************************/
24
25 #ifdef HAVE_CONFIG_H
26 # include "config.h"
27 #endif
28
29 #define UNICODE
30 #include <vlc_common.h>
31 #include "../libvlc.h"
32 #include <vlc_playlist.h>
33 #include <vlc_charset.h>
34
35 #include "../extras/getopt.h"
36
37 #if !defined( UNDER_CE )
38 #   include <io.h>
39 #   include <fcntl.h>
40 #   include  <mmsystem.h>
41 #endif
42
43 #include <winsock.h>
44
45 /*****************************************************************************
46  * system_Init: initialize winsock and misc other things.
47  *****************************************************************************/
48 void system_Init( libvlc_int_t *p_this, int *pi_argc, const char *ppsz_argv[] )
49 {
50     WSADATA Data;
51
52     /* Get our full path */
53     char psz_path[MAX_PATH];
54     char *psz_vlc;
55
56     wchar_t psz_wpath[MAX_PATH];
57     if( GetModuleFileName( NULL, psz_wpath, MAX_PATH ) )
58     {
59         WideCharToMultiByte( CP_ACP, 0, psz_wpath, -1,
60                              psz_path, MAX_PATH, NULL, NULL );
61     }
62     else psz_path[0] = '\0';
63
64     if( (psz_vlc = strrchr( psz_path, '\\' )) ) *psz_vlc = '\0';
65
66 #ifndef HAVE_RELEASE
67     {
68         /* remove trailing \.libs from executable dir path if seen,
69            we assume we are running vlc through libtool wrapper in build dir */
70         int offset  = strlen(psz_path)-sizeof("\\.libs")+1;
71         if( offset > 0 )
72         {
73             psz_vlc = psz_path+offset;
74             if( ! strcmp(psz_vlc, "\\.libs") ) *psz_vlc = '\0';
75         }
76     }
77 #endif
78
79     vlc_global()->psz_vlcpath = strdup( psz_path );
80
81     /* Set the default file-translation mode */
82 #if !defined( UNDER_CE )
83     _fmode = _O_BINARY;
84     _setmode( _fileno( stdin ), _O_BINARY ); /* Needed for pipes */
85
86     timeBeginPeriod(5);
87 #endif
88
89     /* Call mdate() once to make sure it is initialized properly */
90     mdate();
91
92     /* WinSock Library Init. */
93     if( !WSAStartup( MAKEWORD( 2, 2 ), &Data ) )
94     {
95         /* Aah, pretty useless check, we should always have Winsock 2.2
96          * since it appeared in Win98. */
97         if( LOBYTE( Data.wVersion ) != 2 || HIBYTE( Data.wVersion ) != 2 )
98             /* We could not find a suitable WinSock DLL. */
99             WSACleanup( );
100         else
101             /* Everything went ok. */
102             return;
103     }
104
105     /* Let's try with WinSock 1.1 */
106     if( !WSAStartup( MAKEWORD( 1, 1 ), &Data ) )
107     {
108         /* Confirm that the WinSock DLL supports 1.1.*/
109         if( LOBYTE( Data.wVersion ) != 1 || HIBYTE( Data.wVersion ) != 1 )
110             /* We could not find a suitable WinSock DLL. */
111             WSACleanup( );
112         else
113             /* Everything went ok. */
114             return;
115     }
116
117     fprintf( stderr, "error: can't initialize WinSocks\n" );
118 }
119
120 /*****************************************************************************
121  * system_Configure: check for system specific configuration options.
122  *****************************************************************************/
123 static void IPCHelperThread( vlc_object_t * );
124 LRESULT CALLBACK WMCOPYWNDPROC( HWND, UINT, WPARAM, LPARAM );
125 typedef struct
126 {
127   int argc;
128   int enqueue;
129   char data[0];
130 } vlc_ipc_data_t;
131
132 void system_Configure( libvlc_int_t *p_this, int *pi_argc, const char *ppsz_argv[] )
133 {
134 #if !defined( UNDER_CE )
135     /* Raise default priority of the current process */
136 #ifndef ABOVE_NORMAL_PRIORITY_CLASS
137 #   define ABOVE_NORMAL_PRIORITY_CLASS 0x00008000
138 #endif
139     if( config_GetInt( p_this, "high-priority" ) )
140     {
141         if( SetPriorityClass( GetCurrentProcess(), ABOVE_NORMAL_PRIORITY_CLASS )
142              || SetPriorityClass( GetCurrentProcess(), HIGH_PRIORITY_CLASS ) )
143         {
144             msg_Dbg( p_this, "raised process priority" );
145         }
146         else
147         {
148             msg_Dbg( p_this, "could not raise process priority" );
149         }
150     }
151
152     libvlc_priv (p_this)->ipc_helper = NULL;
153
154     if( config_GetInt( p_this, "one-instance" )
155         || ( config_GetInt( p_this, "one-instance-when-started-from-file" )
156              && config_GetInt( p_this, "started-from-file" ) ) )
157     {
158         HANDLE hmutex;
159
160         msg_Info( p_this, "one instance mode ENABLED");
161
162         /* Use a named mutex to check if another instance is already running */
163         if( !( hmutex = CreateMutex( 0, TRUE, L"VLC ipc "VERSION ) ) )
164         {
165             /* Failed for some reason. Just ignore the option and go on as
166              * normal. */
167             msg_Err( p_this, "one instance mode DISABLED "
168                      "(mutex couldn't be created)" );
169             return;
170         }
171
172         if( GetLastError() != ERROR_ALREADY_EXISTS )
173         {
174             /* We are the 1st instance. */
175             static const char typename[] = "ipc helper";
176             vlc_object_t *p_helper =
177                 vlc_custom_create( p_this, sizeof(vlc_object_t),
178                                    VLC_OBJECT_GENERIC, typename );
179
180             /* Run the helper thread */
181             if( vlc_thread_create( p_helper, "IPC helper", IPCHelperThread,
182                                    VLC_THREAD_PRIORITY_LOW, true ) )
183             {
184                 msg_Err( p_this, "one instance mode DISABLED "
185                          "(IPC helper thread couldn't be created)" );
186                 vlc_object_release (p_helper);
187             }
188             else
189                 libvlc_priv (p_this)->ipc_helper = p_helper;
190
191             /* Initialization done.
192              * Release the mutex to unblock other instances */
193             ReleaseMutex( hmutex );
194         }
195         else
196         {
197             /* Another instance is running */
198
199             HWND ipcwindow;
200
201             /* Wait until the 1st instance is initialized */
202             WaitForSingleObject( hmutex, INFINITE );
203
204             /* Locate the window created by the IPC helper thread of the
205              * 1st instance */
206             if( !( ipcwindow = FindWindow( 0, L"VLC ipc "VERSION ) ) )
207             {
208                 msg_Err( p_this, "one instance mode DISABLED "
209                          "(couldn't find 1st instance of program)" );
210                 ReleaseMutex( hmutex );
211                 return;
212             }
213
214             /* We assume that the remaining parameters are filenames
215              * and their input options */
216             if( *pi_argc - 1 >= optind )
217             {
218                 COPYDATASTRUCT wm_data;
219                 int i_opt;
220                 vlc_ipc_data_t *p_data;
221                 size_t i_data = sizeof (*p_data);
222
223                 for( i_opt = optind; i_opt < *pi_argc; i_opt++ )
224                 {
225                     i_data += sizeof (size_t);
226                     i_data += strlen( ppsz_argv[ i_opt ] ) + 1;
227                 }
228
229                 p_data = malloc( i_data );
230                 p_data->argc = *pi_argc - optind;
231                 p_data->enqueue = config_GetInt( p_this, "playlist-enqueue" );
232                 i_data = 0;
233                 for( i_opt = optind; i_opt < *pi_argc; i_opt++ )
234                 {
235                     size_t i_len = strlen( ppsz_argv[ i_opt ] ) + 1;
236                     /* Windows will never switch to an architecture
237                      * with stronger alignment requirements, right. */
238                     *((size_t *)(p_data->data + i_data)) = i_len;
239                     i_data += sizeof (size_t);
240                     memcpy( &p_data->data[i_data], ppsz_argv[ i_opt ], i_len );
241                     i_data += i_len;
242                 }
243                 i_data += sizeof (*p_data);
244
245                 /* Send our playlist items to the 1st instance */
246                 wm_data.dwData = 0;
247                 wm_data.cbData = i_data;
248                 wm_data.lpData = p_data;
249                 SendMessage( ipcwindow, WM_COPYDATA, 0, (LPARAM)&wm_data );
250             }
251
252             /* Initialization done.
253              * Release the mutex to unblock other instances */
254             ReleaseMutex( hmutex );
255
256             /* Bye bye */
257             system_End( p_this );
258             exit( 0 );
259         }
260     }
261
262 #endif
263 }
264
265 static void IPCHelperThread( vlc_object_t *p_this )
266 {
267     HWND ipcwindow;
268     MSG message;
269
270     ipcwindow =
271         CreateWindow( L"STATIC",                     /* name of window class */
272                   L"VLC ipc "VERSION,               /* window title bar text */
273                   0,                                         /* window style */
274                   0,                                 /* default X coordinate */
275                   0,                                 /* default Y coordinate */
276                   0,                                         /* window width */
277                   0,                                        /* window height */
278                   NULL,                                  /* no parent window */
279                   NULL,                            /* no menu in this window */
280                   GetModuleHandle(NULL),  /* handle of this program instance */
281                   NULL );                               /* sent to WM_CREATE */
282
283     SetWindowLongPtr( ipcwindow, GWLP_WNDPROC, (LRESULT)WMCOPYWNDPROC );
284     SetWindowLongPtr( ipcwindow, GWLP_USERDATA, (LONG_PTR)p_this );
285
286     /* Signal the creation of the thread and events queue */
287     vlc_thread_ready( p_this );
288
289     while( GetMessage( &message, NULL, 0, 0 ) )
290     {
291         TranslateMessage( &message );
292         DispatchMessage( &message );
293     }
294 }
295
296 LRESULT CALLBACK WMCOPYWNDPROC( HWND hwnd, UINT uMsg, WPARAM wParam,
297                                 LPARAM lParam )
298 {
299     if( uMsg == WM_COPYDATA )
300     {
301         COPYDATASTRUCT *pwm_data = (COPYDATASTRUCT*)lParam;
302         vlc_object_t *p_this;
303         playlist_t *p_playlist;
304
305         p_this = (vlc_object_t *)
306             (uintptr_t)GetWindowLongPtr( hwnd, GWLP_USERDATA );
307
308         if( !p_this ) return 0;
309
310         /* Add files to the playlist */
311         p_playlist = pl_Yield( p_this );
312         if( !p_playlist ) return 0;
313
314         if( pwm_data->lpData )
315         {
316             char **ppsz_argv;
317             vlc_ipc_data_t *p_data = (vlc_ipc_data_t *)pwm_data->lpData;
318             size_t i_data = 0;
319             int i_argc = p_data->argc, i_opt, i_options;
320
321             ppsz_argv = (char **)malloc( i_argc * sizeof(char *) );
322             for( i_opt = 0; i_opt < i_argc; i_opt++ )
323             {
324                 ppsz_argv[i_opt] = p_data->data + i_data + sizeof(int);
325                 i_data += sizeof(int) + *((int *)(p_data->data + i_data));
326             }
327
328             for( i_opt = 0; i_opt < i_argc; i_opt++ )
329             {
330                 i_options = 0;
331
332                 /* Count the input options */
333                 while( i_opt + i_options + 1 < i_argc &&
334                        *ppsz_argv[ i_opt + i_options + 1 ] == ':' )
335                 {
336                     i_options++;
337                 }
338                 playlist_AddExt( p_playlist, ppsz_argv[i_opt],
339                   NULL, PLAYLIST_APPEND |
340                         ( ( i_opt || p_data->enqueue ) ? 0 : PLAYLIST_GO ),
341                   PLAYLIST_END, -1,
342                   (char const **)( i_options ? &ppsz_argv[i_opt+1] : NULL ),
343                   i_options, true, pl_Unlocked );
344
345                 i_opt += i_options;
346             }
347
348             free( ppsz_argv );
349         }
350
351         vlc_object_release( p_playlist );
352     }
353
354     return DefWindowProc( hwnd, uMsg, wParam, lParam );
355 }
356
357 /*****************************************************************************
358  * system_End: terminate winsock.
359  *****************************************************************************/
360 void system_End( libvlc_int_t *p_this )
361 {
362     if( p_this && vlc_global() )
363     {
364         free( vlc_global()->psz_vlcpath );
365         vlc_global()->psz_vlcpath = NULL;
366     }
367     vlc_object_t *obj = libvlc_priv (p_this)->ipc_helper;
368     if (obj)
369     {
370         vlc_thread_join (obj);
371         vlc_object_release (obj);
372     }
373
374 #if !defined( UNDER_CE )
375     timeEndPeriod(5);
376 #endif
377
378     WSACleanup();
379 }