macosx: Use floating window level for effects and other panels

All black-syle panels should get the floating window level.
This is normal behaviour of panels and has the positive side effect
that the panel also stays in front while vout window reconfigurations.

This level is also used for the preferences window, as this is sort
of a modal window which needs to be closed (in order to get settings
saved).

close #12063

macosx: video effects: simplify restoring video-filter and sub-source

macosx: video effects: only set video splitters when needed

Avoids setting this variable multiple times, as each time vout
restart is requested. Also avoids unnecessary vout restarts at
start and when changing profiles.

refs #12063

mac codesign: improve signing script

- add signing of sparkles autoupdate tool
- directly fail on error
- fix bug preventing signing of VLC binary
- rework validation steps so that it validates frameworks and autoupdate
  tool separately, but then the complete bundle like gatekeeper (using
  --deep option)

Signed-off-by: Felix Paul Kühne <fkuehne@videolan.org>

vdpau/display: do not set background colour

This interferes with overlay-based outputs, and serves no useful
purpose for VLC since the video frames are always fully opaque.

oss: attempt to fix the build

wl_shell_surface: fix dead lock when destroying thread

decomp: fix heap overflow and cleanup (fixes #12052)

configure: simplify header tests

Remove unused checks for locale.h, machine/parm.h, scsi/scsi.h,
sys/time.h, and sys/ioctl.h. Simplify checks for net/if.h (this has no
dependency) and sys/mounth.h (sys/param.h).

gnutls: fix flawed logic

aout: robustify channel reordering

mac packaging: preserve symlinks while creating VLC.app

mac frameworks use symlinks for their internal structure. This
reduces size of delivered framework folders by a factor of 3.

Also correctly clean the BGHUDAppkit ressources folder. Info.plist
must remain for proper code signing.

contrib: preserve symlinks while installing Growl and BGHUDAppkit frameworks

securetransport: fix compilation

gnutls: fix minimum version

mux: mp4: add fragmented mp4 muxer

mp4stream tries to build stream with 1.5sec runs.
mp4frag aims files by creating a compatible index.

Might need for transcode tests (fragments are 1.5 sec only).
--sout-x264-keyint=30 --sout-avcodec-strict=-2

Streaming done using http, with fragment start used as iframes.

demux: ts: don't try to decode and warn on scrambled PES

Cue: don't round the start values

Close #11740

gnutls: don't break if ALPN extension is not available

At least, fedora 20 doesn't enable it.

Contribs: fix GnuTLS linking on Win32

demux: mp4: do chan bitmap reordering (fix #12002)

demux: mp4: add chan atom

aout: assert only is not release proof

Can still div by zero by pushing vbr codec

packetizer: flac: fix memory leak

wl_shell_surface: basic Wayland shell surface window provider

window: define Wayland surface type

The convention used here matches with the Qt Wayland native platform,
and seems most generic. Note that Wayland does not allow "sharing"
surface handles between multiple display connections in general, and
multiple processes in particular.

fontconfig: fix memory leak

Signed-off-by: Rémi Denis-Courmont <remi@remlab.net>

filter_chain: fix memory leaks

Signed-off-by: Rémi Denis-Courmont <remi@remlab.net>

Direct3D: fix memory leak

Signed-off-by: Rémi Denis-Courmont <remi@remlab.net>

DirectDraw/Direct3D: make a clean copy of the video-format

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

avcodec: fix memory leak

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

Win32 threads: fix memory leak of detached thread

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

compat: poll: fix compilation

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

os2: getaddrinfo: fix typo

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

daala: update NEWS, MODULES_LIST and POTFILES.in

demux: ogg: daala support

daala: add decoder support

Contribs: update Nettle to 2.7.1

Fix issues with replaced compat functions in C++ modules

Notably poll, inet*, swab, *rand48, and tsearch

egl: revector

Contribs: update GnuTLS to 3.2.17

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

Contribs: Update Nettle to 2.7

This is required for gnutls 3.2.x+ building

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

lua: reactivate vlclua_net_poll() on windows

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>

filesystem: avoid potential qsort(NULL)

mkv: avoid potential NULL memory comparison

memcmp(NULL, b, 0) and memcpy(a, NULL, 0) are undefined in ISO C.

vcd: fix NULL dereference on error

dvb scan: use unsigned indices (CID#1048723)

anaglyph: dead code

sap: dead code

stream: remove tautology

p_current cannot be NULL.

shoutcast: fix NULL deref on error

httpd: reject incoming requests bodies over 64k

httpd: reindent

oss: use software volume on non-FreeBSD targets (refs #11880)

mtime: fix signed integer overflow

avcodec: disable frame multithreading with dxva2

Fix #11930, #11693

decoder: merge both private format structures

decoder: merge aout/vout/sout format in private strucutre

Also fix free() of undefined pointer if sout packetizer is deleted
before it is fed any single block.

decoder: inline one function

gnutls: fix compilation with 3.3.0+

gnutls: require version 3.1.11

http: negotiate HTTP/1.1 explicitly over TLS

httpd: advertise HTTP/1.1 support over TLS

tls: add ALPN parameters

gnutls: add parameter for Application Layer Protocol Negotiation

securetransport: adapt to latest changes in tls core

gnutls: fix memory leaks

gnutls: drop useless global mutex and init if version >= 3.3.0

gnutls: update to version 3.1.9 and simplify

gnutls: remove useless per-session structure

gnutls: reorder, inline and turn off server-side if !SOUT

gnutls: remove useless structure for client-side credentials

gnutls: move handshake callback to credentials (alongside open/close)

httpd: dead code

gnutls: remove client certificate support

This was never used. The web interface requires a password instead.

gnutls: simplify certificate verification

gnutls: require version 3.1.4 or later

gnutls: fix flawed logic

val is always zero in the removed code; the verification status is what
actually matters.

url: fix out-of-bound read

...if *next is '\0'.

gnutls: does not use sockets (directly)

lua: never change index of lua file descriptors

Signed-off-by: Rémi Denis-Courmont <remi@remlab.net>

EsOutDecodersStopBuffering: remove assert

The master program clock does not necessarily have a reference
A different program PCR can be issued first, and the assertion
would be triggered since c3bd897e586d906d631a1cdc51232f76ff1ca1fe

contrib: x265 1.3

extras/macosx: update codesign script for GateKeeper v2 needed to support future OS X releases

contrib: libgcrypt 1.6.2

Now that sout-all is default, make --programs take precedence over it

Qt: force XCB platform so we do not crash if QT_QPA_PLATFORM is set

adjust: cosmetics

ps: fix double free

hds: fix stale pointer

keys: fix signed overflow

udev: fix signed overflow

log: fix theoretical pointer alignment problem

dbus: avoid invalid zero-size array

ps: small cleanup, avoid copying unitialized value

vdr: clarify

help: remove large but unchecked fixed-size buffer

help: print the boolean default once and on a separate line

This avoids wrapping in the middle of it and having a parenthesis after
a full point.

alsa: put pcm device back into running state after snd_pcm_recover() returned.

After recovery the pcm device can be in prepared state. To continue capturing data
the device must be put into running state again, hence the call to snd_pcm_start().

alsa: do not leak memory on failure to read frames from pcm device.