More fixes of hard-coded values.

Parametrize STREAM_BUF_SIZE in the .cpp file.

Fix some hardcoded resolutions in the encoder.

Require GL_ARB_gpu_shader_int64 instead of GL_NV_gpu_shader5.

Make rans.shader write uint32s, shedding the GL_NV_gpu_shader5 demand.

Encapsulate things a bit better in rans.shader.

Add an assert to die early if the shader really fails.

Activate the same-block optimization for the GPU encoder, too.

Tiny optimization.

Pull the rANS distributions into uniforms instead of SSBOs. Speeds up stuff a bit.

Kill the division in the rANS GPU encoder.

Reverse the ac3/ac4 coefficients, too.

Fix some texture permissions.

Update a boring comment.

Remove some redundant includes.

Flip the encoding order so that it is correct.

Add more off-by-one fixes.

Fix an operator precedence issue.

Remove coded.dat; it changes too much and is easily recreatable.

Add a cargo-culting barrier that seems to help the tally shader.

Save some needless sign extending, and fix an escaping bug.

Implement sign_bias in the rANS GPU encoder. Still not working properly.

Fix some off-by-ones in the tally shader.

Fix some voting problems in the tally shader.

Make the encoder 100% GPU. Not working yet, though.

Silence some Mesa warnings.

Add rANS normalization to the encoder.

Speed up the histogram counting immensely by adding via local memory.

Make quant_matrix a bit more compact.

Start trying to count the rANS distributions from the encoding shader.

Minor whitespace fix.

Add some more debugging.

Fix the DCT scaling (I believe).

Fix the upload type of the image.

Update qdd with newer DC coefficient predictions.

Fix an IDCT error.

A sign fix in the FDCT.

Add the beginnings of a GPU encoder.

It doesn't really work currently (too buggy), only does DCT
(not the rANS part), and only encodes luma.

Add support for repeating blocks. About 2% size reduction.

Add some code for calculating maximum coefficent ranges, for bit allocation.

Revert "Switch to 64-bit rANS, although probably due for immediate revert (just want to preserve history)."

A bit larger files, no real speed gain, a few slight bugs.

This reverts commit 3fb87c6b953be3382cd216c74ff6aa025c8eaa2a.

Switch to 64-bit rANS, although probably due for immediate revert (just want to preserve history).

Don't print out the shader on failure, as it's not autogenerated.

Reduce the spam level from qdc a little bit.

Make the number of GPU iterations a named constant.

Make the GPU decoder (finally) work with any resolution.

Make blocks per stream a named constant.

Get -Wall clean.

Stop hardcoding blocks per row in the shader.

Predict Y DC from 128 instead of 0; microscopic improvement.

Predict DC across the entire slice instead of resetting each row. Opens up for slices crossing rows easier.

Sanitize compile flags.

Make num_blocks a uniform.

Use WIDTH and HEIGHT some places instead of 1280 and 720. narabu is still not ready for anything but 1280px wide, though.

Prepare for more flexible slices.

They're now always 320 blocks long, but this will probably change in
the future. Note that changing it from “two rows” to “320 blocks”
made chroma blocks a lot longer, which saved 4.9% bitrate overall.

DC predict chroma. ~1.5% lower bitrate.

Symbolize NUM_SYMS a bit.

Go down to 4 rANS streams instead of 8.

Costs approx 0.8% bitrate, but reduces GPU cost from 1,3 to 1,2 ms
(~8%) due to less L1 cache pressure.

Revert "k-means instead of k-medoids; doesn't work as well, so just keep it here to be immediately reverted."

This reverts commit fb83fc30cf33cec1d155b3a63c338bbb64adb4e3.

k-means instead of k-medoids; doesn't work as well, so just keep it here to be immediately reverted.

Add some code for (semi-)optimal assignment of rANS coefficients to streams.

Add a Makefile.

Add a .gitignore file.

Add some inactive debugging code to store the coefficients.

Add some parallel slicing code (not really a win).

Remove some obsolete caching code.

Add a test image.

Add a PSNR measurement tool.

Encode sign bit directly in rANS, using some symmetry trickery.

Add the GPU decoder itself.

Add the decoder.

Add color support.

Change quantization to MPEG-2, some other changes.

Revert "Encoder with 4x4 blocks (using TF switching)."

This reverts commit 13db6a93d746d4152eb30f2d7cc7035d441df8ba.

Encoder with 4x4 blocks (using TF switching).

Add support for optimal renormalization.

The current code for rounding probabilities down to a fixed resolution
is a bit too crude when resolution is low; whether it's optimal to round
up or down depends on the other frequencies, and the code for stealing
slots from other symbols also doesn't take this into account (as the
comment rightfully points out). These effects only really show up when
getting down to lower resolution, e.g. prob_bits = 10, but there, they
can be quite pronounced.

Add a function (0-clause BSD licensed for optimal usefulness, ie. public
domain without potential difficulty about whether private persons can put
anything in the public domain) to calculate the optimal distribution of
encoding slots, basically through brute force plus some memoization.
For e.g. the basic example (main.cpp), the number of bytes for prob_bits = 10
goes down from 440895 to 437590 bytes. (At the default prob_bits = 14, the
difference is very low; from 435113 to 435093 bytes.)

For main_alias.cpp, which has prob_bits = 16, I've kept the existing code,
so that it's not lost to the mists of time in case someone wants something
that's nearly even cheaper in terms of startup cost.

Add the missing DCT code.

Embed ryg_rans (from https://github.com/rygorous/ryg_rans).

Initial checkin.