git.sesse.net Git - vlc/blob - extras/libdvdcss/css.c

   1 /*****************************************************************************
   2  * css.c: Functions for DVD authentification and unscrambling
   3  *****************************************************************************
   4  * Copyright (C) 1999-2001 VideoLAN
   5  * $Id: css.c,v 1.5 2001/07/11 02:01:03 sam Exp $
   6  *
   7  * Author: Stéphane Borel <stef@via.ecp.fr>
   8  *
   9  * based on:
  10  *  - css-auth by Derek Fawcus <derek@spider.com>
  11  *  - DVD CSS ioctls example program by Andrew T. Veliath <andrewtv@usa.net>
  12  *  - The Divide and conquer attack by Frank A. Stevenson <frank@funcom.com>
  13  *  - DeCSSPlus by Ethan Hawke
  14  *  - DecVOB
  15  *  see http://www.lemuria.org/DeCSS/ by Tom Vogt for more information.
  16  *
  17  * This program is free software; you can redistribute it and/or modify
  18  * it under the terms of the GNU General Public License as published by
  19  * the Free Software Foundation; either version 2 of the License, or
  20  * (at your option) any later version.
  21  *
  22  * This program is distributed in the hope that it will be useful,
  23  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  24  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  25  * GNU General Public License for more details.
  26  *
  27  * You should have received a copy of the GNU General Public License
  28  * along with this program; if not, write to the Free Software
  29  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  30  *****************************************************************************/
  31
  32 /*****************************************************************************
  33  * Preamble
  34  *****************************************************************************/
  35 #include "defs.h"
  36
  37 #include <stdio.h>
  38 #include <stdlib.h>
  39
  40 #include <string.h>
  41
  42 #include "config.h"
  43 #include "common.h"
  44
  45 #include "videolan/dvdcss.h"
  46 #include "libdvdcss.h"
  47
  48 #ifdef HAVE_CSS
  49 #   include "csstables.h"
  50 #endif /* HAVE_CSS */
  51 #include "ioctl.h"
  52
  53 /*****************************************************************************
  54  * Local prototypes
  55  *****************************************************************************/
  56 #ifdef HAVE_CSS
  57 static int  CSSGetASF    ( dvdcss_handle dvdcss );
  58 static void CSSCryptKey  ( int i_key_type, int i_varient,
  59                            u8 const * p_challenge, u8* p_key );
  60 static int  CSSCracker   ( int i_start, unsigned char * p_crypted,
  61                            unsigned char * p_decrypted,
  62                            dvd_key_t * p_sector_key, dvd_key_t * p_key );
  63 #endif /* HAVE_CSS */
  64
  65 /*****************************************************************************
  66  * CSSTest : check if the disc is encrypted or not
  67  *****************************************************************************/
  68 int CSSTest( dvdcss_handle dvdcss )
  69 {
  70     int i_ret, i_copyright;
  71
  72     i_ret = ioctl_ReadCopyright( dvdcss->i_fd, 0 /* i_layer */, &i_copyright );
  73
  74     if( i_ret < 0 )
  75     {
  76         /* Since it's the first ioctl we try to issue, we add a notice */
  77         _dvdcss_error( dvdcss, "css error: ioctl_ReadCopyright failed, "
  78                        "make sure DVD ioctls were compiled in" );
  79
  80         return i_ret;
  81     }
  82
  83     return i_copyright;
  84 }
  85
  86 /*****************************************************************************
  87  * CSSInit : CSS Structure initialisation and DVD authentication.
  88  *****************************************************************************
  89  * It simulates the mutual authentication between logical unit and host.
  90  * Since we don't need the disc key to find the title key, we just run the
  91  * basic unavoidable commands to authenticate device and disc.
  92  *****************************************************************************/
  93 int CSSInit( dvdcss_handle dvdcss )
  94 {
  95 #ifdef HAVE_CSS
  96     /* structures defined in cdrom.h or dvdio.h */
  97     unsigned char p_buffer[2048 + 4 + 1];
  98     char psz_warning[32];
  99     int  i_agid = 0;
 100     int  i_ret = -1;
 101     int  i;
 102
 103     /* Test authentication success */
 104     switch( CSSGetASF( dvdcss ) )
 105     {
 106         case -1:
 107             return -1;
 108
 109         case 1:
 110             _dvdcss_debug( dvdcss, "already authenticated" );
 111             return 0;
 112
 113         case 0:
 114             _dvdcss_debug( dvdcss, "need to authenticate" );
 115     }
 116
 117     /* Init sequence, request AGID */
 118     for( i = 1; i < 4 ; ++i )
 119     {
 120         sprintf( psz_warning, "requesting AGID %d", i );
 121         _dvdcss_debug( dvdcss, psz_warning );
 122
 123         i_ret = ioctl_ReportAgid( dvdcss->i_fd, &i_agid );
 124
 125         if( i_ret != -1 )
 126         {
 127             /* No error during ioctl: we know the device is authenticated */
 128             break;
 129         }
 130
 131         _dvdcss_error( dvdcss, "ioctl_ReportAgid failed, invalidating" );
 132
 133         i_agid = 0;
 134         ioctl_InvalidateAgid( dvdcss->i_fd, &i_agid );
 135     }
 136
 137     /* Unable to authenticate without AGID */
 138     if( i_ret == -1 )
 139     {
 140         _dvdcss_error( dvdcss, "ioctl_ReportAgid failed, fatal" );
 141         return -1;
 142     }
 143
 144     for( i = 0 ; i < 10; ++i )
 145     {
 146         dvdcss->css.disc.p_challenge[i] = i;
 147     }
 148
 149     /* Get challenge from host */
 150     for( i = 0 ; i < 10 ; ++i )
 151     {
 152         p_buffer[9-i] = dvdcss->css.disc.p_challenge[i];
 153     }
 154
 155     /* Send challenge to LU */
 156     if( ioctl_SendChallenge( dvdcss->i_fd, &i_agid, p_buffer ) < 0 )
 157     {
 158         _dvdcss_error( dvdcss, "ioctl_SendChallenge failed" );
 159         return -1;
 160     }
 161
 162     /* Get key1 from LU */
 163     if( ioctl_ReportKey1( dvdcss->i_fd, &i_agid, p_buffer ) < 0)
 164     {
 165         _dvdcss_error( dvdcss, "ioctl_ReportKey1 failed" );
 166         return -1;
 167     }
 168
 169     /* Send key1 to host */
 170     for( i = 0 ; i < KEY_SIZE ; i++ )
 171     {
 172         dvdcss->css.disc.p_key1[i] = p_buffer[4-i];
 173     }
 174
 175     for( i = 0 ; i < 32 ; ++i )
 176     {
 177         CSSCryptKey( 0, i, dvdcss->css.disc.p_challenge,
 178                            dvdcss->css.disc.p_key_check );
 179
 180         if( memcmp( dvdcss->css.disc.p_key_check,
 181                     dvdcss->css.disc.p_key1, KEY_SIZE ) == 0 )
 182         {
 183             sprintf( psz_warning, "drive authentic, using variant %d", i );
 184             _dvdcss_debug( dvdcss, psz_warning );
 185             dvdcss->css.disc.i_varient = i;
 186             break;
 187         }
 188     }
 189
 190     if( i == 32 )
 191     {
 192         _dvdcss_error( dvdcss, "drive would not authenticate" );
 193         return -1;
 194     }
 195
 196     /* Get challenge from LU */
 197     if( ioctl_ReportChallenge( dvdcss->i_fd, &i_agid, p_buffer ) < 0 )
 198     {
 199         _dvdcss_error( dvdcss, "ioctl_ReportKeyChallenge failed" );
 200         return -1;
 201     }
 202
 203     /* Send challenge to host */
 204     for( i = 0 ; i < 10 ; ++i )
 205     {
 206         dvdcss->css.disc.p_challenge[i] = p_buffer[9-i];
 207     }
 208
 209     CSSCryptKey( 1, dvdcss->css.disc.i_varient,
 210                     dvdcss->css.disc.p_challenge,
 211                     dvdcss->css.disc.p_key2 );
 212
 213     /* Get key2 from host */
 214     for( i = 0 ; i < KEY_SIZE ; ++i )
 215     {
 216         p_buffer[4-i] = dvdcss->css.disc.p_key2[i];
 217     }
 218
 219     /* Send key2 to LU */
 220     if( ioctl_SendKey2( dvdcss->i_fd, &i_agid, p_buffer ) < 0 )
 221     {
 222         _dvdcss_error( dvdcss, "ioctl_SendKey2 failed" );
 223         return -1;
 224     }
 225
 226     _dvdcss_debug( dvdcss, "authentication established" );
 227
 228     memcpy( dvdcss->css.disc.p_challenge,
 229             dvdcss->css.disc.p_key1, KEY_SIZE );
 230     memcpy( dvdcss->css.disc.p_challenge+KEY_SIZE,
 231             dvdcss->css.disc.p_key2, KEY_SIZE );
 232
 233     CSSCryptKey( 2, dvdcss->css.disc.i_varient,
 234                     dvdcss->css.disc.p_challenge,
 235                     dvdcss->css.disc.p_key_check );
 236
 237     _dvdcss_debug( dvdcss, "received session key" );
 238
 239     if( i_agid < 0 )
 240     {
 241         return -1;
 242     }
 243
 244     /* Test authentication success */
 245     switch( CSSGetASF( dvdcss ) )
 246     {
 247         case -1:
 248             return -1;
 249
 250         case 1:
 251             _dvdcss_debug( dvdcss, "already authenticated" );
 252             return 0;
 253
 254         case 0:
 255             _dvdcss_debug( dvdcss, "need to get disc key" );
 256     }
 257
 258     /* Get encrypted disc key */
 259     if( ioctl_ReadKey( dvdcss->i_fd, &i_agid, p_buffer ) < 0 )
 260     {
 261         _dvdcss_error( dvdcss, "ioctl_ReadKey failed" );
 262         return -1;
 263     }
 264
 265 fprintf( stderr, "DISK KEY: %02x %02x %02x %02x %02x\n", p_buffer[0], p_buffer[1], p_buffer[2], p_buffer[3], p_buffer[4] );
 266
 267     /* Unencrypt disc key using bus key */
 268     for( i = 0 ; i < 2048 ; i++ )
 269     {
 270         p_buffer[ i ] ^= dvdcss->css.disc.p_key_check[ 4 - (i % KEY_SIZE) ];
 271     }
 272     memcpy( dvdcss->css.disc.p_key_check, p_buffer, 2048 );
 273
 274     /* Test authentication success */
 275     switch( CSSGetASF( dvdcss ) )
 276     {
 277         case -1:
 278             return -1;
 279
 280         case 1:
 281             _dvdcss_debug( dvdcss, "successfully authenticated" );
 282             return 0;
 283
 284         case 0:
 285             _dvdcss_error( dvdcss, "no way to authenticate" );
 286             return -1;
 287     }
 288
 289 #else /* HAVE_CSS */
 290     _dvdcss_error( dvdcss, "CSS decryption is disabled in this module" );
 291
 292 #endif /* HAVE_CSS */
 293     return -1;
 294
 295 }
 296
 297 /*****************************************************************************
 298  * CSSGetKey : get title key.
 299  *****************************************************************************
 300  * The DVD should have been opened and authenticated before.
 301  *****************************************************************************/
 302 int CSSGetKey( dvdcss_handle dvdcss, int i_pos, dvd_key_t p_titlekey )
 303 {
 304 #ifdef HAVE_CSS
 305     /*
 306      * Title key cracking method from Ethan Hawke,
 307      * with Frank A. Stevenson algorithm.
 308      * Does not use any player key table and ioctls.
 309      */
 310     u8          p_buf[0x800];
 311     dvd_key_t   p_key;
 312     boolean_t   b_encrypted;
 313     boolean_t   b_stop_scanning;
 314     int         i_blocks_read;
 315     int         i_best_plen;
 316     int         i_best_p;
 317     int         i,j;
 318
 319     for( i = 0 ; i < KEY_SIZE ; i++ )
 320     {
 321         p_key[i] = 0;
 322     }
 323
 324     b_encrypted = 0;
 325     b_stop_scanning = 0;
 326
 327     do
 328     {
 329         i_pos = dvdcss_seek( dvdcss, i_pos );
 330         i_blocks_read = dvdcss_read( dvdcss, p_buf, 1, DVDCSS_NOFLAGS );
 331
 332         /* PES_scrambling_control */
 333         if( p_buf[0x14] & 0x30 )
 334         {
 335             b_encrypted = 1;
 336             i_best_plen = 0;
 337             i_best_p = 0;
 338
 339             for( i = 2 ; i < 0x30 ; i++ )
 340             {
 341                 for( j = i+1 ;
 342                      j < 0x80 && ( p_buf[0x7F - (j%i)] == p_buf[0x7F-j] );
 343                      j++ );
 344                 {
 345                     if( j > i_best_plen )
 346                     {
 347                         i_best_plen = j;
 348                         i_best_p = i;
 349                     }
 350                 }
 351             }
 352
 353             if( ( i_best_plen > 20 ) && ( i_best_plen / i_best_p >= 2) )
 354             {
 355                 i = CSSCracker( 0,  &p_buf[0x80],
 356                         &p_buf[0x80 - ( i_best_plen / i_best_p) *i_best_p],
 357                         (dvd_key_t*)&p_buf[0x54],
 358                         &p_key );
 359                 b_stop_scanning = ( i >= 0 );
 360             }
 361         }
 362
 363         i_pos += i_blocks_read;
 364
 365     } while( i_blocks_read == 0x1 && !b_stop_scanning );
 366
 367     if( b_stop_scanning )
 368     {
 369         memcpy( p_titlekey, &p_key, sizeof(dvd_key_t) );
 370         _dvdcss_debug( dvdcss, "vts key initialized" );
 371         return 0;
 372     }
 373
 374     if( !b_encrypted )
 375     {
 376         _dvdcss_debug( dvdcss, "file was unscrambled" );
 377         return 0;
 378     }
 379
 380     return -1;
 381
 382 #else /* HAVE_CSS */
 383     _dvdcss_error( dvdcss, "css decryption unavailable" );
 384     return -1;
 385
 386 #endif /* HAVE_CSS */
 387 }
 388
 389 /*****************************************************************************
 390  * CSSDescrambleSector
 391  *****************************************************************************
 392  * sec : sector to descramble
 393  * key : title key for this sector
 394  *****************************************************************************/
 395 int CSSDescrambleSector( dvd_key_t p_key, u8* p_sec )
 396 {
 397 #ifdef HAVE_CSS
 398     unsigned int    i_t1, i_t2, i_t3, i_t4, i_t5, i_t6;
 399     u8*             p_end = p_sec + 0x800;
 400
 401     /* PES_scrambling_control */
 402     if( p_sec[0x14] & 0x30)
 403     {
 404         i_t1 = ((p_key)[0] ^ p_sec[0x54]) | 0x100;
 405         i_t2 = (p_key)[1] ^ p_sec[0x55];
 406         i_t3 = (((p_key)[2]) | ((p_key)[3] << 8) |
 407                ((p_key)[4] << 16)) ^ ((p_sec[0x56]) |
 408                (p_sec[0x57] << 8) | (p_sec[0x58] << 16));
 409         i_t4 = i_t3 & 7;
 410         i_t3 = i_t3 * 2 + 8 - i_t4;
 411         p_sec += 0x80;
 412         i_t5 = 0;
 413
 414         while( p_sec != p_end )
 415         {
 416             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
 417             i_t2 = i_t1>>1;
 418             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
 419             i_t4 = p_css_tab5[i_t4];
 420             i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
 421                                          i_t3 ) >> 8 ) ^ i_t3 ) >> 5) & 0xff;
 422             i_t3 = (i_t3 << 8 ) | i_t6;
 423             i_t6 = p_css_tab4[i_t6];
 424             i_t5 += i_t6 + i_t4;
 425             *p_sec = p_css_tab1[*p_sec] ^( i_t5 & 0xff );
 426             p_sec++;
 427             i_t5 >>= 8;
 428         }
 429     }
 430
 431     return 0;
 432
 433 #else /* HAVE_CSS */
 434     return 1;
 435
 436 #endif /* HAVE_CSS */
 437 }
 438
 439 #ifdef HAVE_CSS
 440
 441 /* Following functions are local */
 442
 443 /*****************************************************************************
 444  * CSSGetASF : Get Authentification success flag
 445  *****************************************************************************
 446  * Returns :
 447  *  -1 on ioctl error,
 448  *  0 if the device needs to be authenticated,
 449  *  1 either.
 450  *****************************************************************************/
 451 static int CSSGetASF( dvdcss_handle dvdcss )
 452 {
 453     int i_agid;
 454     int i_asf = 0;
 455
 456     for( i_agid = 0 ; i_agid < 4 ; i_agid++ )
 457     {
 458         if( ioctl_ReportASF( dvdcss->i_fd, &i_agid, &i_asf ) == 0 )
 459         {
 460             if( i_asf )
 461             {
 462                 _dvdcss_debug( dvdcss, "GetASF authenticated" );
 463             }
 464             else
 465             {
 466                 _dvdcss_debug( dvdcss, "GetASF not authenticated" );
 467             }
 468
 469             return i_asf;
 470         }
 471     }
 472
 473     /* The ioctl process has failed */
 474     _dvdcss_error( dvdcss, "GetASF fatal error" );
 475     return -1;
 476 }
 477
 478 /*****************************************************************************
 479  * CSSCryptKey : shuffles bits and unencrypt keys.
 480  *****************************************************************************
 481  * Used during authentication and disc key negociation in CSSInit.
 482  * i_key_type : 0->key1, 1->key2, 2->buskey.
 483  * i_varient : between 0 and 31.
 484  *****************************************************************************/
 485 static void CSSCryptKey( int i_key_type, int i_varient,
 486                          u8 const * p_challenge, u8* p_key )
 487 {
 488     /* Permutation table for challenge */
 489     u8      pp_perm_challenge[3][10] =
 490             { { 1, 3, 0, 7, 5, 2, 9, 6, 4, 8 },
 491               { 6, 1, 9, 3, 8, 5, 7, 4, 0, 2 },
 492               { 4, 0, 3, 5, 7, 2, 8, 6, 1, 9 } };
 493
 494     /* Permutation table for varient table for key2 and buskey */
 495     u8      pp_perm_varient[2][32] =
 496             { { 0x0a, 0x08, 0x0e, 0x0c, 0x0b, 0x09, 0x0f, 0x0d,
 497                 0x1a, 0x18, 0x1e, 0x1c, 0x1b, 0x19, 0x1f, 0x1d,
 498                 0x02, 0x00, 0x06, 0x04, 0x03, 0x01, 0x07, 0x05,
 499                 0x12, 0x10, 0x16, 0x14, 0x13, 0x11, 0x17, 0x15 },
 500               { 0x12, 0x1a, 0x16, 0x1e, 0x02, 0x0a, 0x06, 0x0e,
 501                 0x10, 0x18, 0x14, 0x1c, 0x00, 0x08, 0x04, 0x0c,
 502                 0x13, 0x1b, 0x17, 0x1f, 0x03, 0x0b, 0x07, 0x0f,
 503                 0x11, 0x19, 0x15, 0x1d, 0x01, 0x09, 0x05, 0x0d } };
 504
 505     u8      p_varients[32] =
 506             {   0xB7, 0x74, 0x85, 0xD0, 0xCC, 0xDB, 0xCA, 0x73,
 507                 0x03, 0xFE, 0x31, 0x03, 0x52, 0xE0, 0xB7, 0x42,
 508                 0x63, 0x16, 0xF2, 0x2A, 0x79, 0x52, 0xFF, 0x1B,
 509                 0x7A, 0x11, 0xCA, 0x1A, 0x9B, 0x40, 0xAD, 0x01 };
 510
 511     /* The "secret" key */
 512     u8      p_secret[5] = { 0x55, 0xD6, 0xC4, 0xC5, 0x28 };
 513
 514     u8      p_bits[30];
 515     u8      p_scratch[10];
 516     u8      p_tmp1[5];
 517     u8      p_tmp2[5];
 518     u8      i_lfsr0_o;  /* 1 bit used */
 519     u8      i_lfsr1_o;  /* 1 bit used */
 520     u32     i_lfsr0;
 521     u32     i_lfsr1;
 522     u8      i_css_varient;
 523     u8      i_cse;
 524     u8      i_index;
 525     u8      i_combined;
 526     u8      i_carry;
 527     u8      i_val = 0;
 528     int     i_term = 0;
 529     int     i_bit;
 530     int     i;
 531
 532     for (i = 9; i >= 0; --i)
 533         p_scratch[i] = p_challenge[pp_perm_challenge[i_key_type][i]];
 534
 535     i_css_varient = ( i_key_type == 0 ) ? i_varient :
 536                     pp_perm_varient[i_key_type-1][i_varient];
 537
 538     /*
 539      * This encryption engine implements one of 32 variations
 540      * one the same theme depending upon the choice in the
 541      * varient parameter (0 - 31).
 542      *
 543      * The algorithm itself manipulates a 40 bit input into
 544      * a 40 bit output.
 545      * The parameter 'input' is 80 bits.  It consists of
 546      * the 40 bit input value that is to be encrypted followed
 547      * by a 40 bit seed value for the pseudo random number
 548      * generators.
 549      */
 550
 551     /* Feed the secret into the input values such that
 552      * we alter the seed to the LFSR's used above,  then
 553      * generate the bits to play with.
 554      */
 555     for( i = 5 ; --i >= 0 ; )
 556     {
 557         p_tmp1[i] = p_scratch[5 + i] ^ p_secret[i] ^ p_crypt_tab2[i];
 558     }
 559
 560     /*
 561      * We use two LFSR's (seeded from some of the input data bytes) to
 562      * generate two streams of pseudo-random bits.  These two bit streams
 563      * are then combined by simply adding with carry to generate a final
 564      * sequence of pseudo-random bits which is stored in the buffer that
 565      * 'output' points to the end of - len is the size of this buffer.
 566      *
 567      * The first LFSR is of degree 25,  and has a polynomial of:
 568      * x^13 + x^5 + x^4 + x^1 + 1
 569      *
 570      * The second LSFR is of degree 17,  and has a (primitive) polynomial of:
 571      * x^15 + x^1 + 1
 572      *
 573      * I don't know if these polynomials are primitive modulo 2,  and thus
 574      * represent maximal-period LFSR's.
 575      *
 576      *
 577      * Note that we take the output of each LFSR from the new shifted in
 578      * bit,  not the old shifted out bit.  Thus for ease of use the LFSR's
 579      * are implemented in bit reversed order.
 580      *
 581      */
 582
 583     /* In order to ensure that the LFSR works we need to ensure that the
 584      * initial values are non-zero.  Thus when we initialise them from
 585      * the seed,  we ensure that a bit is set.
 586      */
 587     i_lfsr0 = ( p_tmp1[0] << 17 ) | ( p_tmp1[1] << 9 ) |
 588               (( p_tmp1[2] & ~7 ) << 1 ) | 8 | ( p_tmp1[2] & 7 );
 589     i_lfsr1 = ( p_tmp1[3] << 9 ) | 0x100 | p_tmp1[4];
 590
 591     i_index = sizeof(p_bits);
 592     i_carry = 0;
 593
 594     do
 595     {
 596         for( i_bit = 0, i_val = 0 ; i_bit < 8 ; ++i_bit )
 597         {
 598
 599             i_lfsr0_o = ( ( i_lfsr0 >> 24 ) ^ ( i_lfsr0 >> 21 ) ^
 600                         ( i_lfsr0 >> 20 ) ^ ( i_lfsr0 >> 12 ) ) & 1;
 601             i_lfsr0 = ( i_lfsr0 << 1 ) | i_lfsr0_o;
 602
 603             i_lfsr1_o = ( ( i_lfsr1 >> 16 ) ^ ( i_lfsr1 >> 2 ) ) & 1;
 604             i_lfsr1 = ( i_lfsr1 << 1 ) | i_lfsr1_o;
 605
 606             i_combined = !i_lfsr1_o + i_carry + !i_lfsr0_o;
 607             /* taking bit 1 */
 608             i_carry = ( i_combined >> 1 ) & 1;
 609             i_val |= ( i_combined & 1 ) << i_bit;
 610         }
 611
 612         p_bits[--i_index] = i_val;
 613     } while( i_index > 0 );
 614
 615     /* This term is used throughout the following to
 616      * select one of 32 different variations on the
 617      * algorithm.
 618      */
 619     i_cse = p_varients[i_css_varient] ^ p_crypt_tab2[i_css_varient];
 620
 621     /* Now the actual blocks doing the encryption.  Each
 622      * of these works on 40 bits at a time and are quite
 623      * similar.
 624      */
 625     i_index = 0;
 626     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_scratch[i] )
 627     {
 628         i_index = p_bits[25 + i] ^ p_scratch[i];
 629         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 630
 631         p_tmp1[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 632     }
 633     p_tmp1[4] ^= p_tmp1[0];
 634
 635     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 636     {
 637         i_index = p_bits[20 + i] ^ p_tmp1[i];
 638         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 639
 640         p_tmp2[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 641     }
 642     p_tmp2[4] ^= p_tmp2[0];
 643
 644     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp2[i] )
 645     {
 646         i_index = p_bits[15 + i] ^ p_tmp2[i];
 647         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 648         i_index = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 649
 650         p_tmp1[i] = p_crypt_tab0[i_index] ^ p_crypt_tab2[i_index];
 651     }
 652     p_tmp1[4] ^= p_tmp1[0];
 653
 654     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 655     {
 656         i_index = p_bits[10 + i] ^ p_tmp1[i];
 657         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 658
 659         i_index = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 660
 661         p_tmp2[i] = p_crypt_tab0[i_index] ^ p_crypt_tab2[i_index];
 662     }
 663     p_tmp2[4] ^= p_tmp2[0];
 664
 665     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp2[i] )
 666     {
 667         i_index = p_bits[5 + i] ^ p_tmp2[i];
 668         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 669
 670         p_tmp1[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 671     }
 672     p_tmp1[4] ^= p_tmp1[0];
 673
 674     for(i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 675     {
 676         i_index = p_bits[i] ^ p_tmp1[i];
 677         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 678
 679         p_key[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 680     }
 681
 682     return;
 683 }
 684
 685 /*****************************************************************************
 686  * CSSCracker : title key decryption by cracking
 687  *****************************************************************************
 688  * This function is called by CSSGetKeys to find a key
 689  *****************************************************************************/
 690 static int CSSCracker( int i_start,
 691                        unsigned char * p_crypted,
 692                        unsigned char * p_decrypted,
 693                        dvd_key_t * p_sector_key,
 694                        dvd_key_t * p_key )
 695 {
 696     unsigned char p_buffer[10];
 697     unsigned int i_t1, i_t2, i_t3, i_t4, i_t5, i_t6;
 698     unsigned int i_try;
 699     unsigned int i_candidate;
 700     unsigned int i, j;
 701     int i_exit = -1;
 702
 703
 704     for( i = 0 ; i < 10 ; i++ )
 705     {
 706         p_buffer[i] = p_css_tab1[p_crypted[i]] ^ p_decrypted[i];
 707     }
 708
 709     for( i_try = i_start ; i_try < 0x10000 ; i_try++ )
 710     {
 711         i_t1 = i_try >> 8 | 0x100;
 712         i_t2 = i_try & 0xff;
 713         i_t3 = 0;               /* not needed */
 714         i_t5 = 0;
 715
 716         /* iterate cipher 4 times to reconstruct LFSR2 */
 717         for( i = 0 ; i < 4 ; i++ )
 718         {
 719             /* advance LFSR1 normaly */
 720             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
 721             i_t2 = i_t1 >> 1;
 722             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
 723             i_t4 = p_css_tab5[i_t4];
 724             /* deduce i_t6 & i_t5 */
 725             i_t6 = p_buffer[i];
 726             if( i_t5 )
 727             {
 728                 i_t6 = ( i_t6 + 0xff ) & 0x0ff;
 729             }
 730             if( i_t6 < i_t4 )
 731             {
 732                 i_t6 += 0x100;
 733             }
 734             i_t6 -= i_t4;
 735             i_t5 += i_t6 + i_t4;
 736             i_t6 = p_css_tab4[ i_t6 ];
 737             /* feed / advance i_t3 / i_t5 */
 738             i_t3 = ( i_t3 << 8 ) | i_t6;
 739             i_t5 >>= 8;
 740         }
 741
 742         i_candidate = i_t3;
 743
 744         /* iterate 6 more times to validate candidate key */
 745         for( ; i < 10 ; i++ )
 746         {
 747             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
 748             i_t2 = i_t1 >> 1;
 749             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
 750             i_t4 = p_css_tab5[i_t4];
 751             i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
 752                                          i_t3 ) >> 8 ) ^ i_t3 ) >> 5 ) & 0xff;
 753             i_t3 = ( i_t3 << 8 ) | i_t6;
 754             i_t6 = p_css_tab4[i_t6];
 755             i_t5 += i_t6 + i_t4;
 756             if( ( i_t5 & 0xff ) != p_buffer[i] )
 757             {
 758                 break;
 759             }
 760
 761             i_t5 >>= 8;
 762         }
 763
 764         if( i == 10 )
 765         {
 766             /* Do 4 backwards steps of iterating t3 to deduce initial state */
 767             i_t3 = i_candidate;
 768             for( i = 0 ; i < 4 ; i++ )
 769             {
 770                 i_t1 = i_t3 & 0xff;
 771                 i_t3 = ( i_t3 >> 8 );
 772                 /* easy to code, and fast enough bruteforce
 773                  * search for byte shifted in */
 774                 for( j = 0 ; j < 256 ; j++ )
 775                 {
 776                     i_t3 = ( i_t3 & 0x1ffff) | ( j << 17 );
 777                     i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
 778                                    i_t3 ) >> 8 ) ^ i_t3 ) >> 5 ) & 0xff;
 779                     if( i_t6 == i_t1 )
 780                     {
 781                         break;
 782                     }
 783                 }
 784             }
 785
 786             i_t4 = ( i_t3 >> 1 ) - 4;
 787             for( i_t5 = 0 ; i_t5 < 8; i_t5++ )
 788             {
 789                 if( ( ( i_t4 + i_t5 ) * 2 + 8 - ( (i_t4 + i_t5 ) & 7 ) )
 790                                                                       == i_t3 )
 791                 {
 792                     (*p_key)[0] = i_try>>8;
 793                     (*p_key)[1] = i_try & 0xFF;
 794                     (*p_key)[2] = ( ( i_t4 + i_t5 ) >> 0) & 0xFF;
 795                     (*p_key)[3] = ( ( i_t4 + i_t5 ) >> 8) & 0xFF;
 796                     (*p_key)[4] = ( ( i_t4 + i_t5 ) >> 16) & 0xFF;
 797                     i_exit = i_try + 1;
 798                 }
 799             }
 800         }
 801     }
 802
 803     if( i_exit >= 0 )
 804     {
 805         (*p_key)[0] ^= (*p_sector_key)[0];
 806         (*p_key)[1] ^= (*p_sector_key)[1];
 807         (*p_key)[2] ^= (*p_sector_key)[2];
 808         (*p_key)[3] ^= (*p_sector_key)[3];
 809         (*p_key)[4] ^= (*p_sector_key)[4];
 810     }
 811
 812     return i_exit;
 813 }
 814
 815 #endif /* HAVE_CSS */
 816