git.sesse.net Git - vlc/blob - extras/libdvdcss/css.c

   1 /*****************************************************************************
   2  * css.c: Functions for DVD authentification and unscrambling
   3  *****************************************************************************
   4  * Copyright (C) 1999-2001 VideoLAN
   5  * $Id: css.c,v 1.20 2002/01/14 22:06:57 stef Exp $
   6  *
   7  * Author: Stéphane Borel <stef@via.ecp.fr>
   8  *         Håkan Hjort <d95hjort@dtek.chalmers.se>
   9  *
  10  * based on:
  11  *  - css-auth by Derek Fawcus <derek@spider.com>
  12  *  - DVD CSS ioctls example program by Andrew T. Veliath <andrewtv@usa.net>
  13  *  - The Divide and conquer attack by Frank A. Stevenson <frank@funcom.com>
  14  *  - DeCSSPlus by Ethan Hawke
  15  *  - DecVOB
  16  *  see http://www.lemuria.org/DeCSS/ by Tom Vogt for more information.
  17  *
  18  * This program is free software; you can redistribute it and/or modify
  19  * it under the terms of the GNU General Public License as published by
  20  * the Free Software Foundation; either version 2 of the License, or
  21  * (at your option) any later version.
  22  *
  23  * This program is distributed in the hope that it will be useful,
  24  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  25  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  26  * GNU General Public License for more details.
  27  *
  28  * You should have received a copy of the GNU General Public License
  29  * along with this program; if not, write to the Free Software
  30  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  31  *****************************************************************************/
  32
  33 /*****************************************************************************
  34  * Preamble
  35  *****************************************************************************/
  36 #include <stdio.h>
  37 #include <stdlib.h>
  38
  39 #include <string.h>
  40
  41 #include <videolan/vlc.h>
  42
  43 #include "videolan/dvdcss.h"
  44 #include "libdvdcss.h"
  45
  46 #include "csstables.h"
  47 #include "ioctl.h"
  48
  49 #ifdef HAVE_CSSKEYS
  50 #  include "csskeys.h"
  51 #endif
  52
  53
  54 /*****************************************************************************
  55  * Local prototypes
  56  *****************************************************************************/
  57 static int  CSSGetASF    ( dvdcss_handle dvdcss );
  58 static void CSSCryptKey  ( int i_key_type, int i_varient,
  59                            u8 const * p_challenge, u8* p_key );
  60 static void CSSDecryptKey( u8* p_crypted, u8* p_key, u8 );
  61 static int  CSSDiscCrack ( dvdcss_handle dvdcss, u8 * p_disc_key );
  62 static int  CSSTitleCrack( int i_start, unsigned char * p_crypted,
  63                            unsigned char * p_decrypted,
  64                            dvd_key_t * p_sector_key, dvd_key_t * p_key );
  65
  66 /*****************************************************************************
  67  * CSSTest : check if the disc is encrypted or not
  68  *****************************************************************************/
  69 int CSSTest( dvdcss_handle dvdcss )
  70 {
  71     int i_ret, i_copyright;
  72
  73     i_ret = ioctl_ReadCopyright( dvdcss->i_fd, 0 /* i_layer */, &i_copyright );
  74
  75     if( i_ret < 0 )
  76     {
  77         /* Since it's the first ioctl we try to issue, we add a notice */
  78         _dvdcss_error( dvdcss, "css error: ioctl_ReadCopyright failed, "
  79                        "make sure there is a DVD in the drive, and that "
  80                        "DVD ioctls were compiled in this libdvdcss version" );
  81
  82         return i_ret;
  83     }
  84
  85     return i_copyright;
  86 }
  87
  88 /*****************************************************************************
  89  * CSSAuth : CSS Structure initialisation and DVD authentication.
  90  *****************************************************************************
  91  * It simulates the mutual authentication between logical unit and host.
  92  * Since we don't need the disc key to find the title key, we just run the
  93  * basic unavoidable commands to authenticate device and disc.
  94  *****************************************************************************/
  95 int CSSAuth( dvdcss_handle dvdcss )
  96 {
  97     /* structures defined in cdrom.h or dvdio.h */
  98     unsigned char p_buffer[10];
  99     char psz_warning[48];
 100     int  i_ret = -1;
 101     int  i;
 102
 103     dvdcss->css.i_agid = 0;
 104
 105     /* Test authentication success */
 106     switch( CSSGetASF( dvdcss ) )
 107     {
 108         case -1:
 109             return -1;
 110
 111         case 1:
 112             _dvdcss_debug( dvdcss, "already authenticated" );
 113             break;
 114
 115         case 0:
 116             _dvdcss_debug( dvdcss, "need to authenticate" );
 117             break;
 118     }
 119
 120     /* Init sequence, request AGID */
 121     for( i = 1; i < 4 ; ++i )
 122     {
 123         snprintf( psz_warning, sizeof(psz_warning), "requesting AGID %d", i );
 124         _dvdcss_debug( dvdcss, psz_warning );
 125
 126         i_ret = ioctl_ReportAgid( dvdcss->i_fd, &dvdcss->css.i_agid );
 127
 128         if( i_ret != -1 )
 129         {
 130             /* No error during ioctl: we know the device is authenticated */
 131             break;
 132         }
 133
 134         _dvdcss_error( dvdcss, "ioctl_ReportAgid failed, invalidating" );
 135
 136         dvdcss->css.i_agid = 0;
 137         ioctl_InvalidateAgid( dvdcss->i_fd, &dvdcss->css.i_agid );
 138     }
 139
 140     /* Unable to authenticate without AGID */
 141     if( i_ret == -1 )
 142     {
 143         _dvdcss_error( dvdcss, "ioctl_ReportAgid failed, fatal" );
 144         return -1;
 145     }
 146
 147     for( i = 0 ; i < 10; ++i )
 148     {
 149         dvdcss->css.disc.p_challenge[i] = i;
 150     }
 151
 152     /* Get challenge from host */
 153     for( i = 0 ; i < 10 ; ++i )
 154     {
 155         p_buffer[9-i] = dvdcss->css.disc.p_challenge[i];
 156     }
 157
 158     /* Send challenge to LU */
 159     if( ioctl_SendChallenge( dvdcss->i_fd, &dvdcss->css.i_agid, p_buffer ) < 0 )
 160     {
 161         _dvdcss_error( dvdcss, "ioctl_SendChallenge failed" );
 162         return -1;
 163     }
 164
 165     /* Get key1 from LU */
 166     if( ioctl_ReportKey1( dvdcss->i_fd, &dvdcss->css.i_agid, p_buffer ) < 0)
 167     {
 168         _dvdcss_error( dvdcss, "ioctl_ReportKey1 failed" );
 169         return -1;
 170     }
 171
 172     /* Send key1 to host */
 173     for( i = 0 ; i < KEY_SIZE ; i++ )
 174     {
 175         dvdcss->css.disc.p_key1[i] = p_buffer[4-i];
 176     }
 177
 178     for( i = 0 ; i < 32 ; ++i )
 179     {
 180         CSSCryptKey( 0, i, dvdcss->css.disc.p_challenge,
 181                            dvdcss->css.disc.p_key_check );
 182
 183         if( memcmp( dvdcss->css.disc.p_key_check,
 184                     dvdcss->css.disc.p_key1, KEY_SIZE ) == 0 )
 185         {
 186             snprintf( psz_warning, sizeof(psz_warning),
 187                       "drive authentic, using variant %d", i );
 188             _dvdcss_debug( dvdcss, psz_warning );
 189             dvdcss->css.disc.i_varient = i;
 190             break;
 191         }
 192     }
 193
 194     if( i == 32 )
 195     {
 196         _dvdcss_error( dvdcss, "drive would not authenticate" );
 197         return -1;
 198     }
 199
 200     /* Get challenge from LU */
 201     if( ioctl_ReportChallenge( dvdcss->i_fd, &dvdcss->css.i_agid, p_buffer ) < 0 )
 202     {
 203         _dvdcss_error( dvdcss, "ioctl_ReportKeyChallenge failed" );
 204         return -1;
 205     }
 206
 207     /* Send challenge to host */
 208     for( i = 0 ; i < 10 ; ++i )
 209     {
 210         dvdcss->css.disc.p_challenge[i] = p_buffer[9-i];
 211     }
 212
 213     CSSCryptKey( 1, dvdcss->css.disc.i_varient,
 214                     dvdcss->css.disc.p_challenge,
 215                     dvdcss->css.disc.p_key2 );
 216
 217     /* Get key2 from host */
 218     for( i = 0 ; i < KEY_SIZE ; ++i )
 219     {
 220         p_buffer[4-i] = dvdcss->css.disc.p_key2[i];
 221     }
 222
 223     /* Send key2 to LU */
 224     if( ioctl_SendKey2( dvdcss->i_fd, &dvdcss->css.i_agid, p_buffer ) < 0 )
 225     {
 226         _dvdcss_error( dvdcss, "ioctl_SendKey2 failed" );
 227         return -1;
 228     }
 229
 230     _dvdcss_debug( dvdcss, "authentication established" );
 231
 232     memcpy( dvdcss->css.disc.p_challenge,
 233             dvdcss->css.disc.p_key1, KEY_SIZE );
 234     memcpy( dvdcss->css.disc.p_challenge+KEY_SIZE,
 235             dvdcss->css.disc.p_key2, KEY_SIZE );
 236
 237     CSSCryptKey( 2, dvdcss->css.disc.i_varient,
 238                     dvdcss->css.disc.p_challenge,
 239                     dvdcss->css.disc.p_key_check );
 240
 241     _dvdcss_debug( dvdcss, "received session key" );
 242
 243     if( dvdcss->css.i_agid < 0 )
 244     {
 245         return -1;
 246     }
 247
 248     /* Test authentication success */
 249     switch( CSSGetASF( dvdcss ) )
 250     {
 251         case -1:
 252             return -1;
 253
 254         case 1:
 255             _dvdcss_debug( dvdcss, "already authenticated" );
 256             return 0;
 257
 258         case 0:
 259             _dvdcss_debug( dvdcss, "need to get disc key" );
 260             return 0;
 261     }
 262
 263     return -1;
 264 }
 265
 266 /*****************************************************************************
 267  * CSSGetDiscKey : get disc key and optionnaly decrypts it.
 268  *****************************************************************************
 269  * This function should only be called if DVD ioctls are present.
 270  * Two decryption methods are then offered:
 271  *  -disc key hash crack,
 272  *  -decryption with player keys if they are available.
 273  *****************************************************************************/
 274 int CSSGetDiscKey( dvdcss_handle dvdcss )
 275 {
 276     unsigned char   p_buffer[2048 + 4 + 1];
 277 #ifdef HAVE_CSSKEYS
 278     dvd_key_t       disc_key;
 279     dvd_key_t       test_key;
 280 #endif
 281     int i;
 282
 283     if( CSSAuth( dvdcss ) )
 284     {
 285         return -1;
 286     }
 287
 288     /* Get encrypted disc key */
 289     if( ioctl_ReadDiscKey( dvdcss->i_fd, &dvdcss->css.i_agid, p_buffer ) < 0 )
 290     {
 291         _dvdcss_error( dvdcss, "ioctl_ReadDiscKey failed" );
 292         return -1;
 293     }
 294
 295     /* Unencrypt disc key using bus key */
 296     for( i = 0 ; i < 2048 ; i++ )
 297     {
 298         p_buffer[ i ] ^= dvdcss->css.disc.p_key_check[ 4 - (i % KEY_SIZE) ];
 299     }
 300     memcpy( dvdcss->css.disc.p_disc_key, p_buffer, 2048 );
 301
 302     switch( dvdcss->i_method )
 303     {
 304         case DVDCSS_METHOD_KEY:
 305 #ifdef HAVE_CSSKEYS
 306             /* Decrypt disc key with player keys from csskeys.h */
 307             _dvdcss_debug( dvdcss, "decrypting disc key with player keys" );
 308             i = 0;
 309             do
 310             {
 311                 /* Take encrypted disc key and decrypt it */
 312                 memcpy( disc_key,
 313                         dvdcss->css.disc.p_disc_key
 314                       + playerkeys[i].i_offset,
 315                         KEY_SIZE );
 316                 CSSDecryptKey( disc_key, playerkeys[i].p_key, 0 );
 317
 318                 /* Encrypt disc key hash with disc key to
 319                  * check we have disc key */
 320                 memcpy( test_key, dvdcss->css.disc.p_disc_key, KEY_SIZE );
 321                 CSSDecryptKey( test_key, disc_key, 0);
 322
 323                 i++;
 324
 325             } while( ( playerkeys[i].i_offset != -1 ) &&
 326                      ( memcmp( test_key, disc_key, KEY_SIZE ) ) );
 327
 328             /* The decrypted disk key will replace the disk key hash */
 329             memcpy( dvdcss->css.disc.p_disc_key, disc_key, KEY_SIZE );
 330             break;
 331 #else
 332             dvdcss->i_method = DVDCSS_METHOD_DISC;
 333 #endif
 334         case DVDCSS_METHOD_DISC:
 335             /* Crack Disc key to be able to use it */
 336             _dvdcss_debug( dvdcss, "cracking disc key with key hash" );
 337             _dvdcss_debug( dvdcss, "building 64MB table ... this will take some time" );
 338             CSSDiscCrack( dvdcss, dvdcss->css.disc.p_disc_key );
 339             break;
 340
 341         default:
 342             _dvdcss_debug( dvdcss, "disc key won't be decrypted" );
 343     }
 344
 345     return 0;
 346 }
 347
 348
 349 /*****************************************************************************
 350  * CSSGetTitleKey : get title key.
 351  *****************************************************************************/
 352 int CSSGetTitleKey( dvdcss_handle dvdcss, int i_pos )
 353 {
 354     dvd_key_t   p_key;
 355     int         i,j;
 356
 357     if( ( dvdcss->i_method == DVDCSS_METHOD_TITLE )
 358         || ( dvdcss->b_ioctls == 0 ) )
 359     {
 360         /*
 361          * Title key cracking method from Ethan Hawke,
 362          * with Frank A. Stevenson algorithm.
 363          * Does not use any player key table and ioctls.
 364          */
 365         u8          p_buf[0x800];
 366         u8          p_packstart[4] = { 0x00, 0x00, 0x01, 0xba };
 367         boolean_t   b_encrypted;
 368         boolean_t   b_stop_scanning;
 369         int         i_blocks_read;
 370         int         i_best_plen;
 371         int         i_best_p;
 372
 373         _dvdcss_debug( dvdcss, "cracking title key ... this may take some time" );
 374
 375         for( i = 0 ; i < KEY_SIZE ; i++ )
 376         {
 377             p_key[i] = 0;
 378         }
 379
 380         b_encrypted = 0;
 381         b_stop_scanning = 0;
 382         i_blocks_read = 0;
 383
 384         do
 385         {
 386             i_pos = _dvdcss_seek( dvdcss, i_pos );
 387             if( _dvdcss_read( dvdcss, p_buf, 1 ) != 1 ) break;
 388
 389             /* Stop when we find a non MPEG stream block */
 390             if( memcmp( p_buf, p_packstart, 4 ) )
 391             {
 392                 /* The title is unencrypted */
 393                 if( !b_encrypted )
 394                     break;
 395                 /* dvdcss some times fail to find/crack the key,
 396                    hope that it's the same as the one in the next title
 397                    _dvdcss_debug( dvdcss, "no key found at end of title" );
 398                 */
 399             }
 400
 401             /* PES_scrambling_control on and make sure that the packet type
 402                is one that can be scrambled */
 403             if( p_buf[0x14] & 0x30  && ! ( p_buf[0x11] == 0xbb
 404                                            || p_buf[0x11] == 0xbe
 405                                            || p_buf[0x11] == 0xbf ) )
 406             {
 407                 b_encrypted = 1;
 408                 i_best_plen = 0;
 409                 i_best_p = 0;
 410
 411                 for( i = 2 ; i < 0x30 ; i++ )
 412                 {
 413                     for( j = i+1 ;
 414                          j < 0x80 && ( p_buf[0x7F - (j%i)] == p_buf[0x7F-j] );
 415                          j++ );
 416                     {
 417                         if( j > i_best_plen )
 418                         {
 419                             i_best_plen = j;
 420                             i_best_p = i;
 421                         }
 422                     }
 423                 }
 424
 425                 if( ( i_best_plen > 20 ) && ( i_best_plen / i_best_p >= 2) )
 426                 {
 427                     i = CSSTitleCrack( 0,  &p_buf[0x80],
 428                             &p_buf[0x80 - ( i_best_plen / i_best_p) *i_best_p],
 429                             (dvd_key_t*)&p_buf[0x54],
 430                             &p_key );
 431                     b_stop_scanning = ( i >= 0 );
 432                 }
 433             }
 434
 435             i_pos += 1;
 436             i_blocks_read += 1;
 437
 438             /* If we haven't seen any encrypted ones after 3000 blocks stop */
 439             if( !b_encrypted && i_blocks_read >= 1000 ) break;
 440
 441         } while( !b_stop_scanning );
 442
 443         if( b_stop_scanning )
 444         {
 445             memcpy( dvdcss->css.p_title_key, &p_key, sizeof(dvd_key_t) );
 446             _dvdcss_debug( dvdcss, "vts key initialized" );
 447             return 0;
 448         }
 449
 450         if( !b_encrypted )
 451         {
 452             _dvdcss_debug( dvdcss, "file was unscrambled" );
 453             return 0;
 454         }
 455
 456         return -1;
 457     }
 458     else
 459     {
 460         /*
 461          * if we are here we have a decrypted disc key and ioctls are available
 462          * so we can read the title key and decrypt it.
 463          */
 464
 465         _dvdcss_debug( dvdcss, "decrypting title key with disc key" );
 466
 467         /* We need to authenticate again for every key
 468          * (to get a new session key ?) */
 469         CSSAuth( dvdcss );
 470
 471         /* Get encrypted title key */
 472         if( ioctl_ReadTitleKey( dvdcss->i_fd, &dvdcss->css.i_agid,
 473                                 i_pos, p_key ) < 0 )
 474         {
 475             _dvdcss_error( dvdcss, "ioctl_ReadTitleKey failed" );
 476             return -1;
 477         }
 478
 479         if( memcmp( p_key, dvdcss->css.p_unenc_key, KEY_SIZE ) )
 480         {
 481             memcpy( dvdcss->css.p_unenc_key, p_key, KEY_SIZE );
 482
 483             /* Unencrypt title key using bus key */
 484             for( i = 0 ; i < KEY_SIZE ; i++ )
 485             {
 486                 p_key[ i ] ^= dvdcss->css.disc.p_key_check[ 4 - (i % KEY_SIZE ) ];
 487             }
 488
 489             /* Title key decryption needs one inversion 0xff */
 490             CSSDecryptKey( p_key, dvdcss->css.disc.p_disc_key, 0xff );
 491
 492             memcpy( dvdcss->css.p_title_key, p_key, KEY_SIZE );
 493         }
 494
 495         return 0;
 496     } // (dvdcss->i_method == DVDCSS_METHOD_TITLE) || (dvdcss->b_ioctls == 0)
 497 }
 498
 499 /*****************************************************************************
 500  * CSSDescrambleSector: does the actual descrambling of data
 501  *****************************************************************************
 502  * sec : sector to descramble
 503  * key : title key for this sector
 504  *****************************************************************************/
 505 int CSSDescrambleSector( dvd_key_t p_key, u8* p_sec )
 506 {
 507     unsigned int    i_t1, i_t2, i_t3, i_t4, i_t5, i_t6;
 508     u8*             p_end = p_sec + 0x800;
 509
 510     /* PES_scrambling_control */
 511     if( p_sec[0x14] & 0x30)
 512     {
 513         i_t1 = ((p_key)[0] ^ p_sec[0x54]) | 0x100;
 514         i_t2 = (p_key)[1] ^ p_sec[0x55];
 515         i_t3 = (((p_key)[2]) | ((p_key)[3] << 8) |
 516                ((p_key)[4] << 16)) ^ ((p_sec[0x56]) |
 517                (p_sec[0x57] << 8) | (p_sec[0x58] << 16));
 518         i_t4 = i_t3 & 7;
 519         i_t3 = i_t3 * 2 + 8 - i_t4;
 520         p_sec += 0x80;
 521         i_t5 = 0;
 522
 523         while( p_sec != p_end )
 524         {
 525             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
 526             i_t2 = i_t1>>1;
 527             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
 528             i_t4 = p_css_tab5[i_t4];
 529             i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
 530                                          i_t3 ) >> 8 ) ^ i_t3 ) >> 5 ) & 0xff;
 531             i_t3 = (i_t3 << 8 ) | i_t6;
 532             i_t6 = p_css_tab4[i_t6];
 533             i_t5 += i_t6 + i_t4;
 534             *p_sec = p_css_tab1[*p_sec] ^( i_t5 & 0xff );
 535             p_sec++;
 536             i_t5 >>= 8;
 537         }
 538     }
 539
 540     return 0;
 541 }
 542
 543 /* Following functions are local */
 544
 545 /*****************************************************************************
 546  * CSSGetASF : Get Authentification success flag
 547  *****************************************************************************
 548  * Returns :
 549  *  -1 on ioctl error,
 550  *  0 if the device needs to be authenticated,
 551  *  1 either.
 552  *****************************************************************************/
 553 static int CSSGetASF( dvdcss_handle dvdcss )
 554 {
 555     int i_agid;
 556     int i_asf = 0;
 557
 558     for( i_agid = 0 ; i_agid < 4 ; i_agid++ )
 559     {
 560         if( ioctl_ReportASF( dvdcss->i_fd, &i_agid, &i_asf ) == 0 )
 561         {
 562             if( i_asf )
 563             {
 564                 _dvdcss_debug( dvdcss, "GetASF authenticated" );
 565             }
 566             else
 567             {
 568                 _dvdcss_debug( dvdcss, "GetASF not authenticated" );
 569             }
 570
 571             return i_asf;
 572         }
 573     }
 574
 575     /* The ioctl process has failed */
 576     _dvdcss_error( dvdcss, "GetASF fatal error" );
 577     return -1;
 578 }
 579
 580 /*****************************************************************************
 581  * CSSCryptKey : shuffles bits and unencrypt keys.
 582  *****************************************************************************
 583  * Used during authentication and disc key negociation in CSSAuth.
 584  * i_key_type : 0->key1, 1->key2, 2->buskey.
 585  * i_varient : between 0 and 31.
 586  *****************************************************************************/
 587 static void CSSCryptKey( int i_key_type, int i_varient,
 588                          u8 const * p_challenge, u8* p_key )
 589 {
 590     /* Permutation table for challenge */
 591     u8      pp_perm_challenge[3][10] =
 592             { { 1, 3, 0, 7, 5, 2, 9, 6, 4, 8 },
 593               { 6, 1, 9, 3, 8, 5, 7, 4, 0, 2 },
 594               { 4, 0, 3, 5, 7, 2, 8, 6, 1, 9 } };
 595
 596     /* Permutation table for varient table for key2 and buskey */
 597     u8      pp_perm_varient[2][32] =
 598             { { 0x0a, 0x08, 0x0e, 0x0c, 0x0b, 0x09, 0x0f, 0x0d,
 599                 0x1a, 0x18, 0x1e, 0x1c, 0x1b, 0x19, 0x1f, 0x1d,
 600                 0x02, 0x00, 0x06, 0x04, 0x03, 0x01, 0x07, 0x05,
 601                 0x12, 0x10, 0x16, 0x14, 0x13, 0x11, 0x17, 0x15 },
 602               { 0x12, 0x1a, 0x16, 0x1e, 0x02, 0x0a, 0x06, 0x0e,
 603                 0x10, 0x18, 0x14, 0x1c, 0x00, 0x08, 0x04, 0x0c,
 604                 0x13, 0x1b, 0x17, 0x1f, 0x03, 0x0b, 0x07, 0x0f,
 605                 0x11, 0x19, 0x15, 0x1d, 0x01, 0x09, 0x05, 0x0d } };
 606
 607     u8      p_varients[32] =
 608             {   0xB7, 0x74, 0x85, 0xD0, 0xCC, 0xDB, 0xCA, 0x73,
 609                 0x03, 0xFE, 0x31, 0x03, 0x52, 0xE0, 0xB7, 0x42,
 610                 0x63, 0x16, 0xF2, 0x2A, 0x79, 0x52, 0xFF, 0x1B,
 611                 0x7A, 0x11, 0xCA, 0x1A, 0x9B, 0x40, 0xAD, 0x01 };
 612
 613     /* The "secret" key */
 614     u8      p_secret[5] = { 0x55, 0xD6, 0xC4, 0xC5, 0x28 };
 615
 616     u8      p_bits[30];
 617     u8      p_scratch[10];
 618     u8      p_tmp1[5];
 619     u8      p_tmp2[5];
 620     u8      i_lfsr0_o;  /* 1 bit used */
 621     u8      i_lfsr1_o;  /* 1 bit used */
 622     u32     i_lfsr0;
 623     u32     i_lfsr1;
 624     u8      i_css_varient;
 625     u8      i_cse;
 626     u8      i_index;
 627     u8      i_combined;
 628     u8      i_carry;
 629     u8      i_val = 0;
 630     int     i_term = 0;
 631     int     i_bit;
 632     int     i;
 633
 634     for (i = 9; i >= 0; --i)
 635         p_scratch[i] = p_challenge[pp_perm_challenge[i_key_type][i]];
 636
 637     i_css_varient = ( i_key_type == 0 ) ? i_varient :
 638                     pp_perm_varient[i_key_type-1][i_varient];
 639
 640     /*
 641      * This encryption engine implements one of 32 variations
 642      * one the same theme depending upon the choice in the
 643      * varient parameter (0 - 31).
 644      *
 645      * The algorithm itself manipulates a 40 bit input into
 646      * a 40 bit output.
 647      * The parameter 'input' is 80 bits.  It consists of
 648      * the 40 bit input value that is to be encrypted followed
 649      * by a 40 bit seed value for the pseudo random number
 650      * generators.
 651      */
 652
 653     /* Feed the secret into the input values such that
 654      * we alter the seed to the LFSR's used above,  then
 655      * generate the bits to play with.
 656      */
 657     for( i = 5 ; --i >= 0 ; )
 658     {
 659         p_tmp1[i] = p_scratch[5 + i] ^ p_secret[i] ^ p_crypt_tab2[i];
 660     }
 661
 662     /*
 663      * We use two LFSR's (seeded from some of the input data bytes) to
 664      * generate two streams of pseudo-random bits.  These two bit streams
 665      * are then combined by simply adding with carry to generate a final
 666      * sequence of pseudo-random bits which is stored in the buffer that
 667      * 'output' points to the end of - len is the size of this buffer.
 668      *
 669      * The first LFSR is of degree 25,  and has a polynomial of:
 670      * x^13 + x^5 + x^4 + x^1 + 1
 671      *
 672      * The second LSFR is of degree 17,  and has a (primitive) polynomial of:
 673      * x^15 + x^1 + 1
 674      *
 675      * I don't know if these polynomials are primitive modulo 2,  and thus
 676      * represent maximal-period LFSR's.
 677      *
 678      *
 679      * Note that we take the output of each LFSR from the new shifted in
 680      * bit,  not the old shifted out bit.  Thus for ease of use the LFSR's
 681      * are implemented in bit reversed order.
 682      *
 683      */
 684
 685     /* In order to ensure that the LFSR works we need to ensure that the
 686      * initial values are non-zero.  Thus when we initialise them from
 687      * the seed,  we ensure that a bit is set.
 688      */
 689     i_lfsr0 = ( p_tmp1[0] << 17 ) | ( p_tmp1[1] << 9 ) |
 690               (( p_tmp1[2] & ~7 ) << 1 ) | 8 | ( p_tmp1[2] & 7 );
 691     i_lfsr1 = ( p_tmp1[3] << 9 ) | 0x100 | p_tmp1[4];
 692
 693     i_index = sizeof(p_bits);
 694     i_carry = 0;
 695
 696     do
 697     {
 698         for( i_bit = 0, i_val = 0 ; i_bit < 8 ; ++i_bit )
 699         {
 700
 701             i_lfsr0_o = ( ( i_lfsr0 >> 24 ) ^ ( i_lfsr0 >> 21 ) ^
 702                         ( i_lfsr0 >> 20 ) ^ ( i_lfsr0 >> 12 ) ) & 1;
 703             i_lfsr0 = ( i_lfsr0 << 1 ) | i_lfsr0_o;
 704
 705             i_lfsr1_o = ( ( i_lfsr1 >> 16 ) ^ ( i_lfsr1 >> 2 ) ) & 1;
 706             i_lfsr1 = ( i_lfsr1 << 1 ) | i_lfsr1_o;
 707
 708             i_combined = !i_lfsr1_o + i_carry + !i_lfsr0_o;
 709             /* taking bit 1 */
 710             i_carry = ( i_combined >> 1 ) & 1;
 711             i_val |= ( i_combined & 1 ) << i_bit;
 712         }
 713
 714         p_bits[--i_index] = i_val;
 715     } while( i_index > 0 );
 716
 717     /* This term is used throughout the following to
 718      * select one of 32 different variations on the
 719      * algorithm.
 720      */
 721     i_cse = p_varients[i_css_varient] ^ p_crypt_tab2[i_css_varient];
 722
 723     /* Now the actual blocks doing the encryption.  Each
 724      * of these works on 40 bits at a time and are quite
 725      * similar.
 726      */
 727     i_index = 0;
 728     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_scratch[i] )
 729     {
 730         i_index = p_bits[25 + i] ^ p_scratch[i];
 731         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 732
 733         p_tmp1[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 734     }
 735     p_tmp1[4] ^= p_tmp1[0];
 736
 737     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 738     {
 739         i_index = p_bits[20 + i] ^ p_tmp1[i];
 740         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 741
 742         p_tmp2[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 743     }
 744     p_tmp2[4] ^= p_tmp2[0];
 745
 746     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp2[i] )
 747     {
 748         i_index = p_bits[15 + i] ^ p_tmp2[i];
 749         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 750         i_index = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 751
 752         p_tmp1[i] = p_crypt_tab0[i_index] ^ p_crypt_tab2[i_index];
 753     }
 754     p_tmp1[4] ^= p_tmp1[0];
 755
 756     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 757     {
 758         i_index = p_bits[10 + i] ^ p_tmp1[i];
 759         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 760
 761         i_index = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 762
 763         p_tmp2[i] = p_crypt_tab0[i_index] ^ p_crypt_tab2[i_index];
 764     }
 765     p_tmp2[4] ^= p_tmp2[0];
 766
 767     for( i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp2[i] )
 768     {
 769         i_index = p_bits[5 + i] ^ p_tmp2[i];
 770         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 771
 772         p_tmp1[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 773     }
 774     p_tmp1[4] ^= p_tmp1[0];
 775
 776     for(i = 5, i_term = 0 ; --i >= 0 ; i_term = p_tmp1[i] )
 777     {
 778         i_index = p_bits[i] ^ p_tmp1[i];
 779         i_index = p_crypt_tab1[i_index] ^ ~p_crypt_tab2[i_index] ^ i_cse;
 780
 781         p_key[i] = p_crypt_tab2[i_index] ^ p_crypt_tab3[i_index] ^ i_term;
 782     }
 783
 784     return;
 785 }
 786
 787 /*****************************************************************************
 788  * CSSDecryptKey: decrypt p_crypted with p_key.
 789  *****************************************************************************
 790  * Decryption is slightly dependant on the type of key:
 791  *  -for disc key, invert is 0x00,
 792  *  -for title key, invert if 0xff.
 793  *****************************************************************************/
 794 static void CSSDecryptKey( u8* p_crypted, u8* p_key, u8 invert )
 795 {
 796     unsigned int    i_lfsr1_lo;
 797     unsigned int    i_lfsr1_hi;
 798     unsigned int    i_lfsr0;
 799     unsigned int    i_combined;
 800     byte_t          o_lfsr0;
 801     byte_t          o_lfsr1;
 802     byte_t          k[5];
 803     int             i;
 804
 805     i_lfsr1_lo = p_key[0] | 0x100;
 806     i_lfsr1_hi = p_key[1];
 807
 808     i_lfsr0    = ( ( p_key[4] << 17 )
 809                  | ( p_key[3] << 9 )
 810                  | ( p_key[2] << 1 ) )
 811                  + 8 - ( p_key[2] & 7 );
 812     i_lfsr0    = ( p_css_tab4[i_lfsr0 & 0xff] << 24 ) |
 813                  ( p_css_tab4[( i_lfsr0 >> 8 ) & 0xff] << 16 ) |
 814                  ( p_css_tab4[( i_lfsr0 >> 16 ) & 0xff] << 8 ) |
 815                    p_css_tab4[( i_lfsr0 >> 24 ) & 0xff];
 816
 817     i_combined = 0;
 818     for( i = 0 ; i < KEY_SIZE ; ++i )
 819     {
 820         o_lfsr1     = p_css_tab2[i_lfsr1_hi] ^ p_css_tab3[i_lfsr1_lo];
 821         i_lfsr1_hi  = i_lfsr1_lo >> 1;
 822         i_lfsr1_lo  = ( ( i_lfsr1_lo & 1 ) << 8 ) ^ o_lfsr1;
 823         o_lfsr1     = p_css_tab4[o_lfsr1];
 824
 825         o_lfsr0 = ((((((( i_lfsr0 >> 8 ) ^ i_lfsr0 ) >> 1 )
 826                         ^ i_lfsr0 ) >> 3 ) ^ i_lfsr0 ) >> 7 );
 827         i_lfsr0 = ( i_lfsr0 >> 8 ) | ( o_lfsr0 << 24 );
 828
 829         i_combined += ( o_lfsr0 ^ invert ) + o_lfsr1;
 830         k[i] = i_combined & 0xff;
 831         i_combined >>= 8;
 832     }
 833
 834     p_crypted[4] = k[4] ^ p_css_tab1[p_crypted[4]] ^ p_crypted[3];
 835     p_crypted[3] = k[3] ^ p_css_tab1[p_crypted[3]] ^ p_crypted[2];
 836     p_crypted[2] = k[2] ^ p_css_tab1[p_crypted[2]] ^ p_crypted[1];
 837     p_crypted[1] = k[1] ^ p_css_tab1[p_crypted[1]] ^ p_crypted[0];
 838     p_crypted[0] = k[0] ^ p_css_tab1[p_crypted[0]] ^ p_crypted[4];
 839
 840     p_crypted[4] = k[4] ^ p_css_tab1[p_crypted[4]] ^ p_crypted[3];
 841     p_crypted[3] = k[3] ^ p_css_tab1[p_crypted[3]] ^ p_crypted[2];
 842     p_crypted[2] = k[2] ^ p_css_tab1[p_crypted[2]] ^ p_crypted[1];
 843     p_crypted[1] = k[1] ^ p_css_tab1[p_crypted[1]] ^ p_crypted[0];
 844     p_crypted[0] = k[0] ^ p_css_tab1[p_crypted[0]];
 845
 846     return;
 847 }
 848
 849 /*****************************************************************************
 850  * CSSDiscCrack: brute force disc key
 851  * CSS hash reversal function designed by Frank Stevenson
 852  *****************************************************************************
 853  * This function uses a big amount of memory to crack the disc key from the
 854  * disc key hash, if player keys are not available.
 855  *****************************************************************************/
 856 #define K1TABLEWIDTH 10
 857
 858 /*
 859  * Simple function to test if a candidate key produces the given hash
 860  */
 861 static int investigate( unsigned char* hash, unsigned char *ckey )
 862 {
 863     unsigned char key[5];
 864     unsigned char pkey[5];
 865
 866     memcpy( key, hash, 5 );
 867     memcpy( pkey, ckey, 5 );
 868
 869     CSSDecryptKey( key, pkey, 0 );
 870
 871     return memcmp( key, pkey, 5 );
 872 }
 873
 874 static int CSSDiscCrack( dvdcss_handle dvdcss, u8 * p_disc_key )
 875 {
 876     unsigned char B[5] = { 0,0,0,0,0 }; /* Second Stage of mangle cipher */
 877     unsigned char C[5] = { 0,0,0,0,0 }; /* Output Stage of mangle cipher
 878                                          * IntermediateKey */
 879     unsigned char k[5] = { 0,0,0,0,0 }; /* Mangling cipher key
 880                                          * Also output from CSS( C ) */
 881     unsigned char out1[5];              /* five first output bytes of LFSR1 */
 882     unsigned char out2[5];              /* five first output bytes of LFSR2 */
 883     unsigned int lfsr1a;                /* upper 9 bits of LFSR1 */
 884     unsigned int lfsr1b;                /* lower 8 bits of LFSR1 */
 885     unsigned int tmp, tmp2, tmp3, tmp4,tmp5;
 886     int i,j;
 887     unsigned int nStepA;        /* iterator for LFSR1 start state */
 888     unsigned int nStepB;        /* iterator for possible B[0]     */
 889     unsigned int nTry;          /* iterator for K[1] possibilities */
 890     unsigned int nPossibleK1;   /* #of possible K[1] values */
 891     unsigned char* K1table;     /* Lookup table for possible K[1] */
 892     unsigned int*  BigTable;    /* LFSR2 startstate indexed by
 893                                  * 1,2,5 output byte */
 894
 895     /*
 896      * Prepare tables for hash reversal
 897      */
 898
 899
 900     /* initialize lookup tables for k[1] */
 901     K1table = malloc( 65536 * K1TABLEWIDTH );
 902     memset( K1table, 0 , 65536 * K1TABLEWIDTH );
 903     if( K1table == NULL )
 904     {
 905         return -1;
 906     }
 907
 908     tmp = p_disc_key[0] ^ p_css_tab1[ p_disc_key[1] ];
 909     for( i = 0 ; i < 256 ; i++ ) /* k[1] */
 910     {
 911         tmp2 = p_css_tab1[ tmp ^ i ]; /* p_css_tab1[ B[1] ]*/
 912
 913         for( j = 0 ; j < 256 ; j++ ) /* B[0] */
 914         {
 915             tmp3 = j ^ tmp2 ^ i; /* C[1] */
 916             tmp4 = K1table[ K1TABLEWIDTH * ( 256 * j + tmp3 ) ]; /* count of entries  here */
 917             tmp4++;
 918 /*
 919             if( tmp4 == K1TABLEWIDTH )
 920             {
 921                 _dvdcss_debug( dvdcss, "Table disaster %d", tmp4 );
 922             }
 923 */
 924             if( tmp4 < K1TABLEWIDTH )
 925             {
 926                 K1table[ K1TABLEWIDTH * ( 256 * j + tmp3 ) +    tmp4 ] = i;
 927             }
 928             K1table[ K1TABLEWIDTH * ( 256 * j + tmp3 ) ] = tmp4;
 929         }
 930     }
 931
 932     /* Initing our Really big table */
 933     BigTable = malloc( 16777216 * sizeof(int) );
 934     memset( BigTable, 0 , 16777216 * sizeof(int) );
 935     if( BigTable == NULL )
 936     {
 937         return -1;
 938     }
 939
 940     tmp3 = 0;
 941
 942     _dvdcss_debug( dvdcss, "initializing the big table" );
 943
 944     for( i = 0 ; i < 16777216 ; i++ )
 945     {
 946 /*
 947         if( ( i & 0x07ffff ) == 0 )
 948         {
 949             fprintf( stderr, "#" );
 950         }
 951 */
 952         tmp = (( i + i ) & 0x1fffff0 ) | 0x8 | ( i & 0x7 );
 953
 954         for( j = 0 ; j < 5 ; j++ )
 955         {
 956             tmp2=((((((( tmp >> 3 ) ^ tmp ) >> 1 ) ^ tmp ) >> 8 )
 957                                     ^ tmp ) >> 5 ) & 0xff;
 958             tmp = ( tmp << 8) | tmp2;
 959             out2[j] = p_css_tab4[ tmp2 ];
 960         }
 961
 962         j = ( out2[0] << 16 ) | ( out2[1] << 8 ) | out2[4];
 963         BigTable[j] = i;
 964     }
 965
 966 /*    fprintf( stderr, "\n" ); */
 967
 968     /*
 969      * We are done initing, now reverse hash
 970      */
 971     tmp5 = p_disc_key[0] ^ p_css_tab1[ p_disc_key[1] ];
 972
 973     for( nStepA = 0 ; nStepA < 65536 ; nStepA ++ )
 974     {
 975         lfsr1a = 0x100 | ( nStepA >> 8 );
 976         lfsr1b = nStepA & 0xff;
 977
 978         /* Generate 5 first output bytes from lfsr1 */
 979         for( i = 0 ; i < 5 ; i++ )
 980         {
 981             tmp = p_css_tab2[ lfsr1b ] ^ p_css_tab3[ lfsr1a ];
 982             lfsr1b = lfsr1a >> 1;
 983             lfsr1a = ((lfsr1a&1)<<8) ^ tmp;
 984             out1[ i ] = p_css_tab4[ tmp ];
 985         }
 986
 987         /* cumpute and cache some variables */
 988         C[0] = nStepA >> 8;
 989         C[1] = nStepA & 0xff;
 990         tmp = p_disc_key[3] ^ p_css_tab1[ p_disc_key[4] ];
 991         tmp2 = p_css_tab1[ p_disc_key[0] ];
 992
 993         /* Search through all possible B[0] */
 994         for( nStepB = 0 ; nStepB < 256 ; nStepB++ )
 995         {
 996             /* reverse parts of the mangling cipher */
 997             B[0] = nStepB;
 998             k[0] = p_css_tab1[ B[0] ] ^ C[0];
 999             B[4] = B[0] ^ k[0] ^ tmp2;
1000             k[4] = B[4] ^ tmp;
1001             nPossibleK1 = K1table[ K1TABLEWIDTH * (256 * B[0] + C[1]) ];
1002
1003             /* Try out all possible values for k[1] */
1004             for( nTry = 0 ; nTry < nPossibleK1 ; nTry++ )
1005             {
1006                 k[1] = K1table[ K1TABLEWIDTH * (256 * B[0] + C[1]) + nTry + 1 ];
1007                 B[1] = tmp5 ^ k[1];
1008
1009                 /* reconstruct output from LFSR2 */
1010                 tmp3 = ( 0x100 + k[0] - out1[0] );
1011                 out2[0] = tmp3 & 0xff;
1012                 tmp3 = tmp3 & 0x100 ? 0x100 : 0xff;
1013                 tmp3 = ( tmp3 + k[1] - out1[1] );
1014                 out2[1] = tmp3 & 0xff;
1015                 tmp3 = ( 0x100 + k[4] - out1[4] );
1016                 out2[4] = tmp3 & 0xff;  /* Can be 1 off  */
1017
1018                 /* test first possible out2[4] */
1019                 tmp4 = ( out2[0] << 16 ) | ( out2[1] << 8 ) | out2[4];
1020                 tmp4 = BigTable[ tmp4 ];
1021                 C[2] = tmp4 & 0xff;
1022                 C[3] = ( tmp4 >> 8 ) & 0xff;
1023                 C[4] = ( tmp4 >> 16 ) & 0xff;
1024                 B[3] = p_css_tab1[ B[4] ] ^ k[4] ^ C[4];
1025                 k[3] = p_disc_key[2] ^ p_css_tab1[ p_disc_key[3] ] ^ B[3];
1026                 B[2] = p_css_tab1[ B[3] ] ^ k[3] ^ C[3];
1027                 k[2] = p_disc_key[1] ^ p_css_tab1[ p_disc_key[2] ] ^ B[2];
1028
1029                 if( ( B[1] ^ p_css_tab1[ B[2] ] ^ k[ 2 ]  ) == C[ 2 ] )
1030                 {
1031                     if( ! investigate( &p_disc_key[0] , &C[0] ) )
1032                     {
1033                         goto end;
1034                     }
1035                 }
1036
1037                 /* Test second possible out2[4] */
1038                 out2[4] = ( out2[4] + 0xff ) & 0xff;
1039                 tmp4 = ( out2[0] << 16 ) | ( out2[1] << 8 ) | out2[4];
1040                 tmp4 = BigTable[ tmp4 ];
1041                 C[2] = tmp4 & 0xff;
1042                 C[3] = ( tmp4 >> 8 ) & 0xff;
1043                 C[4] = ( tmp4 >> 16 ) & 0xff;
1044                 B[3] = p_css_tab1[ B[4] ] ^ k[4] ^ C[4];
1045                 k[3] = p_disc_key[2] ^ p_css_tab1[ p_disc_key[3] ] ^ B[3];
1046                 B[2] = p_css_tab1[ B[3] ] ^ k[3] ^ C[3];
1047                 k[2] = p_disc_key[1] ^ p_css_tab1[ p_disc_key[2] ] ^ B[2];
1048
1049                 if( ( B[1] ^ p_css_tab1[ B[2] ] ^ k[ 2 ]  ) == C[ 2 ] )
1050                 {
1051                     if( ! investigate( &p_disc_key[0] , &C[0] ) )
1052                     {
1053                         goto end;
1054                     }
1055                 }
1056             }
1057         }
1058     }
1059
1060 end:
1061
1062     memcpy( p_disc_key, &C[0], KEY_SIZE );
1063
1064     free( K1table );
1065     free( BigTable );
1066
1067     return( 0 );
1068 }
1069
1070 /*****************************************************************************
1071  * CSSTitleCrack : title key decryption by cracking
1072  * Function designed by Frank Stevenson
1073  *****************************************************************************
1074  * This function is called by CSSGetTitleKey to find a title key, if we've
1075  * chosen to crack title key instead of decrypting it with the disc key.
1076  *****************************************************************************/
1077 static int CSSTitleCrack( int i_start,
1078                           unsigned char * p_crypted,
1079                           unsigned char * p_decrypted,
1080                           dvd_key_t * p_sector_key,
1081                           dvd_key_t * p_key )
1082 {
1083     unsigned char p_buffer[10];
1084     unsigned int i_t1, i_t2, i_t3, i_t4, i_t5, i_t6;
1085     unsigned int i_try;
1086     unsigned int i_candidate;
1087     unsigned int i, j;
1088     int i_exit = -1;
1089
1090
1091     for( i = 0 ; i < 10 ; i++ )
1092     {
1093         p_buffer[i] = p_css_tab1[p_crypted[i]] ^ p_decrypted[i];
1094     }
1095
1096     for( i_try = i_start ; i_try < 0x10000 ; i_try++ )
1097     {
1098         i_t1 = i_try >> 8 | 0x100;
1099         i_t2 = i_try & 0xff;
1100         i_t3 = 0;               /* not needed */
1101         i_t5 = 0;
1102
1103         /* iterate cipher 4 times to reconstruct LFSR2 */
1104         for( i = 0 ; i < 4 ; i++ )
1105         {
1106             /* advance LFSR1 normaly */
1107             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
1108             i_t2 = i_t1 >> 1;
1109             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
1110             i_t4 = p_css_tab5[i_t4];
1111             /* deduce i_t6 & i_t5 */
1112             i_t6 = p_buffer[i];
1113             if( i_t5 )
1114             {
1115                 i_t6 = ( i_t6 + 0xff ) & 0x0ff;
1116             }
1117             if( i_t6 < i_t4 )
1118             {
1119                 i_t6 += 0x100;
1120             }
1121             i_t6 -= i_t4;
1122             i_t5 += i_t6 + i_t4;
1123             i_t6 = p_css_tab4[ i_t6 ];
1124             /* feed / advance i_t3 / i_t5 */
1125             i_t3 = ( i_t3 << 8 ) | i_t6;
1126             i_t5 >>= 8;
1127         }
1128
1129         i_candidate = i_t3;
1130
1131         /* iterate 6 more times to validate candidate key */
1132         for( ; i < 10 ; i++ )
1133         {
1134             i_t4 = p_css_tab2[i_t2] ^ p_css_tab3[i_t1];
1135             i_t2 = i_t1 >> 1;
1136             i_t1 = ( ( i_t1 & 1 ) << 8 ) ^ i_t4;
1137             i_t4 = p_css_tab5[i_t4];
1138             i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
1139                                          i_t3 ) >> 8 ) ^ i_t3 ) >> 5 ) & 0xff;
1140             i_t3 = ( i_t3 << 8 ) | i_t6;
1141             i_t6 = p_css_tab4[i_t6];
1142             i_t5 += i_t6 + i_t4;
1143             if( ( i_t5 & 0xff ) != p_buffer[i] )
1144             {
1145                 break;
1146             }
1147
1148             i_t5 >>= 8;
1149         }
1150
1151         if( i == 10 )
1152         {
1153             /* Do 4 backwards steps of iterating t3 to deduce initial state */
1154             i_t3 = i_candidate;
1155             for( i = 0 ; i < 4 ; i++ )
1156             {
1157                 i_t1 = i_t3 & 0xff;
1158                 i_t3 = ( i_t3 >> 8 );
1159                 /* easy to code, and fast enough bruteforce
1160                  * search for byte shifted in */
1161                 for( j = 0 ; j < 256 ; j++ )
1162                 {
1163                     i_t3 = ( i_t3 & 0x1ffff) | ( j << 17 );
1164                     i_t6 = ((((((( i_t3 >> 3 ) ^ i_t3 ) >> 1 ) ^
1165                                    i_t3 ) >> 8 ) ^ i_t3 ) >> 5 ) & 0xff;
1166                     if( i_t6 == i_t1 )
1167                     {
1168                         break;
1169                     }
1170                 }
1171             }
1172
1173             i_t4 = ( i_t3 >> 1 ) - 4;
1174             for( i_t5 = 0 ; i_t5 < 8; i_t5++ )
1175             {
1176                 if( ( ( i_t4 + i_t5 ) * 2 + 8 - ( (i_t4 + i_t5 ) & 7 ) )
1177                                                                       == i_t3 )
1178                 {
1179                     (*p_key)[0] = i_try>>8;
1180                     (*p_key)[1] = i_try & 0xFF;
1181                     (*p_key)[2] = ( ( i_t4 + i_t5 ) >> 0) & 0xFF;
1182                     (*p_key)[3] = ( ( i_t4 + i_t5 ) >> 8) & 0xFF;
1183                     (*p_key)[4] = ( ( i_t4 + i_t5 ) >> 16) & 0xFF;
1184                     i_exit = i_try + 1;
1185                 }
1186             }
1187         }
1188     }
1189
1190     if( i_exit >= 0 )
1191     {
1192         (*p_key)[0] ^= (*p_sector_key)[0];
1193         (*p_key)[1] ^= (*p_sector_key)[1];
1194         (*p_key)[2] ^= (*p_sector_key)[2];
1195         (*p_key)[3] ^= (*p_sector_key)[3];
1196         (*p_key)[4] ^= (*p_sector_key)[4];
1197     }
1198
1199     return i_exit;
1200 }