Pada bagian ini kami menjelaskan beberapa metode untuk melakukan cryptanalysis Vigenere Cipher. Langkah pertama adalah menentukan panjang kata kunci, yang kami tunjukkan dengan m. Ada beberapa teknik yang bisa digunakan. Yang pertama adalah yang disebut tes Kasiski dan yang kedua menggunakan indeks kebetulan(Index of Coincidence).
Tes Kasiski pertama kali dijelaskan oleh Friedrich Kasiski pada tahun 1863. Hal ini didasarkan pada pengamatan bahwa dua segmen plaintext yang identik akan dienkripsi ke ciphertext yang sama setiap kali kemunculan mereka dalam plaintext adalah posisi x terpisah, di mana x ≡ 0 mod m. Sebaliknya, jika kita mengamati dua segmen ciphertext yang identik, masing-masing dengan panjang setidaknya tiga, katakanlah, maka ada peluang bagus bahwa mereka berhubungan dengan segmen plaintext yang identik.
Tes Kasiski bekerja sebagai berikut. Kami mencari ciphertext untuk pasangan segmen identik dengan panjang setidaknya tiga, dan mencatat jarak antara posisi awal dari dua segmen. Jika kita memperoleh beberapa jarak seperti d1, d2,. . . , maka kita akan menduga bahwa m membagi pembagi kesamaan terbesar dari di′s.
Bukti lebih lanjut untuk nilai m dapat diperoleh dengan indeks kebetulan. Konsep ini didefinisikan oleh Wolfe Friedman pada tahun 1920, sebagai berikut.
