Зададим теперь преобразования зашифрования f и преобразования расшифрования g для произвольного шифра гаммирования. Пусть:

• необходимо зашифровать сообщение  X =x1  , … , xn   в алфавите Ω ={a1,…an}

• n - мощность алфавита.

• Каждая буква отождествляется со своим порядковым номером в алфавите.

• Выберем  некоторую  последовательность,   составленную  из  букв

Ω:      , … ,       -  данная последовательность называется гаммой шифра, или ключевой последовательностью.

Тогда преобразованием зашифрования будет являться преобразование, при котором i-ая буква шифртекста yi  равна:           yi = fki(xi) =rn(xi +yi),

где  ki =yi - используемый знак гаммы последовательности для шифрования i-той буквы сообщения  xi: rn (b) - остаток от деления числа b числа на n (полагаем, что  rn (n)  =n  ).

Итак, зашифрование шифром гаммирования означает «сложение» или, как говорят, «наложение» некоторой последовательности (гаммы) на знаки (буквы) открытого текста. Очевидно, что в таком случае для расшифрования нужно вычесть из букв шифртекста знаки гаммы:    xi = gki(yi) =rn(yi -  yi),

 Соответственно, в силу сказанного, весь отрезок гаммы (то есть вся последовательность) является ключом данного шифра, именно поэтому ее называют ключевой последовательностью.

Отметим, что аналогичные формулы для шифрования и расшифрования мы видели на прошлом занятии, когда рассматривали сдвиговые шифры. Все дело в том, что сдвиговый шифр на самом деле является частным случаем шифра гаммирования, когда вся гамма представляется одним и тем же значением k (то есть, другими словами, когда все элементы гаммы равны k).

На данной схеме изображен процесс зашифрования сообщения шифром гаммирования.