к сути
я вот определил частоты букв в тексте, взял две пары напримеры индексы получаются
x-y
20-31
31-14
и подставил их в систему
Y*=a X* + b (mod m)
Y**=a X** + b (mod m)
уравнение для решения а
получилось а=(-11)^-1 * 17 mod 32 это правильно? и тогда а=13
тогда b=31-13*20 mod 32 = -5
Xi = a-1(Yi - b) (mod m)
xi=5(yi+5) mod 32
ЗЫ пока писал кажется понял, если что-то неправильно плз скажите