Решение задачи будет гораздо проще, если заметить, что остаток от деления шестнадцатеричного числа на 5 совпадает с остатком от деления на 5 его суммы цифр.
Действительно, доказываем по индукции:
Для числа из одной цифры это тривиально: число из одной цифры совпадает со своей суммой цифр.
Переход: пусть число из k цифр ...xyz дает такой же остаток при делении на 5, что и сумма цифр ... + x + y + z. Покажем, что число из (k + 1) цифры ...xyzt дает такой же остаток, что и сумма цифр ... + x + y + z + t: ...xyzt = 16 * ...xyz + t = 15 * ...xyz + (...xyz + t). Первое слагаемое делится на 5, второе по предположению дает такой же остаток, что и (... + x + y + z) + t, что и требовалось.
У любой перестановки сумма цифр такая же, так что и остатки от деления на 5 совпадают. Так что осталось найти сумму цифр исходного числа и найти остаток от деления её на 5, это и будет ответом.
Конечно, используем, например мы сомневаемся, какую гласную писать в корне, для этого подбираем проверочное слово и выбираем букву. Или сомневаемся писать н или нн , тогда рассматриваем поочерёдно алгоритмы написания и смотрим подходит ли или нет к нашему случаю и как только найдём нужный случай выбираем, сколько букв н надо писать.