Есть идея - амплитуду вообще не анализировать. А вот ШИМ организовать так - после того, как определилась частота - включаем соответствующий светодиод на максимум яркости, каждый последующий шаг в главном цикле для него - уменьшение значения ШИМа на определённую величину (от этого зависит плавность затухания). Если есть опять эта частота - опять включение максимальной яркости. При таком подходе ЦМУ будет работать при большом разбросе входных параметров звука и при этом оставаться с одной стороны - динамичной, т.к. сразу реагируем на определение частоты, так и достаточно плавной, а не дёрганой - за счёт постепенного затухания в каналах.
Далее, насчёт алгоритма самой работы всей программы.
По моему мнению, использовать 2 таймера нельзя. Мы будем ломать ШИМ!
В главном цикле анализируем флаг - срабатывание компаратора. Расчёт частоты здесь же, в главном цикле, при срабатывании этого флага. Для опознанного канала выставляем максимальную яркость, для остальных - уменьшаем значения на определённую величину - для плавного затухания. При срабатывании таймера Pulse увеличиваем 2 переменные - К для расчёта частоты и переменную для ШИМа. Если переменная для ШИМа стала 255 - сброс в 0. При совпадении значений яркости каналов с переменной ШИМа - соответственное манипулирование светодиодами. Также желательно ввести таблицу логарифмической зависимости яркости для более плавного затухания.
Надеюсь, описал более-менее понятно. Незнаю, смогу ли в ближайшие дни попробовать, но буду пробовать обязательно