Плясать надо скорее всего с биллингом. По-моему, такое умеет трафинспектор и керио (могу ошибаться), да и то только после некой авторизации клиента. То есть прошла авторизация - программа видит клиента и выделает ему канал, отрезая маленькую часть у остальных.
Но это все не имеет смысла. И вот почему:
я сам админю в небольшой гостинице. Когда заселение 100% основной пик трафика приходится на промежуток с 6 вечера до полуночи. Всегда по-разному. Максимум было замечено чуть больше 40 подключенных устройств. У нас канал в 15 мбит, и в часы пик скорость за 10 очень редко переваливала.
Объяснение тут простое. 95% подключенных устройств - это телефоны и планшеты. Качать что-то на телефон или планшет - ЧТО? что можно качать? Фильмы если только смотреть онлайн - смешной трафик. вконтакте лазить? одноклассники? инстаграм? фигня все это.
Не заморачивайтесь и не забивайте голову. Единственно, что можно сделать "на всякий случай" - ограничить скорость в пределах 2-4 мбит на каждого пользователя. Вдруг попадется ярый качальщик с ноутом, которого и порежет на эти 2-4 мбита, оставляя дышать всем остальным