В чём принципиальные отличия винХР и винСервер 2003
Оптимизация + много чего в одной коробке.
Сервер уже стоит на нём установлен Керио, но к сожелению он не справляется с возложенными на него обязанностями.
Что именно? В качестве фаервола советую wipfw.
Что касается автоматического разделения скорости:
Интересует именно канал или только доступ в интернет и по фтп? Для интернета достаточно прокси-сервера, например, squidnt, как сказал
Fox. Сквид и шейпит, и по дням делит + есть кэш, что неплохо для небольшой сети. Большинство ФТП серверов также сами делят доступ в зависимости от требований.
А вообще шейпинг прилично грузит систему.
всем этим требованиям уторент соотстветствует.
Он лучший

Для раздачи в сеть скаченной информации будет использоваться хаб.
Директ коннект? Зачем? Для 10-20 человек достаточно только фтп.
И всё это всё таки хочется с адекватным интерфейсом, а не через суровую командную строку.
Тот же rdp из коробки или rfb, который использует vnc.
Для командной строки telnet или ssh. Желательно второе.
ЗЫ Наверное пора тему в открытый раздел.