НР конечно давал рекомендации по настройке, но с того момента много времени прошло и JVM поднялась с 3 версии до 7, появилось другое "железо", а у кого и виртуалки.
Cразу хочу отметь, что настройки на разные платформы, операционные системы, да даже просто одинаковы сервера будут отличатся, так что то что хорошо для sun , совсем может не подходить для windows.
Так как я "живу" на Windows, то и все мои примеры будут связанны только с ним. Ява будет 1.6.30, т.к. в ней содержится много нового по алгоритмам и исправлены баги относительно работы с HotSpot.
Для полного понимания о JVM и HotSpot советую прочитать статьи Производительность Java SE 6 , Java HotSpot VM Options, Java Tuning White Paper.
Приготовьтесь к тому что это дело не на 5 минут, настройка потребует несколько дней, по простой причине что надо делать нагрузочные тесты, только тогда можно увидеть реальный результат.
Для настройки вам потребуется программный инструмент для анализа настройки и процессов, и лучше если он будет графический, тогда и картина происходящего будет яснее. Скачайте JDK или воспользуйтесь VisualVM. В JDK входит jvisualvm.exe, я буду использовать его. Это весьма неплохой софт предназначенный для настройки и нахождения "узких" мест в производительности приложений написанных Ява. Для работы с jvisualvm придётся остановить СД сервер если он работает как сервис и запустить его с командной строки или через bat, тогда jvisualvm сможет "увидеть" как работает jvm под нашим сервером.
Запустите jvisualvm и СД Сервер, в левой части окна увидите список работающих jvm, com.hp.startup.Bootstrap и есть запущенный сервер, можете сравнить по номеру pid с диспетчером задач.
