Образована в августе 1939 года в Штутгарте. В дивизию призывались жители провинции Баден-Вюртемберг, что послужило причиной появления на эмблеме дивизии Ульмского собора.

Дивизия участвовала во вторжении во Францию и с лета 1940 до весны 1941 года находилась на оккупированных территориях, после чего была переброшена на восточный фронт в состав группы армий «Центр». Участвовала в Белостокско-Минском сражении (в составе XIII армейского корпуса), штурме Могилёва и в наступлении на Рославль (в составе VII армейского корпуса), затем в боях под Ельней, Вязьмой (в составе XX армейского корпуса). С конца октября по середину декабря 1941 года дивизия в составе 9-го армейского корпуса действовала под Москвой в районе Звенигорода.

В ноябре 5-я пехотная дивизия была выведена во Францию и переформирована в 5-ю легкопехотную дивизию для действий в условиях низкогорья, причём 14-й пехотный полк был передан 78-й пехотной дивизии.

Со второй половины декабря 1941 года по 16 января 1942 года занимала оборону вдоль реки Рузы к северу от одноимённого города. С 17 января по 24 января 1942 года отходила на Гжатскую линию обороны, где заняла позиции на Минском шоссе. Летом 1942 года была переброшена в район Ржева. В 1942 году во время первой атаки советских войск на Ржев понесла очень тяжёлые потери.

В начале 1943 года дивизия была переименована в штурмовую дивизию, а вместо Ульмского собора на эмблеме дивизии появился стальной кулак (нем. Panzerfaust). Дивизия была оснащена гренадерским вооружением и серьёзно реорганизована, после чего была переведена в 9-ю армию в составе 23-го корпуса. Участвовала в боях на Курской дуге, после отступления была переведена во 2-ю танковую армию в июле, затем в 4-ю армию в сентябре.

В июне - июле 1944 года дивизия занимала Оршу и обороняла стратегически важную дорогу из Москвы в Минск. В ходе боёв дивизия была почти полностью уничтожена, попав в окружение. В ночь с 5 на 6 июля 1944 года солдаты сдались в плен, и лишь немногие выжившие смогли вырваться из кольца окружения. Впоследствии все они вошли в состав 565-й пехотной дивизии.