Родился в Дессау, в дворянской семье (титул райхсфрайхерр — имперский барон, титул присваивался только во времена Священной Римской империи, аристократический «предикат» с большим числом служебных слов «фон унд цу Вайхс ан дер Глон» значит «наследственный и владетельный дворянин имения Вайхс на реке Глон», в современной передаче — населённый пункт Вайкс, Бавария), отец — полковник. В июле 1900 года стал фанен-юнкером (кандидатом в офицеры) в баварском 2-м кавалерийском (кирасирском) полку. В марте 1902 года произведён в лейтенанты. С 1905 года на штабных должностях в кавалерии. Во время Первой мировой войны в звании ротмистра (капитана) служил на штабных должностях дивизионного уровня. Награждён Железными крестами обеих степеней и двумя баварскими орденами. Продолжил службу в рейсхвере, на штабных должностях. В 1928-30 годах командир кавалерийского полка. В 1930-33 годах вновь на штабных должностях (уровня дивизия, округ), затем командир кавалерийской дивизии (генерал-майор), с 1935 года — танковой (генерал-лейтенант, с октября 1936 — в звании генерал кавалерии). С октября 1937 — командующий 13-м армейским корпусом (Нюрнберг).

Командуя 13-м армейским корпусом, участвовал в Польской кампании, награждён планками к Железным крестам (повторное награждение).

С октября 1939 года — командующий 2-й армией. За Французскую кампанию награждён Рыцарским крестом, произведён в генерал-полковники

В апреле 1941 года участвовал в Балканской кампании, принимал капитуляцию югославской армии 16 апреля 1941 года.

Во время вторжения в СССР 2-я армия под командованием Вейхса действовала в составе группы армий «Центр».

С июля 1942 года командовал группой армий «B», наступавшей в направлении Волги. 1 февраля 1943 года произведён в генерал-фельдмаршалы.

В июле 1943 года Вейхс был назначен в резерв Главнокомандования, затем — командующим группой армий «F» на Балканах. В феврале 1945 года награждён Дубовыми Листьями к Рыцарскому кресту, 25 марта 1945 года — вновь отправлен в резерв.

2 мая 1945 года в Баварии взят в плен американцами.

Подвергался допросам в ходе Нюрнбергского процесса, но не был осуждён.