W [[1941]], podczas [[planAtak BarbarossaNiemiec na ZSRR|agresji III Rzeszy na ZSRR]] był dowódcą [[4 Armia (III Rzesza)|4 armiiArmii]], która dotarła do bram [[Moskwa|Moskwy]] tak blisko, że na początku grudnia 1941 jej oficerowie mogli (przez [[lornetka|lornetki]]) widzieć na własne oczy [[Kreml moskiewski|Kreml]]. [[6 października]] [[1941]] wraz z 9 Armią gen. Straussa jego formacje okrążyły pod Wiaźmą część sił lewego skrzydła Frontu Zachodniego oraz Frontu Odwodowego. W tym też roku przyjął osobisty prezent Hitlera w postaci 250 000 marek. [[16 grudnia]] 1941 obejmujeobjął dowództwo G.nad A.Grupą "Mitte"Armii Środek. Miejsce to zajął po von Bocku. Później otrzymujeotrzymał on za zasługi na froncie wschodnim nagrodę 400 tys. Reichsmarek. Za otrzymane pieniądze kupił sobie nieduży majątek na [[Śląsk]]u.
Podczas [[Bitwa na Łuku Kurskim|bitwy na Łuku Kurskim]] ([[5 lipca]] [[1943]]) na pozycje Armii Czerwonej od północy nacierała G.Grupa A.Armii "Mitte"Środek pod jego dowództwem. Trzy dni po [[Operacja Husky|inwazji]] brytyjsko-amerykańskiej na [[Sycylia|Sycylię]], [[Adolf Hitler|Hitler]] rozkazał von Klugemu przerwać bitwę pod Kurskiem. W ostatniej dekadzie września wycofujewycofał on wojska ze [[Smoleńsk]]a w obawie przed okrążeniem. Jesienią dowództwo radzieckie planowało dokonanie uderzenia w rejonie [[Orsza|Orszy]], gdzie stacjonowała 4 Armia gen. [[Gotthard Heinrici|Gottharda Heinriciego]]. [[12 października]] rankiem, kiedy nad doliną Miereja unosiła się mgła, o godz. 9.00 wojska radzieckie rozpoczęły atak. Niemcy widząc, że w walkach bierze udział tylko polska dyw.dywizja im. T.Tadeusza Kościuszki, po dokonaniu kontrataku odbili Połzuchy. W listopadzie 1943 został zdjęty z zajmowanego stanowiska za krytykę decyzji Hitlera. [[27 października]] miał wypadek samochodowy, na skutek którego trafił do szpitala. Oficjalnie podano, że ten fakt był powodem opuszczenia stanowiska dowódcy G.Grupy A.Armii "Mitte"Środek.
Latem [[1944]] zostajezostał mianowany dowódcą G.Grupy A.Armii "D". Od [[3 lipca]] 1944 walczył już na zachodzie. Został mianowany Naczelnym Dowódcą Frontu Zachodniego. Objął to stanowisko po feldmarszałku von [[Gerd von Rundstedt|Rundstedcie]] odwołanym [[30 czerwca]] [[1944]]. Tego też dnia odbyło się w [[La Roche-Guyon]] pierwsze spotkanie Klugego z Rommlem.
Według danych [[Sicherheitsdienst|SD]] z 1944 Kluge przez całe życie był związany z (surowo zabronionym w III Rzeszy) [[Wolnomularstwo|wolnomularstwem]] i korzystając z tych kontaktów pertraktował z Aliantami. Przykładem tego może być zgoda na rozejm w celu wymiany rannych jeńców oraz personelu medycznego (pielęgniarek i "Blitzmädel") oraz zwłok poległych wyższych oficerów.
