Родился 5 июня 1907 года в поселке Волховский фарфоро-фаянсовой фабрики Новгородской губернии в семье рабочего. В 1920 г. – разнорабочий фабрики, с 1923 г. – счетовод, секретарь и председатель фабричного комитета спичечной фабрики «Пролетарское знамя». В 1925 г. вступает в члены РКП (б). С 1926 г. Л.Г. Грачев – член президиума губернского отдела профсоюза рабочих химической промышленности, с 1929 г. – председатель окружного отдела просвещения, с 1930 г. – секретарь парткома, директор Окуловского целлюлозно-бумажного комбината Наркомата лесной промышленности СССР. В 1937-38 гг. управляющий трестом «Севзаплес» в Ленинграде, в 1938-39 гг. – директор Камского целлюлозно-бумажного комбината в Краснокамске.
В 1939 г. Л.П. Грачев переведен в Наркомат лесной промышленности СССР начальником Главлессбыта, позже назначен заместителем наркома, а в ноябре 1941 г. – первым заместителем наркома лесной промышленности СССР. В ноябре 1941 г. отправлен на фронт – был членом Военного совета 4-й отдельной армии, зам. командующего войсками Волховского и Ленинградского фронтов по тылу. С 1944 г. работает 1-м заместителем наркома целлюлозно-бумажной промышленности СССР. Одновременно с 1945 г. – уполномоченный Особой комиссии при СНК СССР в Германии.
С 1946 г. Л.Г. Грачев – заведующий ОГИЗ СССР, начальник Главполиграфиздата при Совмине СССР. С декабря 1947 г. – министр целлюлозно-бумажной промышленности СССР, с 1948 г. – директор Госторгиздата. В 1949 г. Леонид Павлович окончил заочную Высшую партийную школу при ЦК ВКП (б). С мая 1957 г. – директор издательства «Известия». С августа 1977 г. – персональный пенсионер союзного значения.
Награжден орденами Ленина, Октябрьской революции, Отечественной войны 1-й степени, двумя орденами Трудового Красного Знамени. Похоронен в Москве на Новодевичьем кладбище.
В доме с 1941 г. проживал с женой Олимпиадой Владимировной и дочерью Ириной в квартире № 181.