Родился в г. Петриков Гомельской области Белоруссии в семье сапожника. Участник Гражданской войны. В юности служил в отряде ЧОН. В конце 20-х гг. служил в г. Минске заместителем командира по политической части кавалерийского полка. В 1933г. Иван Харитонович поступил учиться в Бронетанковую Академию на инженерное отделение. После окончания Академии в 1938 г. был направлен на работу в Совнарком в должности начальника танкового отдела. Во время Великой Отечественной Войны Иван Харитонович Рудько был переведен на работу в Госплан на должность начальника военного отдела. В 1959 г. направлен на работу в Генштаб заместителем начальника мобилизационного Управления, где и проработал до ухода на пенсию в 1961 году. Военное звание — генерал-майор.
В доме жил с 1939 года в кв. 399 с женой Надеждой Павловной и сыновьями Вячеславом и Виктором. В 1943 г. в семье появился третий сын — Юрий. Иван Харитонович ушел из жизни в 1969 году.