Родился в г. Шуша Нагорного Карабаха в семье портного. Учился в Баку в церковно-приходской школе при русской церкви, затем в вечерней гимназии. Начал работать с января 1915 г. Участник борьбы за советскую власть в Азербайджане. Член Коммунистической партии с июля 1918 г. С конца 1918 г. работал в Бакинском подполье, в 1919 г. секретарь подпольного Городского райкома партии. В 1921 г. деле-гат Х съезда партии. В том же году — участковый организатор, заместитель заведующего Замоскворецкого райкома РКП(б) Москвы.
В 1921-27 гг. И.Ф. Тевосян — студент Московской горной академии. С июля 1927 г. инженер завода «Электросталь» Московской области. В сентябре 1929 — ноябре 1930 гг. прошел стажировку на заводах Германии, Чехословакии, Италии. С ноября 1930 г. главный инженер завода «Электросталь». В 1931-36 гг. возглавляет созданное по его предложению объединение заводов качественных сталей и ферросплавов «Спецсталь». В 1936 г. Тевосян организует и возглавляет главк по производству брони. Далее он назначается руководителем судостроительного главка и одновременно с октября 1937 г. первым заместителем Наркома оборонной промышленности СССР.
В 1939-40 гг. И.Ф. Тевосян — Нарком судостроительной промышленности СССР. На этом посту он впервые осуществляет развернутую программу строительства флота — линкоров, крейсеров, подводных лодок, ледоколов. В 1940-48 гг. Народный Комиссар (с марта 1946 г. — Министр) черной металлургии СССР. К началу войны с Германией черная металлургия смогла обеспечить металлом нужды фронта. К концу 1943 г. военная промышленность СССР превзошла Германию по количеству и качеству военной техники. В 1943 г. за особые заслуги перед государством И.Ф.Тевосяну, одному из первых в стране, было присвоено звание Героя социалистического труда.
В 1949-53 гг. И.Ф. Тевосян — заместитель Председателя Совета Министров СССР. В последние два года жизни — посол СССР в Японии в первом послевоенном посольстве.
И.Ф. Тевосян награжден пятью орденами Ленина, тремя орденами Трудового Красного Знамени.
Умер Иван Федорович Тевосян 30 марта 1958 г. Захоронен на Красной площади в Кремлевской стене.