Был приглашён в Россию в 1782 году, где был назначен обер-берг-гауптманом и избран в члены-корреспонденты Академии наук. В 1790 году назначен ординарным академиком по кафедре минералогии.
Иван Герман фотография
И. Ф. Герман известен как начальник екатеринбургских железных заводов, которые частью усовершенствовал и расширил.
В 1800-х годах занимался изучением и описанием Олонецких горных заводов. Герман помещал статьи в «Nova Acta» Акад., т. VI—XIV, в «Chemische Annalen» Креля и других журналах.
Иван Филиппович Герман был членом Венского и Петербургского экономических, Иенского минералогического учёных обществ, а также Геттингенского, Пражского и Берлинского обществ естествоиспытателей.
С 1787 года был женат на Елизавете Гавриловне Качка, дочери тайного советника Г. С. Качка. По словам Вигеля, она была «дама рыжеволосая и рябины на лице её спорили за место с веснушками; будучи очень тучной, она обладала великой телесной силой, ибо носила свою толщину с необычайной живостью и ловкостью». В браке имели 7 детей, из которых отца пережили сыновья Фридрих (Фёдор), Франц и Бернгард и дочь Мария Шарлотта.