Родился 14 августа 1905 года в Калужском уезде, дер. Наволоки. Русский.
Рос в крестьянской семье. После двухлетней учёбы в калужском «выше-начальном училище» в 1919 году поступил на работу учеником столяра электромеханических мастерских ШМ СВЖД в Калуге, где проработал до 1924 года, после чего был избран ответственным секретарём ячейки ВЛКСМ.
В 1924-1929 годах на комсомольской работе в Калужской и Смоленской областях. В 1925 году избран ответственным секретарём месткома. Вступил в ВКП(б) в том же году. С мая 1926 года работал председателем экономического отдела райкома ВЛКСМ (выписка из автобиографии от 23/VI-1926 г.)
В 1929 году переведён в РККА, политработник. Учился в Военно-политической академии имени Толмачева в Ленинграде, окончил её в 1938 году. На последнем курсе был исключён из партии, но после постановления ЦК ВКП(б) о перегибах восстановлен.
В мае 1938 года зачислен в Главное разведывательное Управление Красной Армии. Назначен начальником политотдела Разведывательного управления РККА. С августа 1942 по июль 1945 года был начальником Главного разведывательного управления Наркомата обороны СССР.
В 1948 году перешёл на работу в центральный аппарат Министерства иностранных дел СССР.
В 1949-1952 годах — заместитель политического советника Советской контрольной комиссии в Германии. В 1952-1953 годах возглавлял дипломатическую миссию в ГДР. Воинское звание – генерал-лейтенант.
В 1953-1956 гг.— верховный комиссар, Посол СССР в Австрии (с 13.06.1953 по 31.03.1956).
В 1956 г. — заведующий отделом Скандинавских стран, в 1956-66 гг. — 3-м Европейским отделом МИД СССР.
В 1966-1968 гг. — посол в Дании.
С 1968 года работал в центральном аппарате МИД.
Вышел в отставку в 1975 году.
Награждён орденом Ленина (05.11.1954), орденом Октябрьской Революции (14.08.1975), двумя орденами Красного Знамени (22.02.1944, 15.11.1950), орденом Кутузова I-й степени (01.09.1945), орденом Отечественной Войны I-й степени (29.07.1944), двумя орденами Трудового Красного Знамени, двумя орденами Красной Звезды (14.06.1940, 03.11.1944) и многими медалями.
Умер Иван Иванович 2 сентября 1983 года.