Иван Дмитриевич Шмелёв родился 1 (14 июня) 1912 года в Воронеже в многодетной семье рабочего-литейщика.После окончания семилетней школы учился в фабрично-заводском училище, работал слесарем на паровозоремонтном заводе.
Как активный участник заводской художественной самодеятельности был направлен на учёбу в Воронежский музыкальный техникум.
Затем учился в Московской консерватории.
Как профессиональный певец дебютировал в 1939 году.
В годы войны выступал на фронтах и в тылу с концертным ансамблем под управлением С.Юткевича.
В последующие годы - солист Всесоюзного радио и Гастрольбюро СССР.
Основу его репертуара составляли русские народные песни и лирические песни советских композиторов.
Лауреат 2-го Всесоюзного конкурса артистов эстрады (1946).
Умер 30 мая 1960 года в Москве. Похоронен в колумбарии Донского монастыря.