Родился 23 декабря 1922 года в селе Лучшево Прокопьевской волости Томской губернии (ныне г. Прокопьевск Кемеровской области). В сентябре 1941 года, окончив Киевское военно-пехотное училище, ушел на фронт. Ивану было 19 лет.

28 октября 1941 года был зачислен в состав 320-го стрелкового полка 11-й стрелковой дивизии 14-го гвардейского стрелкового корпуса. В мае 1942 года младший лейтенант Черемных был назначен командиром взвода пешей разведки.

Лейтенант Иван Черемных воевал на Ленинградском, 2-м и 3-м Прибалтийском фронтах. Сражался под Ленинградом, Новгородом и Ропшей, принимал участие в Нарвской, Прибалтийской, Рижской и Курляндской наступательных операциях в составе 21-й стрелковой дивизии НКВД, 324-й стрелковой дивизии, 11-ой стрелковой Ленинградско-Валгинской дивизии.

При выполнении задачи 15 апреля 1944 года по захвату пленного Иван Иванович возглавил группу разведчиков и огнём своего автомата уничтожил одного противника. Задача была выполнена – взяты в плен 2 немецких солдата. За проявленную отвагу лейтенант Черемных был удостоен ордена Красной Звезды.

В конце 1944-начале 1945 года 11 – я стрелковая Ленинградско-Валгинская дивизия вела бои на территории Латвии. В ночь на 1 января 1945 года перед разведгруппой была поставлена задача – уточнить огневую систему противника и захватить пленного. Выйдя на исходное положение после артиллерийского налёта, лейтенант Черемных, командир взвода 33-й отдельной разведывательной роты, дал команду сделать бросок на огневую точку противника. Во время броска разведгруппа наскочила на наше минное поле. Лейтенант отдал приказ разминировать поле и сделать проход, что позволило прорваться в траншею противника. Разведгруппой были подорваны два блиндажа, уничтожен находившийся там гарнизон, захвачены пленные, взяты документы. Задача была выполнена. За чёткую организацию, храбрость и отвагу лейтенант Черемных был удостоен второго ордена Красной Звезды.

19 февраля 1945 года перед разведгруппой Черемных была поставлена задача – обеспечить левый фланг дивизии прикрытием, пройти передний край противника, прочесать лес, обороняющий противника, с захватом пленного. Пройдя до леса, разведгруппа навязала бой противнику, в результате которого были уничтожены 12 немецких солдат. Лейтенант Черемных лично уничтожил пятерых. Во время боя Иван Иванович был ранен, но продолжил выполнение поставленной боевой задачи. Углубляясь к опушке леса, разведчики попали под автоматный огонь противника. Но, благодаря умению грамотно командовать и личной храбрости лейтенанта Черемных, группа противника в составе 18-20 человек была уничтожена, в плен взято пять немецких солдат. В этом бою Черемных получил второе тяжелое ранение. За успешное выполнение боевой задачи лейтенант Черемных был награждён орденом Отечественной войны II степени.

За всю войну Иван Иванович был трижды ранен, дважды контужен. Потом, всю свою жизнь, носил в себе эти осколки, как эхо прошедшей войны. Закончил службу в январе 1946 года в должности командира разведывательной роты.

После войны Иван Иванович продолжал отдавать свой долг Родине, работая до последних лет жизни на предприятиях города Прокопьевска. С 1971 по 1991 годы работал механиком по ремонту счетных машин в Кузнецком научно-исследовательском и проектно-конструкторском институте углеобогащения («КузНИИУглеобогащение»). И здесь он не мог быть просто работником. Принимал активное участие в спортивной жизни города, являясь участником сборной команды по русскому хоккею, занимая призовые места в зимних спартакиадах городов Кузбасса.

Черемных Иван Иванович награжден орденом Отечественной войны II степени (04.06.1945), двумя орденами Красной Звезды (18.04.1944, 11.01.1945), медалями «За оборону Ленинграда» (03.06.1943), «За победу над Германией в Великой Отечественной войне 1941-1945 гг».