Уроженец станицы Ильиновская Кизлярского района. Рос в семье железнодорожника. После переезда в Туапсе в 1917 году, устроился в паровозное депо Черноморской железной дороги. Освоил профессию токаря, слесаря по ремонту подвижного состава, машиниста. В годы Гражданской войны служил в партизанском отряде, вместе с частями Красной Армии освобождал Туапсе от интервентов и белобандитов. 

Прошел путь от секретаря райкома комсомола до заведующего отделом райкома партии. Занимал руководящие должности в ведомстве путей сообщения в Уфе, Сталинграде. 
В 1934 году в числе 1000 лучших специалистов был направлен в Сибирь для осуществления грандиозного плана - превращения Кузбасса во второй Донбасс. В молодой развивающийся шахтерский город Прокопьевск требовались высококлассные специалисты-строители. Иван Концевич возглавил строительство трамвая. В 1937 году был избран депутатом Верховного Совета СССР. 
В годы Великой Отечественной войны Иван Михайлович возглавляет самые напряженные участки железнодорожного сообщения юга европейской части России, снабжающие техникой и боеприпасами действующую армию. Работает на Северо-Кавказской железной дороге, возглавляет отделение Черноморской группы войск Закавказского фронта. В 1944 - 1945 годах Иван Михайлович - заместитель начальника «Мостостроя» № 1 Министерства путей сообщения СССР, затем начальник мостопоезда № 425 в Киеве. 
В 1949 году правительство СССР направляет его уполномоченным представителем транспортного отдела Советской контрольной комиссии в Германию. 
В январе 1958 года Иван Михайлович Концевич вышел на пенсию, продолжал активно заниматься общественной работой. В 1974 году завершил свой жизненный путь в Киеве. Похоронен на мемориальном Байковом кладбище.