Родился в селе Круглоозерка Ново-Николаевской губернии. До войны с семьей приехал в Прокопьевск. Окончил школу фабрично-заводского обучения и работал забойщиком. В декабре 1942 года получил повестку Прокопьевского военкомата о призыве на срочную службу.

Алексей Губко прошел боевой путь от Варшавы до Берлина заряжающим СУ-76 (самоходной установки с орудием 76,2 мм) 97-го отдельного самоходного артиллерийского дивизиона 95-й стрелковой Верхнеднепровской Краснознаменной ордена Суворова дивизии. За годы войны в составе 1-го и 2-го белорусских фронтов младший сержант Губко уничтожил десятки фашистских танков, сотни солдат и офицеров противника.

В первом сражении в сентябре 1944 года на подступах к Варшаве танковый экипаж, где гвардии рядовой Губко был наводчиком, вывел из строя 6 танков противника, несколько противотанковых орудий и бронетранспортеров.

16 января 1945 года в бою за местечко Илжа своим расчетом уничтожил 3 станковых пулемета, 75-мм орудие, 20 фашистов. В боях за деревню Русский Бруд 19 января 1945 года, будучи наводчиком огнем из своего орудия уничтожил 3 ручных пулемета, 20-мм пушку, 2 тягача, 8 автомашин, и до 30 солдат и офицеров противника.

В бою за кирпичный завод восточнее деревни Хоэнвальде 21 апреля 1945 года на СУ-76 ворвался в расположение немцев, огнем и гусеницами уничтожил два 75-мм орудия, 3 миномета, 6 гранатометчиков-фауст, 3 станковых пулемета и более 30 солдат и офицеров противника. В бою за деревню Бигенбрюк 24 апреля 1945 года, ворвавшись с тылу в расположение врага, огнем орудия и гусеницами уничтожил три 75-мм орудия, 1 миномет, 6 станковых пулеметов и 50 гитлеровцев. Сам из автомата в упор расстрелял 3 солдат и офицера.

Бесстрашный заряжающий СУ-76 награжден правительственными наградами: орденом Красной Звезды (06.02.1945), орденом Отечественной войны II степени (05.05.1945).

Демобилизовавшись, Алексей Иванович вернулся в Прокопьевск. Но фронтовые ранения не позволили работать в шахте, и он долгие годы трудился на колхозных полях.