Родился 15 января 1897 года в Саратовской области. Еще подростком вместе с родителями переехал в село Большая Талда. Был участником Гражданской войны, воевал в дивизии Сергея Лазо на Востоке.

На фронте Великой Отечественной войны с 26 июля 1941 года. Призван Прокопьевским РВК. Воевал, защищая Заполярье, в составе 1219-го стрелкового полка 367-й стрелковой дивизии Карельского фронта.

Ездовой батареи 45-мм пушек ефрейтор Ледяев четко и добросовестно относился к своим обязанностям. Кони, за которыми он ухаживал, содержались в чистоте и являлись лучшими по упитанности в батарее. Благодаря его заботливому уходу, кони не имели ни единой потертости, совершая длительные переходы в труднейших условиях и бездорожье. Амуниция содержалась в образцовом порядке. Боевые задачи, поставленные перед орудийным расчетом, выполнялись в срок, благодаря своевременной подаче лошадей ездовым Ледяевым. За добросовестное выполнение своих служебных обязанностей рядовой Яков Ледяев был удостоен медали «За боевые заслуги».

Закончил войну в Венгрии. После войны жил и работал в Прокопьевске.

Боевые награды: медали «За боевые заслуги» (06.11.1944), «За оборону Советского Заполярья» (24.06.1945), «За взятие Будапешта».