Padre Jakov nasce nel villaggio di Marienfel’d. Conclude gli studi presso il seminario di Saratov e li perfeziona all’Accademia teologica di Pietroburgo. Nel 1909 è ordinato sacerdote cattolico di rito latino. Dal 1912 esercita il ministero nel villaggio di Jamburg e dal 1928 è parroco nella chiesa di Kamenskoe, nei pressi di Dnepropetrosk, dove il 12 ottobre 1929 viene arrestato. Nel febbraio 1930 è condannato a 5 anni di lager da scontare alle isole Solovki, dove giunge il 23 aprile 1930. Nel 1932 è trasferito all’isola di Anzer, dove il regime carcerario è di maggior rigore, e qui viene arrestato nell’ambito dell’inchiesta collettiva del clero cattolico, accusato di «aver creato un’associazione che svolge propaganda antisovietica e celebra in segreto riti teologici (sic) e religiosi ed ha stabilito contatti illegali con l’esterno per trasmettere all’estero informazioni di carattere spionistico sulla situazione dei cattolici nell’URSS».
Durante l’inchiesta padre Jakov dichiara: «Per quanto riguarda il cattolicesimo, io resto sulle mie convinzioni. Resto sempre lo stesso credente che ero sia prima dell’arresto, che prima della reclusione in lager. Non provo odio contro il potere sovietico, ma non sosterrò mai l’ateismo e non andrò mai contro la mia coscienza». L’istruttoria chiede un prolungamento della pena a 10 anni, ma la richiesta non viene accolta e padre Jakov rimane alle Solovki con la condanna precedente.
Nel novembre 1933 viene liberato con il divieto di abitare nelle sei città maggiori per 5 anni. Dal 1934 si stabilisce a Kursk, dove la notte fra il 6 e il 7 dicembre 1937 viene nuovamente arrestato come «agente dello spionaggio polacco e tedesco e come membro di un’associazione fascista-spionistica». Il 2 gennaio 1938 è condannato alla pena capitale e il 10 aprile padre Jakov Rozenbach viene fucilato.