Iosif nasce nel villaggio Egorievka (non si conosce l’anno di nascita). Durante la guerra civile combatte volontario in Crimea, quindi ritorna al villaggio d’origine e partecipa attivamente alle attività parrocchiali.
Nel 1930 viene arrestato per non aver pagato le tasse ed è condannato a un anno e otto mesi di lavori forzati. Dopo la liberazione si rivolge all’associazione cattolica «Fast e K» e alla Caritas tedesca per ottenere aiuto economico. Nel 1931 viene nuovamente processato «per avere sistematicamente ricevuto e distribuito denaro da organizzazioni fasciste della Germania, per aver diffuso gli indirizzi di queste organizzazioni, per aver propagandato l’idea che nella Germania fascista si vive meglio e per aver promosso letture collettive fra i kolchoziani del giornale tedesco “Kölnische Zeitung”». In seguito viene privato dei diritti civili «per aver svolto le funzioni del sacerdote». Secondo alcune fonti, in realtà, Erler aveva svolto le funzioni di responsabile laico della parrocchia, organizzando battesimi, dando sepoltura cristiana ai defunti e promuovendo momenti di preghiera comune.
Nel 1935 viene arrestato nell’ambito dell’inchiesta collettiva sui cattolici. Il 1° gennaio 1936 Iosif Fridrichovič Erler viene condannato alla pena capitale e fucilato (non si conosce la data esatta dell’esecuzione).