Padre Iosif nasce nel villaggio di Storožreby, governatorato di Polock. Conclude gli studi presso il seminario di Žitomir. Nel 1913 è ordinato sacerdote cattolico di rito latino. Nel 1920 espatria in Polonia assieme all’esercito polacco in ritirata, ma nel 1921, su indicazione del vescovo Dub-Dubovskij, ritorna in Ucraina clandestinamente. Esercita il ministero presso la chiesa cattolica del villaggio di Machnovka, decanato di Berdičev. Il 26 ottobre 1929 viene arrestato nell’ambito dell’inchiesta collettiva sul clero cattolico in Ucraina, accusato di attività controrivoluzionaria a sfondo nazionalistico fra i suoi parrocchiani di origine polacca.
Il 12 maggio 1930 è condannato a 10 anni di lager. Il 26 maggio 1930 è trasferito nella prigione politica di isolamento di Jaroslavl’ e in ottobre alle isole Solovki. Nel gennaio 1934 è a Kem’. Nel 1937 è arrestato in lager. Il 9 ottobre dello stesso anno viene condannato, come tanti in quell’anno, alla pena capitale.
Padre Iozef Karpinskij viene fucilato il 3 novembre 1937.