Ordinato sacerdote, padre Kiškis celebra nella parrocchia Kajšador in Lituania. Vi rimane anche durante l’occupazione sovietico e tedesca. Dopo il ritorno dell’Armata Rossa e il ristabilimento del potere sovietico, padre Kiškis viene arrestato assieme ad un gruppo di sacerdoti e laici cattolici (Processo “Matuljanis”) e il 27 settembre 1947 è condannato a 5 anni di lager.