劳动仲裁不予执行当时是可以向法院起诉。根据我国《民事诉讼法》的规定仲裁裁决被法院裁定不予执行之后，当事人之间可以达成新的仲裁协议，也可以向法院提起诉讼。

【法律依据】

《民事诉讼法》第二百七十五条，仲裁裁决被人民法院裁定不予执行的，当事人可以根据双方达成的书面仲裁协议重新申请仲裁，也可以向人民法院起诉。