可以不关押，但是不能逃避刑罚，公安机关可以对哺乳期的犯罪嫌疑人取保候审。《中华人民共和国刑事诉讼法》第六十七条规定，人民法院、人民检察院和公安机关对有下列情形之一的犯罪嫌疑人、被告人，可以取保候审：
（一）可能判处管制、拘役或者独立适用附加刑的；
（二）可能判处有期徒刑以上刑罚，采取取保候审不致发生社会危险性的；
（三）患有严重疾病、生活不能自理，怀孕或者正在哺乳自己婴儿的妇女，采取取保候审不致发生社会危险性的；
（四）羁押期限届满，案件尚未办结，需要采取取保候审的。
取保候审由公安机关执行。

法律依据

《中华人民共和国刑事诉讼法》第六十七条 人民法院、人民检察院和公安机关对有下列情形之一的犯罪嫌疑人、被告人，可以取保候审：
(一)可能判处管制、拘役或者独立适用附加刑的;
(二)可能判处有期徒刑以上刑罚，采取取保候审不致发生社会危险性的;
(三)患有严重疾病、生活不能自理，怀孕或者正在哺乳自己婴儿的妇女，采取取保候审不致发生社会危险性的;
(四)羁押期限届满，案件尚未办结，需要采取取保候审的。
取保候审由公安机关执行。