行政拘留暂缓后，行政拘留处罚撤销的或开始执行拘留的，保证金予以退还，逃避行政拘留处罚的执行的，保证金不予退还。

法律依据：《治安管理处罚法》第一百一十条：被决定给予行政拘留处罚的人交纳保证金，暂缓行政拘留后，逃避行政拘留处罚的执行的，保证金予以没收并上缴国库，已经作出的行政拘留决定仍应执行。