未依法领取婚姻登记证书的情况下，当事人之间并不构成合法的婚姻关系，故无需履行离婚手续。
此类状况通常被视为“同居关系”。
若双方希望解除此种关系，只需就同居期间所涉及的财产分配以及子女抚养等事宜进行妥善协商并达成共识即可。
如双方未能通过友好协商解决争议，则可通过向法院提起诉讼的方式，以求得对同居期间共有财产及子女抚养问题做出判决。

《最高人民法院关于适用〈中华人民共和国民法典〉婚姻家庭编的解释（一）》第三条
当事人提起诉讼仅请求解除同居关系的，人民法院不予受理；已经受理的，裁定驳回起诉。
当事人因同居期间财产分割或者子女抚养纠纷提起诉讼的，人民法院应当受理。