不能，而且也不需要进行离婚。没有向婚姻登记机关申请领取结婚证，那么说明在法律上是不存在婚姻关系的，不存在婚姻关系就没有离婚程序。双方只能算是同居的关系。

《民法典》第一千零四十九条要求结婚的男女双方应当亲自到婚姻登记机关申请结婚登记。符合本法规定的，予以登记，发给结婚证。完成结婚登记，即确立婚姻关系。未办理结婚登记的，应当补办登记。
《婚姻登记工作规范》第五十五条受理离婚登记申请的条件是：(一)婚姻登记处具有管辖权;(二)要求离婚的夫妻双方共同到婚姻登记处提出申请;(三)双方均具有完全民事行为能力;(四)当事人持有离婚协议书，协议书中载明双方自愿离婚的意思表示以及对子女抚养、财产及债务处理等事项协商一致的意见;(五)当事人持有内地婚姻登记机关或者中国驻外使(领)馆颁发的结婚证;(六)当事人各提交2张2寸单人近期半身免冠照片;(七)当事人持有本规范第二十九条至第三十五条规定的有效身份证件。