具体情况需根据相关法律法规加以确定。
若与未经合法程序备案的人存在婚姻关系，即构成违法行为，这就涉及到违反重婚罪的问题。
在此种情形下生育子女则更是触犯法律界限的行为。
反之，倘若未曾与第三方注册结婚便共同孕育后代，这无疑是对夫妻双方忠实义务以及公共道德的背离，然而这种行为并不会被视为犯罪行为。

《民法典》第一千零七十九条
夫妻一方要求离婚的，可以由有关组织进行调解或者直接向人民法院提起离婚诉讼。
人民法院审理离婚案件，应当进行调解；
如果感情确已破裂，调解无效的，应当准予离婚。
有下列情形之一，调解无效的，应当准予离婚：
（一）重婚或者与他人同居；
（二）实施家庭暴力或者虐待、遗弃家庭成员；
（三）有赌博、吸毒等恶习屡教不改；
（四）因感情不和分居满二年；
（五）其他导致夫妻感情破裂的情形。
一方被宣告失踪，另一方提起离婚诉讼的，应当准予离婚。
经人民法院判决不准离婚后，双方又分居满一年，一方再次提起离婚诉讼的，应当准予离婚。