未进行婚姻登记手续便生育子女是可行的。
在这种情况下诞生的子女，我们称之为“非婚生子女”，他们同样享有如同合法婚姻中所生子女同等的权利，所有的组织或个人都不得对其进行不当侵害和歧视。
如果非婚生子女的父母其中有一方未能直接承担起抚养责任，那么另一方面需代为承担未成年子女或者无法完全独立生活的成子女的赡养费用。
假如非婚生子女的父母拒绝承担这些义务，直接抚养子女的一方可向司法机构申诉以维护权益。

《民法典》第一千零七十一条
非婚生子女享有与婚生子女同等的权利，任何组织或者个人不得加以危害和歧视。
不直接抚养非婚生子女的生父或者生母，应当负担未成年子女或者不能独立生活的成年子女的抚养费。