若前任丈夫未履行支付扶养费用之责任时，其仍然享有探视孩子的权益，这在法律层面上属于其固有的权力。
在您面对此种情况之时，是否考虑通过法院提起诉讼，请求男方承担起相应的抚育责任呢？根据我国法律条文所载明的内容，夫妻双方在结束婚姻关系之后，对非亲自抚养孩子的父亲或母亲而言，拥有了探望孩子的合法资格，而另一方则负有必要的协同配合之责。
在具体的探望权利的行使方式以及时间方面，应有双方当事人共同协商决定;
若未能达成共识，则应依据人民法院的裁决执行。

《民法典》第一千零八十六条
离婚后，不直接抚养子女的父或者母，有探望子女的权利，另一方有协助的义务。
行使探望权利的方式、时间由当事人协议；协议不成的，由人民法院判决。父或者母探望子女，不利于子女身心健康的，由人民法院依法中止探望；中止的事由消失后，应当恢复探望。