不可以。

甲和乙的约定仅仅对内有效，在对外关系上，如果甲已经将该笔债务转让给任意第三人，乙必须向第三人履行付款的义务。
至于因债权转让增加的费用，由让与人承担。

《中华人民共和国民法典》第五百四十五条
债权人可以将债权的全部或者部分转让给第三人，但是有下列情形之一的除外：
（一)根据债权性质不得转让；
（二)按照当事人约定不得转让；
（三)依照法律规定不得转让。当事人约定非金钱债权不得转让的，不得对抗善意第三人。当事人约定金钱债权不得转让的，不得对抗第三人。