当违约方继续履行合同成本过高并且造成其严重损害时，允许违约方行使合同解除权。具体表现有几种情况：
1、解除合同的人违约，无故要解除合同，另一方可以追究违约责任。
2、被解除的一方存在违约，导致合同解除，也可以追究过错方违约责任。
《民法典》第五百七十七条 当事人一方不履行合同义务或者履行合同义务不符合约定的，应当承担继续履行、采取补救措施或者赔偿损失等违约责任。