首先，要看不继续承租的前提是什么，是合同无效，租期届满还是合同解除。
不同的情形有不同的处理方法。
对于合同无效的情形，若属于装饰物，出租人同意利用，则可以折价归出租人所有；
若不同意，未形成附合的由承租人拆除，形成附合的按照各自导致合同无效的过错分担现值损失。
若租赁期间届满或者是合同解除，除当事人另有约定外，未形成附合的装饰装修物，由承租人拆除，因拆除造成的房屋毁损，承租人应当恢复原状。

《民法典》第七百一十五条
承租人经出租人同意，可以对租赁物进行改善或者增设他物。
承租人未经出租人同意，对租赁物进行改善或者增设他物的，出租人可以请求承租人恢复原状或者赔偿损失。