首先，咱们得清楚到底哪些东西属于遗产，以及这些遗产究竟归谁所有。
要是能确定那确实是你父亲合法的遗产，却被大伯给霸占了，那你可以先试着跟大伯好好商量商量，让他把遗产归还回来。
要是商量半天都没个结果，那就赶紧去人民法院提起诉讼。
在诉讼的时候，你一定要准备充足的证据来证明遗产到底归谁所有，以及大伯霸占遗产的这个事实。
比如说，遗产的相关证明文件，像遗嘱、房产证之类的，这些能直接说明遗产归属的东西。
还有大伯霸占遗产的行为证据，比如有证人能证明他的行为，或者有录音录像能留下他霸占遗产的证据。
根据《中华人民共和国民法典》以及其他相关的法律规定，继承人之间应该本着相互理解、相互谦让，并且要和睦团结的精神来协商处理继承的问题。
遗产分割的时间、办法和份额，都由继承人一起商量确定。
要是商量不拢，还可以让人民调解委员会来调解一下，要是还是不行，那就只能向人民法院提起诉讼。
你可一定要通过合法的途径来维护你和你父亲的合法权益。