当遭遇遗产被他人霸占的情况时，可通过以下几种方式来要回属于自己的遗产：
一、协商解决
这是较为温和且理想的解决方式。
首先，主动与霸占遗产的一方进行沟通交流。
在交流过程中，要清晰、明确地向对方阐述其霸占遗产行为的不合理性和不合法性。
可以详细说明遗产的来源、相关的分配依据等，让对方清楚认识到自己的错误。
例如，若有遗嘱，可向对方出示并解释遗嘱的具体内容，表明自己作为合法继承人的权利。
通过这种友好协商的方式，有可能促使对方主动归还遗产，从而和平解决纠纷，避免后续繁琐的程序，节省大量的时间和精力。
二、人民调解
若协商无果，可以向当地的人民调解委员会提出调解申请。
调解委员会会深入了解具体情况，包括遗产的构成、各方关系等。
他们会依据相关法律法规和公序良俗，在双方之间进行斡旋、沟通，努力促使双方达成和解协议，找到一个双方都能接受的解决方案。
三、诉讼途径
如果协商和调解都不能有效解决问题，那么向有管辖权的人民法院提起诉讼是最后的保障。
在准备诉讼时，要充分收集和准备好各类相关证据，如能证明遗产归属的遗嘱、详细的财产清单、证明亲属关系的证明材料等。
这些证据是支持自己诉求的关键。
法院会严格按照法律规定和证据情况进行公正判决，切实维护合法继承人的权益。
在整个诉讼过程中，需严格遵循法律程序和法院的各项要求。

案情回顾:

小朱的父亲去世后留下一笔遗产，小胡却霸占了遗产。小朱先与小胡协商，出示遗嘱表明自己合法继承人身份，要求小胡归还，但小胡拒绝。之后小朱申请人民调解，调解也未成功，小朱不知是否应通过诉讼途径要回遗产。

案情分析:

1、小朱与小胡协商时，已明确出示遗嘱表明自身权利，小胡仍霸占遗产，其行为侵犯了小朱的合法继承权。
2、人民调解未能解决问题，此时诉讼是维护小朱权益的最后保障。小朱应收集好遗嘱、财产清单等相关证据，按法律程序向法院提起诉讼，法院会依法公正判决。