本罪侵犯的客体是司法机关监管秩序。监狱、劳改队、看守所等监管场所的任务是看管、教育、改造罪犯。为了保证监管场所的正常秩序，国家对罪犯的出狱(包括出劳改队、看守所等)作了严格的规定。聚众劫狱就是违反监管规定，公然聚众持械将罪犯非法劫出狱外，使监管场所的正常监管秩序受到侵扰。对这种犯罪行为必须严厉打击。
本罪在客观方面表现为狱外的人持械以暴力劫夺狱中的罪犯的行为。所谓聚众，是指聚集、纠合3人以上。所谓持械，是指携带、持有、使用枪支、管制刀具以及其他具有较大杀伤力、破坏力的器械，包括各种枪支、弹药，如军用枪支、民用枪支及其他非法制造的各种具有杀伤力的枪支、弹药;管制刀具，如匕首、刮刀、三棱刀、带有自锁装置的弹簧刀以及类似的单刃刀、双刃刀、三棱尖刀等;其他器械，如木棒、铁棍、菜刀、斧头、炸药等。所谓劫狱，是指采用暴力或者其他方法劫夺狱中在押的罪犯。具体方式多种多样，如采用聚众持械冲进监狱，杀伤、杀害监管人员，砸毁、破坏监狱设施、抢夺、抢劫枪支、弹药、交通工具，绑架人质进行威胁，药物麻醉监管人员等方法劫夺在押罪犯;或者声东击西，采用暴力调离监管人员，以便于狱中人员逃跑;等等。至于劫狱中的"狱"，往这里应作广义理解，泛指一切关押、羁押、监管罪犯的场所。其不仅包括监狱、未成年犯管教所、劳动改造队、拘役所、看守所等羁押场所，而且也包括押解罪犯的途中，对罪犯进行审判的审判场所，以及对罪犯执行死刑的刑场，罪犯参观、学习、劳动、医治的场所等等。
本罪的主体是一般主体，即达到法定刑事责任年龄、具有刑事责任能力的自然人。
本罪在主观方面表现为故意，其目的是使狱中的犯罪分子逃避刑罚处罚。