本罪侵害的客体是军事秘密的安全。军事秘密关系国防和军队的安全与利益，必须严加保守。《保守国家秘密法》第27条规定：“国家秘密应当根据需要限于一定范围的人员接触。绝密级的国家秘密，经过批准的人员才能接触。”《中国人民解放军保密条例》第34条规定，“盗窃、毁坏、出卖军事秘密的”，“依照《中国人民解放军纪律条令》的有关规定，对主管人员给予处分，构成犯罪的，依法追究刑事责任”。任何采取非法手段获取军事秘密的行为，都将造成军事秘密的泄露和扩散，严重危害国防和军队的安全和利益。为了加强对军事秘密的全面保护，防止无关人员采取非法手段知悉军事秘密，故将以窃取、刺探、收买的方法，非法获取军事秘密的行为，单独规定为非法获取军事秘密罪。本法第282条已规定了非法获取国家秘密罪，但鉴于非法获取军事秘密罪侵害的客体是军事秘密的安全，犯罪主体又是军人，为了加军事秘密的特别保护，所以又专门规定了非法获取军事秘密罪。 本罪的对象是国家军事秘密。军事秘密，是指在一定时间内只限一定范围的人员知悉，不能对外公开并直接关系到国防和军队安全与利益的事项。包括以下内容：国防和武装力量建设规划及其实施情况;军事部署，作战和其他重要军事行动的计划及其实施情况;战备演习、军事训练计划及其实施情况;军事情报及其来源，通信、电子对抗和其他特种技术的手段、能力，机要密码及有关资料;武装力量的组织编制，部队的任务、实力、素质、状态等基本情况;军以下部队及特殊单位的番号;国防动员计划及其实施情况;武器装备的研制、生产、配备情况和补充、维佳能力，特种军事装备的战术技术性能;军事学术、国防科学技术研究的重要项目、成果及其应用，军事物资的筹措、生产、供应和储备等情况;军事设施及军事设施保护情况;军援、军贸和其他对外军事交往活动中的有关情况等。军事秘密是国家秘密的重要组成部分，按其重要程度分为绝密、机密和秘密三级。绝密级军事秘密是指军事秘密中特别重要的部分，一旦泄露将给国防安全和军队利益造成特别严重的危害，属于特别重要的军事秘密;机密级军事秘密是指军事秘密中重要的部分，一旦泄露将给国防安全和军队利益造成严重的危害，属于重要的军事秘密;秘密级军事秘密是指军事秘密中的一般部分，一旦泄露将给国防安全和军队利益造成危害，属于一般的军事秘密。
本罪在客观方面表现为行为人必须具有以窃取、刺探、收买方法非法获取军事秘密行为。所谓窃取，是指行为人采取自认为不会被立即发觉的秘密方法，获取盗窃军事秘密的行为;所谓刺探，是指行为人搜集、侦察、探听军事秘密的行为;所谓收买是指军职人员以金钱或财物为交换形式，从他人那儿获取军事秘密的行为。按照本条规定，只要具备三种行为中的一种，即构成本罪。
本罪的主体为军人。行为人的职级区别、职务分工等，不影响主体要件的成立，按照本法的规定，军人包括中国人民解放军的现役军官、文职干部、士兵及具有军籍的学员和中国人民武装警察部队的现役警官、文职干部、士兵及具有军籍的学员以及执行军事任务的预备役人员和其他人员。
本罪在主观方面表现为故意。即行为人明知采取窃取、刺探、收买的方法非法获取军事秘密，将会对军事秘密的安全造成危害结果，却希望或者放任这种危害结果的发生。过失一般不能构成本罪。行为人实施犯罪的目的，不影响本罪构成。无论其出于危害国家安全的目的还是为了牟取个人私利或出于其它个人目的，只要其实施了窃取、刺探、收买等非法获取军事秘密的行为，即构成本罪。