在美国军队中，人们普遍认为，有些军官胜任指挥工作，有些军官却只能做参谋工作。指挥军官可以获得威望，甚至名垂千古，参谋军官的工作既没有光荣，也没有赞赏，只有繁琐和枯燥。而乔治·卡特利特·马歇尔虽然长期担任参谋工作，从未担任过重要的战场指挥官，却获得了极大的军事声誉，被美国人称作是二十世纪的战略家和军事家。一位美国军官评论说：“他是一位参谋军官，而且就以这种身分立于最伟大的将领之列。”
乔治·卡特利特·马歇尔生于1880年，17岁那年在兄长的影响下，进入弗吉尼亚军事学院，接受高等军事教育。他从进入军校就开始追求军事上的荣誉。军事学院的生活很艰苦，而且新学员还受老学员的虐待和歧视。许多人要求退学或转学，和他一起入学的一百多名学员，到毕业时只剩下三十多人了。但马歇尔却很快地习惯了军校生活，因为在他看来，这是一个人一生中的一部分，是成功的开始。他非常用功，所有的军事课程都学得很认真，所有的军事职责都履行得正确无误。他于1901年毕业。次年到美国驻菲律宾的军队中服役。
1917年4月，美国加入第一次世界大战，对德国宣战。马歇尔十分渴望去欧洲作战。6月26日，他作为赛伯特将军的参谋，实现了赴欧作战的愿望。12月，赛伯特将军被解职，由布拉德少将接替。布拉德是马歇尔的老上司，而且他认为，马歇尔是美国陆军中最有才华的年轻军官之一。不久，马歇尔就由一个不起眼的参谋，提升为该师的作战处处长。在这个职位上，他的大胆负责精神，受到了布拉德将军和下级指挥官的赞扬。他还以熟练的参谋业务，参与制定了圣米耶尔进攻作战，默兹——阿尔贡调动部队的计划和美军在欧洲西线作战的其他计划，显示出他卓越的指挥才能。
后来，马歇尔又被陆军参谋长潘兴将军选去当了六年随从参谋。1924年，他到美国驻中国天津的第15步兵团任代理团长，团长到任后，他改任执行官。1927年，他回到美国，任陆军军事学院教官，不久，又调任本宁堡步兵学校副校长。在第一次世界大战结束后的18年间，马歇尔虽然表现突出，却没有很快地飞黄腾达，直到1936年才晋升为准将。此后不久，马歇尔接到了出任第5步兵旅旅长的命令。该旅驻扎在华盛顿州的温哥华。他在这里任职三年，以治军严格，但对部下平易近人，听取汇报善于抓住要点，但又不遗漏细节，做事井井有条，下达指示简捷明了，而深受部属的拥戴。1938年2月，马歇尔被召回华盛顿，担任陆军助理参谋长，这标志着他带兵职务的结束，开始步入美军高层领导集团。
8个月后，马歇尔被提升为陆军副参谋长，1939年4月又越过比他资历更深的数十位将军，被罗斯福总统破格擢升为美国陆军参谋长，并跳过少将和中将，晋升为四星上将。这一任命，使朝野惊奇，议论不绝。罗斯福力排众议，并于1939年9月1日即纳粹入侵波兰的当天，安排马歇尔的就职典礼，表明马歇尔是非常之时的非常之才。
从1939年到1951年，前后12年的时间里，他曾担任过美国陆军参谋长兼任陆军航空队参谋长，联合参谋部成员、驻中国大使，国务卿和国防部长等职，马歇尔对美国在第二次世界大战中的战略以及战后成略的形成和贯彻执行，有着重大影响。
马歇尔上任后的第一件事：就是整顿军官队伍。他接连破格提升了4000多名年轻军官。后来驰名于世的艾森豪威尔、布莱德雷、巴顿、克拉克等，都是由马歇尔，一手提拔到关键性岗位上来的。后来他们都成了在第二次世界大战中独挡一面，战功卓著的指挥官。同时，他还采取坚决步骤清除陆军中不合格的军官。马歇尔最瞧不起那些为个人名利，四处钻营，谋求升迁的人。曾有一个人去拜访马歇尔，本来马歇尔已为他安排了一个不错的职位，但此人一进门，就大讲自己应被提拔的种种理由，马歇尔勃然大怒，对此人的任命自然也告吹了。
马歇尔这位年轻的参谋长对总统罗斯福、陆军部长史汀生和国会成员们都很敬重，但在原则问题上又从不让步。马歇尔深得罗斯福总统的信任，对军事战略负有重要责任，有关此类问题，可以直接向总统报告。即使有时与总统的意见不同，他也非常直率地表达自己的见解，他在任参谋长期间，曾多次与国会成员有不同意见，他每次都不轻易让步，经过争辩，大多数是以马歇尔的“胜利”而告终。他直率、诚实的态度赢得了国会议员们的信任。
马歇尔欣赏能够并愿意做出决定的人，他把自己的很多工作交给他们去做。他常说，他可以给一千个人安排具体工作，但其中绝大部分人不能放在负责岗位上，因为他们都必须让他做出每一个决定。他坚持主张，他的主要助手应在其职责范围内，按照自己得出的结论去思考和行动。1940年的某一天，马歇尔对陆军参谋长助理布莱德雷和他的助手们说：“先生们，我对你们很失望，至今为止，你们对我做出的决定没有一个不同意的。”布莱德雷回答道：“将军，那是因为还没有不同意的理由，当我们不同意你的决定时，阁下，我们会告诉你的。”马歇尔严厉指责那些对上级报喜不报忧的军官，极端厌恶唯唯诺诺的人，他经常告诫下属，不要因为顶头上司在场而产生顾虑，要大胆地发表自己的看法。
马歇尔在第二次世界大战中的最大贡献，是提出了对反法西斯阵线有利，特别是对英、美两国有利的战略思想，即“首先打败德国”的战略。这一战略，是马歇尔于1940年写给总统的一份报告中提出来的，后来在阿卡迪亚会议上得到了美、英两国政府的承认，成为美、英两国进行第二次世界大战的共同战略。因为在马歇尔看来，德国比日本的军事力量更强大，而且德国已经控制了西欧并威胁着大西洋和拉美，英国已经同德国交战，美国向欧洲战场提供援助，既符合美国利益，也可能会更容易、更快些。这就充分显示了马歇尔的战略头脑，
在作战指导方面，马歇尔几乎筹划指挥了第二次世界大战中美军在欧洲、太平洋两个战场的所有行动，成为罗斯福和杜鲁门两位总统的主要军事顾问。
开始，他把主要注意力放在太平洋战场。珍珠港事件之前两个星期，他就预告，美、日外交关系恶化，来自日本的战争威胁已经明确，但他没有对驻夏威夷陆军司令肖特中将为应付突然事变而采取的措施做进一步的研究和指示。珍珠港事件之后，他为此受到了人们的批评。事件发生后，他曾对恢复美军士气作出了很大的努力。
美国对德宣战后，在美军如何行动问题上，马歇尔一直主张横渡英吉利海峡与德国直接交战。他认为，这一行动可以迅速地在欧洲开辟第二战场，使俄国不至于被德国击败，而能继续参加战争。英国人则主张搞边缘战略，强调进攻轴心国的“软腹部”——地中海，反对与德国人正面对抗。马歇尔为使英国赞同自己的主张，首先促成美英两国首脑在华盛顿会晤，达成基本一致。此后当作战方案在英军参谋总部出现分歧时，他又飞抵伦敦，与英方进行了毫不让步的辩论，直到1943年11月，英方同意为止。
第二次世界大战期间，不仅美国总统罗斯福倚重马歇尔，英国首相丘吉尔，苏联最高统帅斯大林等也都认为他是一个军事天才。在德黑兰会议上，斯大林建议任命马歇尔担任欧洲联军总司令，并两次要罗斯福作出决定；丘吉尔在与罗斯福的一次通信中，表示同意把英军交给马歇尔指挥；艾森豪威尔在担任欧洲总司令之前，也一直认为这个位置是属于马歇尔的。1944年，马歇尔获得相当于其他国家元帅的五星上将军衔。
第二次世界大战结束不久，马歇尔便被杜鲁门总统派往中国，担任驻华特使，参与国共谈判。1947—1949年，他出任美国国务卿。1950年任国防部长，同年退休，在其国防部长任内，美国发动了朝鲜战争。他曾参与制定杜鲁门主义，推行美国援助欧洲经济复兴的马歇尔计划。他还是“冷战”政策的积极执行者，是建立北大西洋公约组织的发起人之一。