1921年初，黑龙江省督军孙烈臣转任吉林省督军，张作霖要任命他为黑龙江省督军，当即被张作相婉言辞却，并建议让第29师师长吴俊升出任。
张作相说：“论资历我不如兴权(吴俊升字)，论年龄他也比我大。
为表示待人公正，不徇私情，请让兴权先升。这对我们的前途和事业有好处。”
1921年5月30日，北京政府特任东三省巡阅使张作霖兼蒙疆经略使，“各该特区都统，均应归该经略使指挥节制。”
并以此逐去原热河都统姜桂题，由奉系派员充任都统。张作霖要派张作相任热河都统，但张作相仍执意不肯，并极力推荐28师师长汲金纯为热河都统。
1922年春，第一次直奉战争中，张作相兼任镇威军东路第一梯队司令，进驻永清。
奉军战败，退驻榆关，北洋军阀政府趁机发令对张作霖撤职查办。
张作霖意沮心丧，怀有下野之念，急召张作相密商后策。张作相劝张作霖不要下野，并陈词献策。
张作霖嘉纳其言，精神振作，任张作相为镇威军第三路总司令。
同时，集合各军，在榆关背城一战，使奉军转危为安。
1924年，张作相任吉林督军并出任吉林省省长。
在这时期，张作相主张“固守关外，将养生息，训练士兵，扩充实力”为上策。
基于这种思想，他在吉林省督军兼省长任上，做了一些有益于民众的事。
1925年，张作相代任吉林军务督办兼吉林省长，晋升陆军上将。
同年3月，兼任东三省铁路护路军总司令和陆军第15师师长。
同年冬，郭松龄倒戈反奉，张作相部正驻守榆关一带。
郭军先出关的两个团在姜女庙被其缴械，继出关的两团也在榆关东站被其解除武装。
郭松龄致电报中说：“榆关缴械，姜女庙进逼，龄之原定计划全为我公破坏。”
郭松龄被擒，张作霖拟将助郭倒戈将领一律处死，参与决议的奉军将领中唯张作相力排众议，分析时局，晓以利害，提出建议，为张作霖所采纳，除郭松龄夫妇被处死外，其余诸将皆得免。
喜欢我在清末兑军火，从马匪到东北王请大家收藏：(m.20xs.org)我在清末兑军火，从马匪到东北王20小说网更新速度全网最快。