张作相任第27师师长后，张作霖感到张作相离开自己身边，工作起来有许多不便。
不久，就任命他为东三省巡阅副使。
张作相以位高坚辞不就，遂被任命为东三省巡阅使署和奉天督军署两署总参议。张作霖重建东三省讲武堂，张作相任堂长。
1921年初，黑龙江省督军孙烈臣转任吉林省督军，张作霖要任命他为黑龙江省督军，当即被张作相婉言辞却，并建议让第29师师长吴俊升出任。
张作相说：“论资历我不如兴权(吴俊升字)，论年龄他也比我大。为表示待人公正，不徇私情，请让兴权先升。这对我们的前途和事业有好处。”
1922年春，第一次直奉战争中，张作相兼任镇威军东路第一梯队司令，进驻永清。奉军战败，退驻榆关，北洋军阀政府趁机发令对张作霖撤职查办。张作霖意沮心丧，怀有下野之念，急召张作相密商后策。张作相劝张作霖不要下野，并陈词献策。张作霖嘉纳其言，精神振作，任张作相为镇威军第三路总司令。同时，集合各军，在榆关背城一战，使奉军转危为安。
1924年，张作相任吉林督军并出任吉林省省长。在这时期，张作相主张“固守关外，将养生息，训练士兵，扩充实力”为上策。
1925年，张作相代任吉林军务督办兼吉林省长，晋升陆军上将。
同年3月，兼任东三省铁路护路军总司令和陆军第15师师长。
同年冬，郭松龄倒戈反奉，张作相部正驻守榆关一带。
郭军先出关的两个团在姜女庙被其缴械，继出关的两团也在榆关东站被其解除武装。
郭松龄致电报中说：“榆关缴械，姜女庙进逼，龄之原定计划全为我公破坏。”
郭松龄被擒，张作霖拟将助郭倒戈将领一律处死，参与决议的奉军将领中唯张作相力排众议，分析时局，晓以利害，提出建议，为张作霖所采纳，除郭松龄夫妇被处死外，其余诸将皆得免。
喜欢我在清末兑军火，从马匪到东北王请大家收藏：(m.20xs.org)我在清末兑军火，从马匪到东北王20小说网更新速度全网最快。