1978년 11월7일 급변하는 한반도 주변 정세에 대처하고주한 미 지상군 감축에 따른 전력 공백을 보완하며, 한·미 연합작전 능력을 향상하기 위해 한·미연합군사령부가 창설됐다.
연합사 창설은 1976년 8월 판문점에서 발생한 북한군 도끼 만행 사건이 결정적 계기가 되었다. 당시 미군 장교만으로 편성된 유엔군사령부가 작전통제권을 행사함으로써 한국군과 협조하는 데 어려움이 많았던 관계로 유엔군 사령관인 스틸웰 대장 역시 연합사 창설 연구에 공감했다.
연합사가 창설된 배경에는 정치·경제적인 요소가 크게 작용했다. 첫째, 유엔군사령부의 탈(脫) 유엔화이다. 1972년 6·25전쟁에 참전한 유엔 회원국 중 마지막 남은 태국군이 철수함으로써 유엔군에는 미군만 남게 되었다. 그러자 1974년 제29차 유엔총회에서 공산 진영은 유엔군사령부의 해체를 요구했다. 1975년 제30차 유엔총회에서는 서방 측이 “정전협정을 대체할 적절한 대안을 마련한 후, 1976년 1월1일부로 해체할 수 있도록 최단 시일 내에 협의할 것을 촉구”하는 결의안을 제출했으며, 유엔군사령부 해체와 관련한 2개의 결의안(제3390호 A/B)이 함께 통과됐다. 이에 미국은 스스로 주한미군 시설에서 유엔기를 내리면서 유엔사의 자진 해체 의사를 발표했다.
둘째, 한국의 방위 역량이 향상하면서 한·미 양국은 연합사의 필요성을 인식하게 되었다. 한국은 1960년대 초부터 계속되어 온 경제 성장을 발판으로 국력이 괄목할 만큼 신장하였고 대부분의 방위비를 자체 부담하게 되면서 이에 상응하는 권리를 요구했다.
이러한 공감대가 형성된 가운데 지미 카터 미 대통령이 주도한 주한 미 지상군의 철수 문제를 협의하는 과정에서 한반도 방어를 위하여 연합 및 합동 작전을 수행할 수 있는 사령부 창설 방안이 구체화했다. 1977년 7월 제10차 한·미연례안보협의회의에서 미 지상 전투 병력 제1진의 철수 완료 전에 한국 방위의 작전 효율화를 위해 연합사 창설에 합의했다.
1978년 10월17일 한국 측 외무부 장관과 주한 미국대사 사이에 “한·미연합군사령부 설치에 관한 교환각서(Exchange of Note)”가 교환되었고, 이어서 한·미군사위원회는 10월23일 한·미연합군사령부 창설 명령을 하달했다. 11월7일 연합사 창설로 1953년 한·미상호방위조약 체결 이후 25년 만에 한·미동맹은 전략적·군사구조적 변화를 갖게 됐다.