Klub je osnovan pod imenom Newton Heath L&YR F.C. 1878 kao ekipa radnika Lancashire i Yorkshire želježnica u Newton Heathu. Igrači su tada nosili zeleno-zlatne dresove. Petnaest godina su igrali na malom igralištu na North Roadu, pored buduće željezničke postaje Manchester Piccadilly, prije nego što su se 1893. preselili na Bank Street u obližnjem gradu Claytonu. Godinu prije, klub se počeo natjecati u nogometnoj ligi te je raskinuo veze sa željeznicom, postavši neovisno poduzeće i skrativši ime u Newton Heath F.C.
Nedugo zatim, 1902. godine, klub je bio na rubu bankrota, s dugom od 2500 funti, te im je čak zatvoren stadion.[4] Upravo u vrijeme kad je klub trebao biti ugašen, J.H.Davies, predsjednik tvrtke Manchester Breweries je odlučio uložiti novac u klub i tako ga spasio od propadanja. Prema legendi, Harry Stafford, klupski kapetan, je predstavljao svog nagrađivanog bernardinaca kod klupskih sponzora, kad mu je prišao Davies, s namjerom da kupi psa. Stafford je to odbio, ali ga je uvjerio da investira u klub i postane predsjednik kluba. Ubrzo je na sastanku uprave odlučeno da klub promijeni ime. Među prijedlozima su bili Manchester Central i Manchester Celtic, ali je na kraju, na prijedlog talijanskog imigranta Loisa Rocce, odlučeno da se klub zove Manchester United. Tako je Manchester United počeo službeno postojati 26. travnja 1902. Davies je također odlučio promijeniti dotadašnje boje kluba, te je izabrao crvenu i bijelu kao boje Manchester Uniteda. Za tajnika kluba izabran je Ernest Mangnall, a nakon što je James West dao otkaz na mjestu trenera, 28. rujna 1902. Mangnall je dobio povjerenje da pokuša izboriti mjesto u prvoj ligi. Zamalo mu je to uspjelo već prve sezone, kada klub završava na 5. mjestu druge lige. Mangnall je tada odlučio dovesti nove igrače, a među njima su bili vratar Harry Moger, obrambeni Dick Duckworth i napadač John Picken, međutim, najveći utisak je ostavio Charlie Roberts. U klub je stigao za tada rekordnih 750 funti iz Grimsby Towna. U travnju 1904. Roberts je pomogao ekipi da stigne do trećeg mjesta, te ih je samo bod dijelio od drugog mjesta, koje je donosilo preseljenje u viši rang.
Nedugo zatim, u sezoni 1905.-06., plasirali su se na drugo mjesto u drugoj ligi, te su dobili priliku po prvi put zaigrati u prvoj ligi pod novim imenom. Svoju prvu prvoligašku sezonu završavaju na osmom mjestu. Godine 1907. gradski rival Manchester City je bio pod istragom, jer se otkrilo da su neki igrači primali plaću višu od tada dopuštene. Nogometni savez ih je kaznio s 250 funti, te su zabranili osamnaestorici igrača da ikad više zaigraju za City. United se brzo snašao u toj situaciji te je iz kluba s druge strana grada doveo igrače poput Billya Mereditha (Velški čarobnjak) i Sandyja Turnbulla. Novi igrači su zbog suspenzije mogli zaigrati za United tek od 1907., te su već sezone 1907.-08., dali svoj doprinos za osvajanje prvog naslova prvaka, uz niz od deset uzastopnih pobjeda sezonu završavaju sa devet bodova više od drugoplasirane Aston Ville.
Iduće sezone osvajaju još dva trofeja, Charity Shield (engleski superkup), te FA kup. Najviše zasluga za osvajanje tih trofeja pripadaju Turnbullu i Meredithu koji su odlično odigrali cijelu sezonu, a Turnbull je postigao pobjednički gol u finalu FA kupa.
Klub je morao čekati dvije godine na novi trofej. Osvojili su svoje drugo prvenstvo sezone 1910.-11. U međuvremenu se klub preselio na novi stadion, Old Trafford. Prvu utakmicu na novom stadionu odigrali su 19. veljače 1910. protiv Liverpoola, izgubivši 4-3 unatoč vodstvu od 3-0. Bez trofeja su ponovno ostali sezone 1911.-12., koja je bila i zadnja sezona pod vodstvom Mangnalla (nakon deset godina u Unitedu otišao je u Manchester City), te prva od 41 sezone koliko će proći do Manchesterovog ponovnog osvajanja naslova prvaka.
Idućih deset godina, klub je postupno slabio te su 1922. godine ispali u drugu ligu. Godine 1925. se vraćaju u prvu ligu, međutim, već 1931. ponovno ispadaju u drugu. Klub je došao do najniže pozicije u svojoj povijesti 1934. godine, kada su bili 20. u drugoj ligi. Još su jednom ušli u prvu ligu, te odmah ispali, i opet ušli u prvu ligu, te su osigurali daljnje igranje u prvoj ligi, osvojivši 14. mjesto sezone 1938.-39.
Za vrijeme Drugog svjetskog rata Old Trafford je bio bombardiran, dana 11. ožujka 1941. Većina tribina je bila uništena, jedino je centralni tunel preživio bombardiranje. Također je i teren bio potpuno uništen, te je United morao tražiti pomoć od tada mnogo uspješnijeg gradskog rivala City-a. City im je dopustio igranje na Main Roadu uz naknadu od 5000 funta plus postotak od prodanih ulaznica.
Drugi svjetski rat je ipak donio prosperitet Unitedu, jer su mogli krenuti u potpunu rekonstrukciju kluba, te su kao novog trenera zaposlili škota Matta Busbyja.