Le SCO Roubaix trouve ses origines dans l'Excelsior Athlétic Club, fondé en 1928 par la fusion du Football Club de Roubaix et de l'Excelsior Club de Tourcoing. Rapidement soutenu par le puissant groupe industriel Prouvost, le nouveau club devient l'un des pionniers du football professionnel français. En 1932, l'Excelsior adopte le statut professionnel et participe à la toute première édition du championnat de France professionnel, disputée lors de la saison 1932-1933. Installé au stade Amédée-Prouvost, le club s'impose rapidement parmi les meilleures équipes françaises et dispute plusieurs saisons en première division avant la Seconde Guerre mondiale.
La saison 1932-1933 constitue le premier grand sommet de l'histoire de l'Excelsior. Après avoir éliminé notamment l'OGC Nice puis le FC Sète, le club atteint la finale de la Coupe de France et retrouve le Racing Club de Roubaix, son grand rival local. Le 7 mai 1933, à Colombes, l'Excelsior s'impose 3-1 et remporte le premier et unique grand trophée de son histoire. Cette finale reste particulièrement célèbre puisqu'elle constitue la seule finale de Coupe de France ayant opposé deux clubs d'une même ville de province. L'Excelsior confirme ensuite sa valeur en se maintenant en Division 1 jusqu'à l'interruption des compétitions professionnelles liée à la Seconde Guerre mondiale.
À la Libération, le football roubaisien est profondément réorganisé. En 1945, les sections professionnelles de l'Excelsior, du Racing Club de Roubaix et de l'US Tourcoing sont réunies au sein du Club olympique Roubaix-Tourcoing (CO Roubaix-Tourcoing ou CORT). Cette nouvelle entité connaît rapidement une période faste puisqu'elle remporte le championnat de France 1946-1947, seul titre de champion de France de l'histoire du football roubaisien professionnel. Le CORT évolue ensuite plusieurs saisons en Division 1 avant de connaître un déclin progressif. En 1963, le club abandonne le professionnalisme et disparaît progressivement, tandis que l'Excelsior reprend son indépendance en 1970 et repart en Division 3.
De retour dans les divisions nationales, l'Excelsior ne parvient cependant pas à retrouver son lustre d'avant-guerre. Relégué en Division d'Honneur en 1975, il fusionne en 1977 avec le Sporting Club de Roubaix pour former le Roubaix Football. Cette nouvelle entité retrouve rapidement le niveau national et accède à la Division 3 en 1981. En 1983, Roubaix Football atteint même la Division 2, mais cette première expérience dans l'antichambre de l'élite ne dure qu'une saison. Après une nouvelle descente en Division 3 puis en Division 4, le club connaît une nouvelle étape majeure en 1990, avec sa fusion avec le Racing Stade de Roubaix, héritier du Racing Club de Roubaix. Cette fusion donne naissance au Stade Club Olympique de Roubaix (SCO Roubaix).
Le nouveau SCO Roubaix retrouve rapidement les divisions nationales et accède à la Division 3 en 1992, suscitant l'espoir d'un retour durable du football roubaisien au plus haut niveau. Mais les difficultés financières viennent rapidement mettre un terme à cette ambition. À la fin de l'année 1995, le club dépose le bilan et est placé en liquidation judiciaire en janvier 1996. Incapable de terminer sa saison de Division 3, le SCO Roubaix disparaît du championnat national. Un nouveau club est alors recréé en 1996 sous le nom de SCO Roubaix 59, qui reprend son activité dans les championnats régionaux. Héritier des différentes grandes formations roubaisiennes, le SCO Roubaix 59 perpétue ainsi l'histoire d'une ville qui fut, dès les premières décennies du XXe siècle, l'un des hauts lieux du football français.