Fondée en 1932, l’Association Sportive de Decize s'impose progressivement comme l'un des clubs importants du football nivernais. Pendant plusieurs décennies, le club évolue principalement dans les championnats régionaux de Bourgogne et construit patiemment sa réputation. Son principal essor intervient à la fin des années 1960, lorsque l'AS Decize remporte le championnat de la Ligue de Bourgogne. Ce titre régional permet au club d'accéder pour la première fois aux championnats nationaux en 1968, avec une promotion en Division 3.
L'AS Decize découvre alors le troisième niveau du football français et s'y maintient plusieurs saisons. Cette période constitue le premier véritable âge d'or du club, qui se retrouve confronté à des formations venues de toute la France. Après plusieurs années au niveau national, Decize est finalement relégué en 1974 et retrouve la Division d'Honneur Bourgogne. Le club doit alors reconstruire son équipe et patienter plus d'une décennie avant de retrouver les championnats nationaux.
Cette nouvelle ascension intervient en 1987. Champion de Bourgogne, l'AS Decize obtient son retour dans les championnats nationaux en accédant à la Division 4, alors quatrième niveau du football français. Le club retrouve ainsi une place dans la hiérarchie nationale et poursuit son parcours lors de la réforme des compétitions de 1993. La Division 4 disparaît alors au profit notamment du National 3, nouvelle appellation du quatrième échelon national. Decize évolue donc à ce niveau sous cette nouvelle formule lors de la saison 1993-1994.
L'aventure nationale est cependant de courte durée. En 1994, l'AS Decize termine sa saison à la dernière place de son groupe de National 3 et est reléguée en Division d'Honneur Bourgogne. Le club retrouve alors le championnat régional et ne parvient plus à renouer avec les niveaux nationaux. Malgré cette période moins faste, l'AS Decize demeure une formation importante du football de la Nièvre, grâce notamment à son passage en Division 3 à la fin des années 1960 et à son retour dans les championnats nationaux à la fin des années 1980.
L'histoire de l'AS Decize sous cette appellation s'achève en 2003, lorsque le club fusionne avec le SC Imphy. Cette union donne naissance au Sud Nivernais Imphy-Decize, nouvelle structure destinée à réunir les forces du football de Decize et d'Imphy. Si l'AS Decize disparaît alors en tant qu'entité indépendante, son héritage est directement transmis à ce nouveau club. Avec plus de soixante-dix ans d'existence et plusieurs passages au niveau national, dont une présence en Division 3, l'AS Decize reste l'un des clubs historiques du football nivernais.