En dialecte flamand Schipperke veut dire « petit berger ». L'ancêtre commun des Bergers Belges et des Schipperkes serait un chien de berger, de race ancienne, généralement noir et assez petit, appelé “Leuvenaar”. Son origine remonte au XVIIe siècle. Vers 1690 le Schipperke était le chien favori des gens du peuple et des savetiers bruxellois du quartier Saint-Géry, qui organisaient des concours pour faire admirer les colliers en cuivre ciselé dont ils paraient leurs chiens. On amputait sa queue entièrement, une mode datant déjà, paraît-il, du XVe siècle. Il était réputé comme chasseur de souris, rats, taupes et autres nuisibles. Le Schipperke fut exposé pour la première fois en 1882, dans la ville de Spa. Il fut mis à la mode par la reine Marie-Henriette de Belgique.
Son introduction en Grande-Bretagne et aux Etats-Unis date de 1887. Le premier standard fut établi en 1888 par le club responsable de la race, fondé la même année, et qui est le plus ancien club de race en Belgique. Au cours des années il a bien fallu se mettre à la tâche pour unifier le type. A l'époque, en effet, on parlait des variétés d'Anvers, de Louvain et de Bruxelles.