在很久以前，迷你宾莎犬就在绘画和雕塑中被描绘出来，这无疑使他成为了一个非常古老的犬种。不过人类对于迷你宾莎犬的历史文献记录没有很久远，距今也不到两百年，它们的真正起源的时间还无法确定。

迷你宾莎犬在1895年的德国开始真正的发展，此时，德国宾莎犬俱乐部成立，迷你宾莎犬最初的标准是由它制订的。从1905年到1914年在德国尤其受欢迎，这也是它发展最快的时期。1900年首次在德国斯图加特狗展上展出，除了在斯堪的纳维亚半岛的国家，其他国家几乎是未知的，直到1918年第一次世界大战之后，迷你宾莎犬才开始在德国以外的地方繁殖。

迷你宾莎犬于1919年左右被进口到美国，1925年在AKC美国养犬俱乐部以品种名Pinscher (Miniature)注册。1929年，美国迷你宾莎犬俱乐部成立，这标志着对这一品种的认可，迷你宾莎犬从此站稳了脚跟，从而确立了它在美国的知名度。1972年，品种名更改为Miniature Pinscher。