Несмотря на своё название пистолет был разработан не самим Паулем Маузером, а братьями Федерле : Фиделем, Фридрихом и Йозефом. Фидель Федерле заведовал экспериментальным цехом оружейного завода «Маузер» , и новый пистолет, который вначале назывался P-7.63 или пистолет Федерле, был разработан без ведома П. Маузера. Тем не менее, в 1896 было начато производство, которое продолжалось вплоть до 1939. За это время было выпущено более миллиона пистолетов C96. Пистолет был запатентован на имя Пауля Маузера в Германии в 1895 г.
После заключения Версальского договора, когда Германии было запрещено производить оружие калибром более чем 7,96 мм производство модели К-96 развернула испанская фирма «Астра», которой принадлежит большая часть моделей пистолета К-96. Пистолет Маузер К-96, знакомый всем по кино про революцию — это так называемая модель «Боло» (большевистский) под патрон 7,63;25 мм Маузер, — последний впоследствии даже был принят на вооружение РККА в несколько модифицированном виде как 7,62;25 мм ТТ.
Одна из причин, по которой пистолет Маузера стал популярен среди революционеров, белогвардейцев и бандитов, во время Гражданской Войны — его огромная, по тем временам, мощность. Пистолет позиционировался как легкий карабин, чем он в сущности и являлся: деревянная кобура использовалась в качестве приклада, а убойная сила пули заявлялась на дальность до 1000 м (правда, при этом разброс пуль по горизонтали для неподвижно закреплённого пистолета составлял до нескольких метров, так что о прицельной стрельбе на такую дальность не могло быть и речи).
Вторая причина — немалая стоимость такого оружия придавала владельцу больший вес как в самооценке, так и в обществе. Цена пистолета составляла на начало производства около 5 тысяч немецких марок (для сравнения, автомобиль «Опель» тогда стоил около 3 500 марок). Позднее цена значительно снизилась. По цене на пистолет есть и такая информация — каталог магазина «Все для господ охотников и рыболовов» "Незаменимый Подарок для господ путешественников- Автоматический пистолет-карабин фирмы Маузер- 238 руб 87 коп. По каталогу торгового дома «Ф. Фальковский и М. Широкоряденко» от 38 до 45 руб.
Большая стоимость пистолета сделала его подходящим подарком молодому кавалеристу Уинстону Черчиллю от состоятельной матери. Черчилль использовал этот пистолет в кавалерийских атаках во время англо-бурской войны.
Модель К-96 — один из рекордсменов по количеству модификаций, которых имелось более ста.