Главный герой рассказа – глухонемой от рождения дворник Герасим, которого старая барыня привезла в город и определила дворником. Это нелюдимый, но трудолюбивый, ответственный и чуткий человек с добрым сердцем. Понравившуюся герою девушку барыня выдает замуж за другого дворового человека и отправляет жить в деревню. Единственным близким Герасиму существом становится бездомный щенок, которого он спасает и оставляет жить у себя в каморке. Щенок Муму не признает никого, кроме хозяина. И тем вызывает гнев барыни, которая требует немедленно убрать собачку. Крепостной Герасим не может ослушаться и оказывается в драматической ситуации, когда он вынужден убить дорогое ему существо.