Назва гурту походить з уривка Вірджинії Вулф, яка описує звичайних людей як «скромних людей мишачого кольору».
У 2003 році барабанщик Джеремая Грін покинув гурт; офіційне слово було таке він звільнявся, щоб працювати зі своїм сайд-проектом Vells. Його замінили двома учасниками, барабанщиком Бенджаміном Вайкелем (який також барабанив для The Helio Sequence) і гітаристом Денном Галлуччі (Murder City Devils).
Джуді покинув групу приблизно в 2011 або на початку 2012 року. Він повідомив членів групи, що залишає Modest Mouse напередодні запису для Strangers To Ourselves. За Айзеком Броком, Джуді «нарешті було досить. У нього троє дітей.
Скромна мишка, Американська альтернативна рок-група, відома своєю музичною своєрідністю та похмурими комічними текстами. Початковими членами були Ісаак Брок (нар. 9 липня 1975, Іссакуа, Вашингтон, США), Ерік Джуді (нар. 1974) і Джеремая Грін (нар.
Найдавніше відоме письмове використання терміну миша або миші стосовно комп’ютерного вказівного пристрою міститься в публікації Білла Інгліша «Комп’ютерне керування дисплеєм» у липні 1965 року. Це ймовірно, походить від його схожості з формою та розміром миші, а шнур нагадує її хвіст.