В девятом веке, задолго до изобретения пороха, в употреблении уже находилось нечто вроде гранаты. Во врага швыряли глиняный сосуд, наполненный негашеной известью. Подлинные образцы ранних глиняных гранат сохранились в Каире. Горшки, набитые различными зажигательными составами, метали руками. Их не всегда делали из глины. Для этой цели иногда использовали кору, папирус или стекло — выбор материала определялся в основном тем соображением, что сосуды должны при падении разбиться на мелкие кусочки и разметывать свое содержимое как можно дальше. Их продолжали часто использовать вплоть до конца ХШ века.

Новая эпоха гранат началась в начале пятнадцатого века. В корпус, сделанный из глины, засыпали порох или горючую жидкость. Называли это оружие тогда бомбами, а их устройство было довольно примитивным. Вся эта композиция снабжалась активирующим устройством в виде простейшего фитиля, а металась она в места наибольшей концентрации неприятеля. К середине семнадцатого столетия во всех армиях мира появились подразделения гренадеров. В эти войска брали мужчин крепкого телосложения, высоких и сильных. Эти требования диктовались тем, что ручные гранаты того времени были тяжелыми, а бросать их нужно было далеко.

Время шло, технологии развивались, гранаты становились безопаснее для метателя, но причиняли все больше вреда врагу. Толчком для развития их как вида компактного вооружения стала Русско-японская война, начавшаяся в 1905 году. Во время сражения при Мукдене японцы впервые применили ручные осколочные гранаты с деревянной ручкой, имевшей двойное назначение: для удобства броска и стабилизации. С этого момента началось стремительное развитие «карманной артиллерии».

Известную всем «лимонку» изобрел британец Мартин Хейл. Устройство ручной гранаты примерно за столетие принципиальных изменений не претерпело. Новшество же заключалось в новом виде корпуса (или «рубашки»), рационально поделенного на правильные геометрические сегменты числом 24. «Рубашка» рифленой сегментированной формы заполняется взрывчатым веществом. В центре есть круглое отверстие, в которое заходит при завинчивании цилиндрический запал. Задержка детонации осуществляется за счет известной скорости горения порохового столбика, есть и такая необходимая вещь, как предохранение от случайного срабатывания. Именно так устроены ручные осколочные гранаты в своем большинстве, вне зависимости от страны производителя и марки. Стоит отметить, что революционность конструкции Хейла состояла еще и в возможности использования для доставки боеприпаса к цели обычной армейской винтовки. Граната Хейла стала прообразом современного подствольного снаряда.

Последующие десятилетия добавили разнообразия в ассортимент гранат: появились свето-шумовая, сигнальная, или ручная дымовая граната, а также начиненная слезоточивым газом. Это «гуманное» оружие относится к нелетальным средствам, предназначенным для пленения противника или преступников, а также для обеспечения на поле боя благоприятных условий при отступлении или маневре.