Olsza szara należy do rodziny brzozowatych. Jest to drzewo średniej wielkości, na ubogich glebach tworzy formy krzewiaste. Występuje głównie na terenach górzystych i wyżynnych, zwłaszcza w pobliżu rzek. Ma niskie wymagania glebowe.

Liście elipsoidalne zakończone czubkiem, podwójnie piłkowane, na dosyć krótkim ogonku. Wierzchnia strona gładka ciemno zielona, spodnia jaśniejsza z wyraźnie widocznym unerwieniem.

Nasiona umieszczone są w charakterystycznych jajowatych szyszeczkach wielkości ok 1 cm. Początkowo zielone, po otwarciu brązowieją. Szyszeczki umieszczone są na bardzo krótkich ogonkach.

Kora szara, gładka jedynie z niewielkimi pęknięciami.

Podobna do olszy szarej jest olsza czarna. Olsza czarna posiada jednak silnie spękaną, ciemniejszą korę, jest także drzewem wyższym. Olsza szara występuje głównie na terenach górskich i wyżynnych w niższych terenach ustępuje miejsca olszy czarnej.