Prvá zmienka o obci je z roku 1272 Ilsawa. V ďalšom historickom vývoji sa názov obce menil nasledovne: 1290 Elswa, 1335 Ilsua, 1427 Ozwa, 1630 Osswa, 1773 Olssowjany, 1786 Olschawiani, 1920 Olšovjany, 1927 Olšoviany, 1948 Olšovany. Po maďarsky sa obec úradne nazývala Ósva.
Obec patrila pod Abovsko-turniansku župu, okres Košice, Košický kraj. Po roku 1960 sa obec začlenila pod okres Košice – vidiek, Východoslovenský kraj.