Alsórajk a 9. század környékén alakulhatott. Régészeti leletek alapján a mosaburgi fejedelemség idején egy kisebb szláv település állhatott a mai falu helyén. A településen 1239-ben alapult egy premontrei kolostor, azonban a falu első írásos említése csak 1247-ből való. Jelentősebb település minden bizonnyal azonban csak a 15. századra fejlődött Alsórajkból, amely ekkor már saját templommal is rendelkezett. A 16. században a törökök ellen kisebb palánkvár is épült, amelyet először 1588-ban foglaltak el. 1595-ben a szigeti bég ostromolta, majd 1600-ban elfoglalták és lerombolták a törökök a településsel együtt.

Alsórajk az 1730-as évekig lakatlan maradt, azonban ekkor hamar benépesedett. 1748-ban malom is épült a szőlőműveléssel is foglalkozó településen. A 19. században a település egy viszonylag gazdag mezőgazdasági településnek számított, működő iskolával és híres szarvasmarha-állománnyal.

Az 1950-es évektől lassan épült ki az infrastruktúra, kisebb mértékű elvándorlás sújtotta a települést.