Na počátku 14. století, s akvizicí Rhodu a dalších ostrovů tohoto souostroví, Řád sv. Jana získal rysy státu. Vláda, kterou řídí velmistr a Rada, vydávala své vlastní peníze a udržovala diplomatické vztahy s ostatními státy.

Noví rytíři přicházeli na Rhodos z celé Evropy a bylo přirozené, aby se spojili s těmi, kteří mluvili stejným jazykem a sdíleli stejné tradice.

Generální kapitula Řádu, která se sešla v Montpellieru v roce 1319, se rozhodla seskupit špitálníky do homogenních jazykových skupin, tzv. Jazyků. Každý z těchto Jazyků zahrnoval velkopřevorství nebo převorství, baillivy a komendy.

Jazyky nesledovaly vzor národních států, ale spíše územně-lingvistické identity západní Evropy.

Existovaly také některé výjimky, jelikož například Poláci a další Slované (včetně českých zemí) spadali pod německý Jazyk, i když nemluvili německy.

Z počátku existovalo v rámci Řádu sedm Jazyků: provensálský, auvergnský, francouzský, italský, aragonský (navarrský), německý a anglický. V roce 1492 se pak Kastilie a Portugalsko oddělilo od Jazyka aragonského a vznikl tak osmý Jazyk (kastilský). Každý Jazyk měl vlastního představeného (takzvaný pilier), který později zastával jeden z vysokých úřadů Řádu. Všechny Jazyky, nejprve na Rhodu a poté i na Maltě, měly také vlastní „auberge“ neboli hostinec, využívaný k ubytování, pro schůzky a jídlo, které – přinejmenším na začátku – musely být společné.

Tato vnitřní reorganizace rytířů svatého Jana byla více či méně dokončena v polovině 15. století a vydržela až do konce 19. století.

Ztráta Malty (1798) přinesla konec starého rozdělení do Jazyků. Řád se začal reorganizovat a po usazení v Římě v roce 1834 vznikaly národní asociace. Němci jako první založili asociaci v roce 1859, po nich následovali Britové v roce 1875 a Italové v roce 1877. Členové Řádu jsou nyní seskupeni do „dědiců tradice starých Jazyků“: 6 velkopřevoství a 47 národních asociací na pěti kontinentech.