Ne postoje pouzdani podaci o njegovom postanku. Najverovatnije je da se pojavio prije više od 2.000 godina. Prilikom arheoloških iskopavanja u Uzbekistanu nađene su dve figurice od slonovače koje pripadaju periodu vladavine cara Huviške (II vijek). Stručnjaci smatraju da su to šahovske figurice. U V vijeku nastala je u Indiji posebna vrsta vojne igre na drvenoj ploči - "čaturanga", što znači četverodeoni.
Čaturanga je kao daleki predak današnjeg šaha bila igra koja je odražavala sastav i poredak tadašnje indijske vojske, koju su sačinjavala 4 roda: pješadija, konjica, slonovi i borna kola, a u sredini su se nalazili radža (kralj) i njegov savjetnik mantrin (današnja kraljica ili dama). Kretanje figura određivalo se bacanjem kocke. Igru su u VI vijeku prihvatili Perzijanci (čatrang), a od njih u VII vijeku Arapi su osvajanjem Irana preuzeli i tokom naredna dva vijeka bila je veoma populara u arapskim zemljama. Održavani su mečevi između najboljih igrača, proučena su moguća otvaranja (tabije) i sastavljeni su prvi problemi otvaranja (mansube). Kalif Harun-al Rašid je poslao krajem VIII vijeka francuskom vladaru Karlu Velikom na poklon šah od slonove kosti.
U IX vijeku Arapi su je pod imenom "šatrandž" prenijeli u Španiju, Šatrandž petstavlja viši oblik čaturange. Ishod borbe više ne određiju slučaj (bacanje kockice) već logika i snalažljivost igrača. Igra postaje veliku popularnost i širi se po evropskim zemljama sve do Islanda.
Francuski kralj Luj IX je 1254. godine izdao specijalni edikt koji je zabranjivao igranje šaha. U Evropi je šah usavršen uvođenjem rokade i povećenjem dejstva kraljice i lovca (kod Arapa je kraljica mogla ići samo po jedno polje u kosom smjeru, a lovac je mogao da skače koso na svako treće polje: pošto je teško bilo izvesti mat, postojala su dva načina da se pobedi - usamljivanjem protivničkog kralja i patom, koji se računao kao pobjeda za patiranu stranu).
Sa reformom su ukinuta ova dva načina pobede. Usavršavanjem od drevne čaturange igra je poprimala današnji oblik i nastala je u XV vijeku kada se 1497. pojavilo prvo štampano djelo o šahu koje je napisao španski šahist Lusena. Njegovo djelo su nastavili u XVI i XVII vijeku španac Ruy Lopez i italijani Polerio i Greco , sve dok u XVIII vijeku francuski šahovski majstor Philidor delom Analyse des echecs (Analiza šahovske igre) nije postavio temelje savremenoj šahovskoj teoriji.