Van Gaal nemzetközi színtéren az Ajax Amsterdam együttesével vált ismertté. Irányításával a piros-sávos alakulat 1992-ben UEFA Kupát, majd három év múlva az elsőszámú kontinentális vetélkedést, a Bajnokok Ligáját is megnyerte. A németalföldi sikerek után Spanyolországba szerződött, ahol a Barcelonával kétszer végzett a bajnokság élén, egyszer pedig a kupában diadalmaskodott.
Utódjaként a közvélemény szívesen látná Marco van Bastent, aki játékosként háromszor is elnyerte az Aranylabdát. Az Ajax majd később az olasz AC Milan támadója a válogatottal is sikeres volt: 1988-ban öt góllal járult hozzá az Oranje Európa-bajnoki címéhez. Kinevezését mindössze egy tény hátráltatja: nem rendelkezik a professzionális csapatok irányításához szükséges edzői papírokkal. Természetesen erre az "apróságra" is a találtak orvosságot. A Holland Labdarúgó Szövetség ugyanis felajánlotta van Bastennek, hogy végezzen el egy gyorsított edzői tanfolyamot.