Ardiles fiatalon sok más híres játékoshoz hasonlóan az utcán rúgta a bőrt, testvérétől a "Pitón" (piton) becenevet kapta kígyószerű cselezései miatt.[1] Profi pályafutását Argentínában kezdte az Instituto Atlético Central Córdoba csapatánál. Játszott még a Belgranónál és a Huracánnál. Az 1978-as világbajnokság után Angliába igazolt a Tottenham Hotspur-höz. Négy év után egy szezon erejéig kölcsönben játszott a francia PSG-nél, majd visszatért Angliába. Harmadik szezonjában a Tottenham-nél FA-kupát nyert a csapattal. A Tottenham-nél 1988-ig játszott, és a klub legendás játékosa lett. A Tottenham után a Blackburn Rovers-nél és a Swindon Town-nál játszott, majd a klub edzője lett.