A "bodeni tavi Beckenbauer"-nek nevezték. Labdarúgó pályafutását a honi Bregenz am Bodenseeben kezdte. Az 1978-as és az 1982-es világbajnokságok során söprögetőként az osztrák válogatott kimagasló egyéniségeihez tartozott. Cordobában Pezzey kiváló stratégiai érzékkel döntötte el a Németország elleni meccset 3-2-re hazája javára. Az 1978-as világbajnokság után az Eintracht Frankfurt-hoz igazolt, ahol 1980-ban UEFA-kupát nyert, majd 1981-ben a német kupát is elhódították.