Γεννήθηκε στις 18 Ιανουαρίου του 1914 στην Κίο της Μικράς Ασίας, σε ηλικία δυο ετών έμεινε ορφανός από πατέρα, ενώ επτά χρόνια αργότερα έζησε τη Μικρασιατική Καταστροφή. Εγκαταστάθηκε με τη μητέρα και τη γιαγιά του στη Σαμοθράκη αλλά λίγο αργότερα μετακόμισαν στον Πειραιά, και συγκεκριμένα στις Τζιτζιφιές. Από μικρός εργάστηκε ως ψαράς, μαραγκός, σε συνεργείο αυτοκινήτων και σε οικοδομές και σταμάτησε να πηγαίνει σχολείο από νωρίς. Υπήρξε κουμπάρος και στενός συνεργάτης του Βασίλη Τσιτσάνη.
Πρωτοεμφανίσθηκε επαγγελματικά δίπλα στους Μάρκο Βαμβακάρη και Στέλιο Κερομύτη το 1937. Πρώτο του τραγούδι ήταν η Φαληριώτισσα που κυκλοφόρησε σε δίσκο και γνώρισε τεράστια επιτυχία. Ακολούθησαν πλήθος άλλων που έχουν στίχους του, μουσική του ή και τα δύο, μεταξύ των οποίων και είναι τα: Καπετάν Αντρέας Ζέπος, Πέντε Έλληνες στον Άδη, Άνοιξε, άνοιξε, Μοδιστρούλα, Γλέντα την ζωή, Βαδίζω και παραμιλώ, Πριν το χάραμα, Πώς θα περάσει η βραδιά, Σβήσε το φως να κοιμηθούμε, κ.ά.
Γενικά τα τραγούδια του Γ. Παπαϊωάννου χαρακτηρίζονται από ένα κράμα καντάδας, μπάλου και μικρασιάτικων ακουσμάτων. Θεωρείται ο πρώτος, στο λαϊκό ρεμπέτικο τραγούδι, που χρησιμοποίησε στις ηχογραφήσεις του το λεγόμενο "πρίμο σεκόντο" (διφωνία).
Ο Γιάννης Παπαϊωάννου ήταν ο πρώτος Έλληνας λαϊκός συνθέτης που ταξίδεψε στην Αμερική, το 1953, για να τραγουδήσει στους εκεί απόδημους Έλληνες. Μετά την επιστροφή του έμεινε μόνιμος συνεργάτης του Βασίλη Τσιτσάνη. Στο χώρο του είχε το παρατσούκλι Ψηλός ή Πατσάς.
Σκοτώθηκε στις 3 Αυγούστου του 1972 σε ηλικία 58 ετών σε τροχαίο δυστύχημα, στο Νέο Πέραμα οδηγώντας νωρίς το πρωί πηγαίνοντας για το εξοχικό του στην Σαλαμίνα και κηδεύτηκε στο νεκροταφείο της Καλλιθέας.
