Ο John Kemeny γεννήθηκε στην Βουδαπέστη της Ουγγαρίας στις 31/05/1926 σε μια οικογένεια Εβραίων. Οι θρησκευτικές αυτές πεποιθήσεις σε συνδυασμό με τον 2ο νόμο κατά των Εβραίων στην Ουγγαρία ήταν οι λόγοι που οδήγησαν την οικογένεια του John στη μετανάστευση στην Αμερική και συγκεκριμένα στην Νέα Υόρκη το έτος 1940. Ο 14χρονος νεαρός ξεκίνησε να παρακολουθεί το λύκειο George Washington από το οποίο μάλιστα αποφοίτησε με εντυπωσιακούς βαθμούς. Από εκει και μετα μπήκε στο πανεπιστήμιο του Princeton στο οποίο μελέτησε μαθηματικά και φιλοσοφία. Άξια αναφορας είναι και η δουλειά του σαν μαθηματικός - βοηθός του Albert Einstein. Τέλος , πηρε το πτυχίο του και εκανε το διδακτορικο του στο ιδιο πανεπιστημιο , διδακτορικο για το οποιο βραβευτηκε με τιτλο “type-theory vs set-theory”.
