Nació en Matera, ciudad de la Basilicata, que formaba parte del Reino de Nápoles. Siendo aún niño Juan soñaba con vivir como un ermitaño. Al llegar a la mayoría de edad decidió ingresar a un monasterio. Al no hallar lo que buscaba, fue cambiando de ciudad en ciudad, hasta que recaló nuevamente en la Basilicata. Tras una serie de desventuras y sinsabores Juan se dirigió al Monte Gárgano, y en Pulsano, a 10 kilómetros, erigió un monasterio en el que fue abad hasta su muerte ocurrida el 20 de junio de 1139.