Thánh Gioan sinh tại Senas miền Toscane nước Ý. Người ta hầu như không biết gì về thời thơ ấu của ngài. Chỉ biết ngài lên ngôi Giáo Hoàng ngày 13-8-523. Là một con người rất nhiệt thành, suốt đời ngài chỉ sống câu: “Sống vì danh Chúa”. Ngài rất có công trong việc hoàn tất điệu hát bình ca (chant grégorien) mà các vị tiền nhiệm đã khởi xướng: Ðức Cêlestinô I, Lêô Cả và Gêlase. Ngài còn tỏ ra là một vị chủ chăn đầy khôn ngoan và đạo đức. Năm 624, vua Auguste Justin I bên Tiểu Á, vì nhiệt thành với tôn giáo và cũng nhằm lợi ích chính trị, muốn thống nhất Giáo Hội nên đã đàn áp nhóm lạc giáo Ariô và chiếm hữu các cơ sở tôn giáo của họ. Việc đàn áp này đã gây nên một cuộc bất mãn và sinh ra sự chống đối tôn giáo và chính trị, và Ðức Gioan I chỉ là một con cờ hy sinh. Tại Rôma, vua Théođoric thuộc phái Ariô khi hay tin việc đàn áp này, liền nổi giận gửi tối hậu thư cho vua Justin, nhưng không kết quả.

Théođoric mới bắt Ðức Giáo Hoàng Gioan làm con tin và buộc dẫn đầu đoàn sứ giả sang vua Justin đòi trả lại tài sản và cho nhóm Ariô được tự do truyền đạo. Ðã nhiều lần ngài đứng lên phản đối trước mặt nhà vua. Sau cùng ngài chấp thuận đi. Lần đầu tiên trong lịch sử một Giáo Hoàng rời khỏi nước Ý. Vua Justin và toàn dân Constantinople hân hoan tưng bừng đón rước ngài. Ngài chủ lễ Phục Sinh tại Sainte Sophie một cách long trọng có mặt tất cả triều đình, dân Hy Lạp và La Tinh nữa. Nhà vua xin ngài phong vương, ngài đã đặt vương miện cho nhà vua.

Khi về Rôma, vua Théođoric cho rằng ngài đã hành động ngược lại với mình, liền bắt ngài, định đem xử tử nhưng còn sợ dân chúng dấy loạn, liền giam ngài tại Ravenne và bỏ đói cho đến khi chết. Ngài lìa trần ngày 18-5-526. Xác ngài được đưa về Rôma ngày 27-5-530 và chôn cất trong vương cung thánh đường Vatican.