Muito pouco se sabe a respeito da biografia destes santos do primeiro século. As informações disponíveis são do Martirológio Romano e de uma referência de São Policarpo. Consta que eram discípulos de Jesus.
A verdadeira Fé havia sido levada a Filipos por São Paulo, sendo a primeira comunidade cristã que fundou na Europa e para a qual escreveu uma carta constante do Cânon bíblico. Parece que Rufo e Zózimo acompanhavam São Paulo nessa ocasião. A cidade, cujo nome homenageava Felipe II, pai de Alexandre Magno, era localizada no leste da antiga província da Macedônia, a 13 km do mar Egeu, no topo de uma colina (atualmente, Grécia). A maioria dos cristãos era ali formada, na época, por ex-pagãos, e também, em menor número, convertidos do judaísmo. Ali também foram perseguidos os cristãos.
São Policarpo (69 – 155 d.C.), exalta os mártires locais, em carta aos fiéis do lugar, enquanto seguia para a Turquia, ele mesmo a caminho do martírio: “Estou muito satisfeito convosco em Nosso Senhor Jesus Cristo, por terdes recebido os modelos da verdadeira caridade. Eu vos exorto a obedecerdes e a exercerdes a vossa paciência, aquela que tendes visto com vossos próprios olhos, não só nos bem-aventurados Inácio, Rufo e Zózimo, mas também em outros vossos concidadãos, no próprio Paulo e nos outros Apóstolos. Estejam certos de que todos estes não têm corrido em vão, mas na fé e na justiça, que eles estão juntos do Senhor, no lugar que lhes é devido pelos sofrimentos que suportaram. Porque eles não amaram o século presente, mas Aquele que por nós morreu e que para nós foi ressuscitado por Deus.”
São Rufo e São Zózimo foram condenados a serem devorados pelas feras no circo romano, em 107.