圣若瑟·奥利沃是西班牙国巴塞罗那人。襁褓时丧父，由母亲抚养成人。幼年时，加入圣堂唱经班，教士们见他常常跪在圣体前祈祷，觉得他可能有铎品的圣召，教他写字读书，又送他入大学读书，考取博士学位。

若瑟晋升铎品后，因家贫母亲无人奉养，一度担任家庭教师，养活老母。

为了克苦，若瑟许愿终生守斋。除麦饼清水外，不食其它物品。他常穿最破旧的衣服，在街道上，常受到行人侮辱。

1686年，老母去世，若瑟启程往罗马，朝谒宗徒陵墓，全程步行。教宗派他任巴塞罗那某教堂本堂司铎。他的生活仍如以前一样朴素；他租了一间小室，室内只有一尊苦像，一张桌子，一张凳和几本书。他不需要床，因为他夜间只睡两三小时。堂区全部收入都救济了贫民。

若瑟辅导人灵有特殊的才能，一日内大部分时间都在听告解。他很爱向幼童讲解要理，兵士们见他和蔼可亲，都乐于接受他的指导。

若瑟做了一个时期的本堂神父，突然想往远地传教。他立即启程，准备向罗马传信部提出申请。当地信友苦苦挽留他，可是若瑟主意很坚决，他到了马赛，突患重病。病中圣母显现给他，劝他打消这计划，回到巴塞罗那去。

若瑟回到巴塞罗那，居民欣喜欲狂。他得了治病的神能，常以灵迹治愈病人。若瑟的听告解司铎，嘱他今后不可再在圣堂里显灵迹，因为每次灵迹发生，欢声雷动，秩序大乱。

若瑟预知自己的死期，他领全圣事，嘱人们高声诵念圣母苦难经，就在经声中，瞑目安逝。时在1702年3月23日，享年53岁。

死讯传出，信友涌往圣堂，瞻仰遗体。到了殓葬的日子，因为人数太多，不得不将堂门紧闭。

1909年，圣若瑟·奥利沃荣列圣品。