À Bagni San Filippo, dans la commune de Castiglione d'Orcia, se trouve une chapelle très spéciale et rare car elle est creusée dans une roche de travertin. Elle tire son nom du saint Philippe, prieur des Serviteurs de Marie, un ordre mendiant de l'Église catholique, qui s'y est réfugié en 1269 après sa nomination à la papauté à la mort de Clément IV. Il refuse cette responsabilité et se rend au Mont Amiata pendant plusieurs mois.
Certains textes écrits par l'Ordre de Marie relatent le fait que lorsque le Saint a trouvé cette grotte, il a miraculeusement réussi à en faire sortir de l'eau. C'est ainsi que sont nés les Bagni di San Filippo, en remerciement aux populations locales qui l'avaient accueilli et aidé à l'époque. La dévotion des habitants a permis de transformer cette caverne d'abord en une chapelle, puis en un ermitage.
À l'intérieur de la grotte se trouvent un buste en plâtre du saint (XVIIIe siècle) et un crucifix en bois, logé dans un tabernacle qui, selon la tradition, a été sculpté par saint Philippe.
Bagni San Filippo doit son origine à la présence d'eaux thermales aux propriétés thérapeutiques connues depuis l'Antiquité. Près du village, le Fosso Bianco (fossé blanc) mérite une visite : les eaux y coulent en créant, avec les dépôts calcaires laissés par leur passage, un paysage de roches blanches.