Sur le premier moyen :
Vu l'article 900 du code civil, ensemble, l'article 1134 du même code ;
Attendu qu'il résulte du premier de ces textes qu'une clause pénale privant de ses droits dans une succession un héritier qui conteste les dispositions testamentaires, est réputée non écrite lorsqu'elle tend à assurer l'exécution de celles portant atteinte à l'ordre public ; que, toutefois cet héritier encourt les effets de la clause si sa contestation est jugée infondée ;
Attendu qu'Yves X... est décédé le 28 février 1998 en laissant pour héritiers non réservataires ses deux petites nièces, Mmes Hélène et Danielle Z... (les consorts Z...) et, pour légataires, Mmes Hélène et Noëlla A... et M. Louis A... (les consorts A...), institués en vertu d'un testament olographe en date du 21 mars 1990 lequel stipulait également que "toute contestation de la part d'un héritier entraînera la suppression de son héritage" ; que les consorts A... ont assigné les consorts Z... en délivrance de leur legs ; que ces derniers, qui en ont sollicité la révocation pour cause d'ingratitude des légataires, ont été déboutés de leur action ;
Attendu que pour décider que la clause d'exhérédation ne saurait trouver application, l'arrêt retient que la demande en révocation du legs pour cause d'ingratitude intéressait l'ordre public ;
Qu'en statuant ainsi, alors que l'arrêt avait débouté les consorts Z... de leur action en révocation pour ingratitude, ce dont il résultait qu'ils devaient subir, dans toutes ses conséquences, la condition qui, de la part du testateur, avait pour objet de prévenir une contestation infondée, la cour d'appel a violé les textes susvisés ;
PAR CES MOTIFS et sans qu'il y ait lieu de statuer sur les autres griefs du pourvoi :
CASSE ET ANNULE, mais seulement en ce qu'il a dit que la clause d'exhérédation n'avait pas vocation à s'appliquer, l'arrêt rendu le 4 mai 2004, entre les parties, par la cour d'appel de Rennes ; remet, en conséquence, sur ce point, la cause et les parties dans l'état où elles se trouvaient avant ledit arrêt et, pour être fait droit, les renvoie devant la cour d'appel de Rennes, autrement composée ;
Laisse à chaque partie la charge de ses propres dépens ;
Vu l'article 700 du nouveau code de procédure civile, rejette la demande des consorts Z... ;
Dit que sur les diligences du procureur général près la Cour de cassation, le présent arrêt sera transmis pour être transcrit en marge ou à la suite de l'arrêt partiellement cassé ;
Ainsi fait et jugé par la Cour de cassation, première chambre civile, et prononcé par le président en son audience publique du vingt février deux mille sept.