Mgr Puyol, né à Bayonne, connut, depuis sa petite enfance, le Père Cestac. Il en écrivit la biographie, éditée en 1878. Nous y lisons :
"Le bon père était d'une taille un peu en dessous de la moyenne, bien proportionné ; son tempérament était sain et robuste. L'aspect de l'homme inspirait, dès le premier abord, la sympathie et la déférence. Les traits étaient recueillis, la physionomie douce et fine, le sourire bienveillant, le regard scrutateur.
L'accueil du Bon Père était agréable et facile ; sa conversation variée, pittoresque, captivante ; son humeur égale et enjouée. Le timbre plein et clair de la voix avait un accent pénétrant. Le geste, sobre et expressif, accompagnait heureusement la parole.
L'intelligence du Bon Père, vaste et facile, pouvait atteindre, et atteignit en effet avec succès, aux branches les plus diverses des connaissances humaines. Il se jouait sans fatigue aux problèmes les plus ardus.
La volonté était ferme. Lentement, mais sûrement, paisiblement, mais invinciblement, le fondateur travaillait au succès de ses desseins, sans qu'aucun obstacle pût le décourager.
Chance extraordinaire ! Cet esprit d'élite, ce caractère de fer, était doué du cœur le plus tendre… Il alliait une extrême sensibilité aux qualités, ce semble, les plus opposées. C'est par le cœur qu'il exerça surtout l'influence et compléta merveilleusement le rare ensemble de ses facultés.
Tel était l'homme."
Dans son ouvrage "L'héroïsme sacerdotal", édité vers 1890, l'abbé de Madaune esquisse en quelques traits les portraits comparés de Michel Garicoïts et de Louis-Édouard Cestac. L'auteur, originaire d'Auriac (Pyrénées Atlantiques), a connu les deux prêtres dont il écrit une courte biographie.
"A l'instar de Saint-Paul, l'épée à double tranchant à la main, l'abbé Garicoïts court à tous les combats en répétant : "Ecce venio"… En lui, c'est un épanouissement complet de la nature basque, ardente, rude et militante. Ame plus paisible et plus douce, piété souriante, épanouie, humaine dans son élévation surnaturelle, l'abbé Cestac rencontre la victoire en invoquant le seul nom de Marie…
Dès l'enfance, avide d'harmonie, Louis-Édouard tient supérieurement l'archet ; la main nerveuse de Michel, au contraire, se plaît à serrer le maquila. L'un chante, les yeux levés vers le ciel ; l'autre prie à genoux, la tête inclinée vers la terre.
Et néanmoins, Dieu entendait ces deux âmes s'élevant également vers lui dans un rythme si différent."
M. Ardoin était lieutenant commandant militaire de la Villa Eugénie, à Biarritz. Témoin au procès de l'Ordinaire (1898 - procès relatif à la Béatification et à la Canonisation), il donne quelques traits du Père Cestac.
"J'ai connu personnellement le Père Cestac à partir de 1856.
M. Cestac avait un tempérament calme, son activité était le fruit de son zèle. Sa santé était bonne, son endurance peu ordinaire. Il était ferme, mais non pas dur. Son attitude sans être raide, ni compassée était très modeste. Son regard très doux reflétait le sentiment de son âme. Sa conversation était entraînante et intéressante, sans affectation. Elle était édifiante ; elle jaillissait de son cœur. Il accueillait volontiers les observations. Il était à la fois austère et aimable.
M. Cestac avait une grande sincérité dans ses paroles et dans ses actions. Il était droit comme un "i". Il sentait vivement les choses, mais ne se laissait jamais emporter par la colère. Je ne l'ai jamais vu dans cet état."
C.L. Dubosc de Pesquidoux, homme de lettres, visita, avec un ami, Notre Dame du Refuge. Il y rencontra le Père Cestac. Le portrait qu'il en donne parut d'abord dans la "Revue du Monde Catholique" en 1874, puis dans l'ouvrage "Vierges et Repenties" en 1888.
"L'abbé Cestac était alors un homme de soixante et quelques années, sympathique et doux, discret et poli, à l'air sacerdotal et paternel, petit, un peu gros ; l'œil fin, intelligent et attractif ; spirituel, parlant bien, mais vivant, il faut le dire, plus au ciel que sur la terre.
En le voyant et en l'entendant, on ne s'étonnait plus qu'il eût été choisi pour une pareille œuvre : sa foi, sa piété, son amour de Dieu, son amour des hommes, le prédestinaient aux faveurs divines et le rendaient digne de l'accomplir. On doit ajouter que son intelligence et sa science étaient au niveau de sa piété et de sa foi.
L'abbé Cestac appartenait à cette forte génération de prêtres et de religieux qui, par ses hautes et puissantes facultés, son labeur incessant, ses productions éminentes, contribua non moins que par ses vertus, à la réaction religieuse de notre siècle et aux victoires de l'Eglise."
Né à Bayonne en 1819, J. Labat fut maire de sa ville natale, de 1852 à 1869. Appelé comme témoin aux procès de l'Ordinaire (1898) et Apostolique (1909), procès relatifs à la Béatification et à la Canonisation , il donne quelques éléments de la physionomie du Père Cestac.
"J'ai connu personnellement le Père Cestac. J'ai eu des rapports avec lui depuis 1850 environ jusqu'à sa mort.
Je l'ai toujours connu très poli, très courtois, très exact à rendre les devoirs de civilité et à garder les convenances sociales. Sa physionomie reflétait la bonté et la charité qui le portaient à rendre service à tout le monde. Son regard, qui m'a toujours frappé, se portait vers le ciel et indiquait où se trouvait habituellement sa pensée. A en juger par son extérieur et par sa conversation, il était très humble, il ne parlait jamais de lui-même et ne paraissait pas préoccupé de sa personne."
Savant agronome, J. Schneider, vint à Biarritz, en 1854 ; plus tard, il s'y établit. Dans son ouvrage "Le Monastère d'Anglet dit Notre Dame du Refuge", paru en 1873, nous lisons :
"Qu'il nous soit permis d'esquisser le portrait de M. l'abbé Cestac.
La tête de l'abbé Cestac offrait un aspect agréable, distingué et bienveillant : traits réguliers, peau fraîche et chevelure blanche à l'époque où nous l'avons connu… La mobilité, la pénétration du regard annonçaient un esprit vif et scrutateur ; la finesse du sourire, la contraction de la bouche annonçaient une réserve sage. Sa parole était douce et persuasive, mystique le plus souvent, prédicatrice volontiers, s'élevant en chaire jusqu'à l'éloquence. Le geste répondait à la parole et complétait ce maintien où le moins clairvoyant juge un homme qui se possède, dont la puissance aussi, mitigée par la grâce, s'impose facilement. De taille moyenne et robuste, d'un tempérament sain et nerveux, sous l'observance d'une sobriété inaltérable, le créateur du monastère avait pu braver bien des fatigues, subir bien des épreuves.
On comprenait que, dans une telle individualité, la force physique n'avait jamais dû faire défaut à l'appel de la volonté, c'est-à-dire de l'intelligence. Intelligence vaste qui s'ouvrait à toutes les aptitudes, même les plus exclusives chez la plupart des hommes : virtuose, par exemple, et mathématicien ; littérateur et philosophe tour à tour ; organisateur, gérant, agronome, négociant, industriel et marchand. Esprit net et positif, dont la fécondité a engendré des institutions multiples et si diverses, sans qu'elles se confondissent jamais, tout en se raccordant entre elles…
A ces qualités que l'on ajoute les vertus de l'abbé Cestac et l'on aura, comme ensemble, l'un des beaux caractères de notre époque."