Wymagało to odwagi i stanowczości, ponieważ Fulbert od momentu niespodziewanej ucieczki swej siostrzenicy nie przestawał pienić się z wściekłości. Opanował jednak swój gniew i zgodził się przyjąć Abélarda. Młody człowiek błagał go o przebaczenie i wyraził gotowość poślubienia Heloizy pod warunkiem, iż ten fakt zostanie utrzymany w tajemnicy. Nie chciał narażać na szkodę swej moralnej opinii i naukowej pozycji (małżeństwo duchownego niższego rangą w hierarchii kościelnej, aczkolwiek dozwolone prawem kanonicznym, spotykało się w ówczesnym francuskim społeczeństwie, ostentacyjnie preferującym celibat, z potępieniem).

Oficjalne zawarcie związku małżeńskiego było w stanie zadowolić Fulberta lub przynajmniej go ułagodzić. Zajęty wyłącznie sobą Abélard nie wiedział jednak, że dla wuja Heloizy potajemny ślub w ogóle nie wchodzi w rachubę. Fulbert zaś przystał na tę propozycję prawdopodobnie dlatego, iż sądził, że łatwiej mu będzie w ten sposób zemścić się na niewdzięczniku, co już prawdopodobnie obmyślał. Abélard jako jego zięć stanowił znacznie dostępniejszy cel, niezależnie od formy, jaką by miała przybrać ewentualna zemsta.

Po uzyskaniu zgody opiekuna Heloizy Abélard wyruszył do Bretanii po ukochaną. Jak zawsze skoncentrowany na sobie, nie pomyślał, że najpierw ją powinien zapytać o zdanie. Tym bardziej więc zaskoczyła go odmowa. Heloiza tłumaczyła, że nie chodzi jej o to, iż samowolnie rozporządził jej osobą, lecz że kieruje nią przede wszystkim troska o jego naukową karierę. Nawet - dowodziła - gdyby udało się utrzymać ślub w tajemnicy, byłoby zbrodnią obarczać najświetniejszy umysł w Europie takimi przyziemnymi sprawami jak rodzina i dzieci. Zbijała wszelkie jego argumenty, odwołując się nawet do autorytetu eseistów starożytnego Rzymu oraz ojców i doktorów Kościoła. W końcu zaproponowała w desperacji, że będzie żyła z nim bez ślubu. Pozwoli mu to - przekonywała - zachować status człowieka wolnego, który, jeśli kiedyś w przyszłości zechce wybrać samotność, będzie mógł to bez trudu uczynić. Argumenty Heloizy nie zdały się jednak na nic; Abélard pozostał nieugięty.

Zgodziła się go poślubić - napisał później Abćlard w swych pamiętnikach - ponieważ nie mogła zdobyć się na to, by sprawić mu ból, udawać, że go nie kocha, narazić go na złamanie obietnicy danej wujowi. Ślub odbył się bez żadnych fanfar. Świadkami cichej ceremonii było zaledwie kilku krewnych i przyjaciół. Po zakończonej uroczystości kochankowie rozeszli się w różne strony; od tej pory widywali się jedynie z rzadka i zawsze w najgłębszym sekrecie.

Układ nie trwał długo. Wieść o ich małżeństwie w krótkim czasie stała się publiczną tajemnicą. Pogłoski takie umyślnie rozgłaszała jej rodzina, której przewodził Fulbert. Przez wzgląd na Abélarda Heloiza, ilekroć ktoś ją o to zapytał, zaprzeczała gorąco. Kiedy Abćlard się dowiedział, że za te kłamstwa Fulbert obrzuca ją wyzwiskami, postarał się, by przeniesiono ją do zakonu, w którym przebywała w dzieciństwie (ich synem w dalszym ciągu opiekowała się siostra w Bretanii). Ten postępek tak rozwścieczył Fulberta i jemu bliskich, że bez zwłoki postanowiono nieszczęśnika ukarać. Pod Osłoną nocy paru wynajętych zbirów wdarło się cichaczem do jego domu, pochwyciło go i wykastrowało.

Abćlard potrafił znieść ból, ale nie upokorzenie. Jako człowiek ambitny nade wszystko obawiał się śmieszności. Schronił się w słynnym klasztorze Benedyktynów w Saint-Denis, gdzie złożył śluby wieczyste. Kategorycznie zażądał od Heloizy, by zrobiła to samo. Zastosowała się do woli męża, ponieważ chciała dzielić jego niedolę; została zakonnicą benedyktynką w klasztorze oddalonym od jego samotni o kilka kilometrów. Była wstrząśnięta i przytłoczona świadomością, że już nigdy w życiu się nie połączą.

Kłótliwe usposobienie Abćlarda komplikowało mu życie w ciasnych pomieszczeniach klasztoru Saint-Denis. Raziły go brak dyscypliny i korupcja zakonników, których za to jawnie potępiał. Napięcie między nim a "pobożnymi" osiągnęło w końcu taki stopień wrogości, że wystąpił do władz kościelnych z prośbą o zezwolenie opuszczenia klasztoru. Osiedlił się na wsi; na kawałku ziemi postawił prymitywną chatkę, w której oddawał się kontemplacji. Ale niedługo dane mu było cieszyć się samotnością. Wieść o tym, że jeden z najsłynniejszych filozofów epoki opuścił zakon, rozeszła się lotem błyskawicy po innych krajach. Wkrótce spragnieni wiedzy studenci zaczęli ściągać do jego zacisza ze wszystkich zakątków Europy. Początkowo stawiali sobie w pobliżu jego chatki małe lepianki, by po pewnym czasie zastąpić je budyneczkami z kamienia. Zbudowali także skromny kościółek pod wezwaniem Świętego Ducha i wspólnie się modlili. Wzbudziło to gniew przeciwników Abćlarda, bacznie obserwujących jego poczynania. W ślad za tym poszło oskarżenie o kwestionowanie dogmatu Świętej Trójcy. Różnego rodzaju szykany, z których część miała poważny i urzędowy charakter, jak na przykład: wyklęcie, palenie książek, próby ze strony braci zakonnej zasztyletowania go i otrucia - miały go prześladować do końca życia.