事態(tài)進(jìn)一步惡化，格列高利準(zhǔn)備北上與神圣羅馬帝國境內(nèi)的諸侯會(huì)面，途徑意大利北部的卡諾莎城堡(城堡主人是托斯卡納家族的瑪?shù)贍栠_(dá)女伯爵)。在這種內(nèi)憂外患的嚴(yán)峻形勢下，亨利四世被迫妥協(xié)。他再也無法顧及自己高貴的國王身份，于1077年1月，決定冒著嚴(yán)寒前往卡諾莎覲見教皇，懇求他撤回開出教籍的敕令。與他隨行的還有他的妻子貝爾塔(薩伏依伯爵奧托和都靈女侯爵阿德萊德的女兒)、幼子康拉德(后來繼承了德意志國王(1087~1098)和意大利國王(1093~1098))以及少數(shù)僧侶、侍衛(wèi)。當(dāng)時(shí)統(tǒng)轄德國南部的王公貴族們理所當(dāng)然地不予放行，亨利一行只好取道阿德萊德女侯爵也就是亨利的岳母處，希望通過她治下的一條經(jīng)過阿爾卑斯山塞尼峰的山間小路到達(dá)卡諾莎。由于亨利此前曾經(jīng)意圖與貝爾塔離婚，一度鬧的沸沸揚(yáng)揚(yáng)，導(dǎo)致阿德萊德與他的關(guān)系很不好。但最終看在女兒的情分上，女侯爵同意幫助這位處境艱難的君主，同時(shí)以調(diào)停者的身份前往卡諾莎。但向他索要了一筆高額的款項(xiàng)作為回報(bào)。

經(jīng)過漫長而艱難的跋涉之后，他們終于到達(dá)了這座修筑在小山頂上的卡諾莎城堡。亨利讓車駕停在山腳下，脫下皮帽和靴子，身著苦修士的簡陋服裝，僅僅披上一件氈毯，這是亨利四世的懺悔形式，在隆冬時(shí)節(jié)赤足露頂(當(dāng)時(shí)，羅馬教皇對逐出教會(huì)或違反教規(guī)的人，允許他們舉行各種不同形式的懺悔儀式，來贖取自己的罪行。其時(shí)間有長達(dá)幾年的。比如，有的赤腳露頭，在教堂門前向所有進(jìn)入教堂的人懇切哀求，請他們代為祈禱;有的用木杖打自己或由懺悔師來打，以 3000 杖抵一年的懺悔;有的赴圣地朝拜，或捐納巨款等等，一直到教會(huì)滿意他的懺悔為止。)希望籍此獲得赦免。為使亨利得到更多的同情，貝爾塔也加入了懺悔儀式，她同其它隨行者一樣，免去冠帽除去靴襪，盡管這對貴族女性是無以復(fù)加的恥辱，但這位可敬的王后還是決定與丈夫共患難。在冰天雪地中亨利四世和隨行者赤足踏雪一步一步地走上山頂。

亨利四世此舉已是極盡卑微，但教皇卻緊閉城堡大門，遲遲不讓亨利進(jìn)入。亨利夫妻一行人在嚴(yán)冬中赤足露頂，僅靠裹著氈毯取暖，凍得瑟瑟發(fā)抖。為了保住皇帝寶座，亨利與妻子忍辱跪在城堡門前求饒，痛哭流涕以求寬恕。國王的狼狽景象格里高利七世都看在眼里，他面臨著一個(gè)兩難的抉擇：同意赦免亨利四世，他就會(huì)失去一個(gè) 加強(qiáng)神權(quán)且實(shí)現(xiàn)改革的大好機(jī)會(huì)。但亨利四世的懺悔看似恥辱，其實(shí)也不失為權(quán)宜妙計(jì)。因?yàn)榻袒矢鶕?jù)教規(guī)將君主逐出教門，自然是合理合法的;而亨利果斷決定通過懺悔乞求赦免，同樣是有理有據(jù)，按照教規(guī)要盡可能地從寬對待。教皇此時(shí)也感受到了壓力，因?yàn)檫@種卑微的懺悔勢必會(huì)給亨利四世帶來廣泛的同情與諒解。亨利四世等待覲見的同時(shí)，城堡內(nèi)的一些教士和城堡主人瑪?shù)贍栠_(dá)女伯爵開始向教皇求情。阿德萊德女侯爵目睹她的女兒女婿在城外受辱，自然不遺余力地向教皇勸說，并與米蘭伯爵阿爾伯特等貴族共同為亨利四世擔(dān)保。甚至連一些克呂尼派教士也被亨利此舉感動(dòng)了，加入到求情者中。但大門一直沒有打開，據(jù)《教權(quán)紀(jì)事：卡諾莎》記載：在等待過程中，因?yàn)檫^于寒冷，亨利四世幾次被隨從請求結(jié)束懺悔儀式，但都被他拒絕。隨從們念完禱詞，得到許可后紛紛返回山下的宿營地中。在得到母親參與了勸說的口信后，王后也返回營地，陪伴在她幼子身邊。城堡外只剩下亨利四世等兩三人。大雪紛飛，地凍天寒，身為帝王之尊的亨利帶著自己的妻子赤足披氈，據(jù)說一直在雪地站了三天三夜(也有一說，亨利一行人大多數(shù)時(shí)間其實(shí)都待在山下的村莊中等待教皇的赦免)，教皇才同意亨利四世進(jìn)來見他。

亨利匍匐在教皇面前，展開雙臂，使全身呈十字形，向教皇淚流滿面地懺悔自己的罪過，然后呈上自己服從教皇權(quán)力的保證書和宣布撤銷關(guān)于廢黜教皇法令的命令書。教皇并不滿意，他嚴(yán)厲地訓(xùn)斥亨利四世，歷數(shù)他的種種罪行。亨利四世一一點(diǎn)頭認(rèn)罪。看到曾經(jīng)趾高氣揚(yáng)的國王可憐到如此地步，在場的貴族和神職人員紛紛請求教皇赦免亨利四世。教皇格列高里七世這位出身低微的手工匠的兒子直到讓亨利四世受盡了精神上的侮辱后才恩賜給這位懺悔者一個(gè)赦罪的吻，他同意不將亨利四世逐出教會(huì)，但是仍不恢復(fù)其國王的權(quán)力;在教皇和瑪?shù)贍栠_(dá)女伯爵等人的見證下，亨利四世被要求寫下效忠教皇的誓詞并宣誓。