當他還是個小男孩時，他很喜歡讀聖經，他認為天主教和猶太教之間沒有矛盾，所以他戒了豬肉。他還給上帝寫了一些小歌，並在放學路上唱。但是在12歲時，他突然因為閱讀科學書籍而放棄了所有的宗教信仰。儘管如此，他一直懷著對自然奧秘和神奇的「聖靈好奇心」。
很有趣的是，幾十年後，他對上帝的說法非常巧妙：「他不玩骰子」、「上帝很狡詐，但不是惡意的」。愛因斯坦寫道：「沒有宗教的科學是殘缺的，沒有科學的宗教是盲目的。」 1955年時，一位學生引用他的話說：「我想知道上帝如何創造這個世界。我對這個或那個現象不感興趣，對這個或那個元素的光譜也不感興趣。我只想知道他的想法。」
愛因斯坦有關上帝的說法非常模糊，因此，許多猶太人、基督徒、無神論者和其他人都認為愛因斯坦是他們那一方。無神論者理察·道金斯表示，愛因斯坦有時會澄清，「上帝」實際上意味著「自然」。但有時，愛因斯坦則是說：「我不是無神論者。」 另一方面，有時愛因斯坦表示他相信斯賓諾莎的上帝。在1670年代，荷蘭哲學家斯賓諾莎表達了對自然有條理的和諧崇敬，認為上帝沒有人格、意識、情感或意志。 1929年，愛因斯坦稱讚了斯賓諾莎的觀點，稱其為「一種憑藉卓越頭腦在體驗世界中表達的深刻感覺」。
在《紐約時報》的暢銷傳記中，瓦爾特·艾薩克森認為，愛因斯坦不只是把上帝當做自然的另一個名字來使用。艾薩克森堅持認為，他不是無神論者，而是相信上帝是一個沒有干涉我們日常生活的不可思議的創造者。
1936年，愛因斯坦給一個小女孩寫信，解釋道：「每個認真從事科學的人都會相信，自然定律展現了一種比人類更為優越的精神，我們以我們謙卑的力量必須順從它。」這聽起來確實很有宗教意義，但他所說的「精神」指的是什麼？愛因斯坦對於好奇的陌生人、孩子、記者或親密的朋友的回答有時是大相逕庭的。有時，他使用俚語，而更嚴謹的語境下，他更願意以其他方式表達。
與描述愛因斯坦是宗教人士的著名語錄相反的是，他私下裡將自己描述為不可知論者，這一點較為不為人知。1869年，「達爾文的鬥牛犬」托馬斯·亨利·赫胥黎創造了「不可知論者」一詞，以表示一種對暫時理性無知的態度，不假設已經有科學證明的結論。二十年後，赫胥黎評論道：「我發明了『不可知論者』一詞，用於詮釋像我這樣的人，承認自己對各種問題感到無望的無知，對於哲學家和神學家來說，無論是正統的還是異端的，無論如何都是有信仰的。」通俗地說，不可知論者通常表示其不知道上帝是否存在。
1949年，有一個好奇的美國海軍士兵寫信問愛因斯坦的信仰，那愛因斯坦回了句：叫我不可知論者吧。然後在1950年，又有一個人問他，他回答道：「我認為我是不可知論者。道德原則對於生命的改善和提高至關重要，並不需要一個刻意獎懲的法律制定者來驅使。」 並且他還在1952年的一封信中說：「上帝不過是人性弱點的表現和產物，聖經也就是充滿奇怪傳說的書本而已。」 更酷的是，他還在信中否認了靈魂、生命、神的獎勵或懲罰的存在，拒絕了所有神秘主義和自由意志。所以，問他有沒有宗教信仰，他可能會回答：除了敬畏自然規律和奧秘，其他的不用管了。
拒絕了大多數宗教的方面後，年輕的愛因斯坦面臨兩種選擇：要麼說他不是一個宗教人士，或者找到一種替代方式來定義宗教性。他選擇了後者。在科學方面，愛因斯坦通過重新定義傳統概念獲得了巨大成功：重新定義時間、能量、質量、引力等等。所以他嘗試用同樣的方式來對待宗教。在1950年，他向年輕時的好友莫里斯·索洛文解釋說：「我找不到比『宗教』這個詞更好的表達，來表達對能夠被人類理性認知的現實有自信。」
他沒有接受聖經、儀式或傳統，而是專注於自然的奇妙之處。通過重新定義宗教的核心情感和態度來包括他所培養的情感和態度，只有這樣，愛因斯坦才可以形容自己是一個深度宗教的人。例如，他自稱是深信宗教的，但是他不禱告。因此，在他的新定義中，不禱告成為一個高度宗教的人的行動，一個完全信任自然規律的人。他曾經寫信給利奧·西拉德說：「只要你祈求上帝並要求某些好處，你就不是一個宗教人士。」
總而言之，我們至少可以知道，愛因斯坦雖然堅持不可知論，但他並不算是一個非常虔誠的宗教人士。假設有人告訴我們他真的很喜歡披薩，但隨後他說他不喜歡加醬，討厭麵團，對奶酪過敏，認為任何要加配料的人都不真正喜歡披薩。然後我們問，你怎麼能說你真的很喜歡披薩呢？他回答：「因為我對它的本質有深刻的喜歡和敬畏。」