苏洵娶眉山富豪大理寺丞程文应之女为妻。程夫人系出名门，知书达礼，以程氏之富下嫁到清寒的苏家来，已是委屈，而夫婿又那么不知上进。她是个非常要强的妇人，虽然不说什么，心里总是郁郁不乐，只把家事一手承担下来，上事翁姑，下教子女，终日勤劳不息，希望有一日她的夫婿能够自己感悟过来。
苏家本来只是一个中产之家，经过多年来的消耗和人丁的不断增加，稍有意外，经济上就有捉襟见肘的烦恼，而岳家的富有和胞兄出仕后的荣显，在日常生活中，不免常常发生无情的对比，构成精神上甚大的威胁。因此，当苏洵要外出求官时，他们就从这三代同堂的大家庭里迁了出来，在眉山城南纱縠行街上租了一栋宅子，似乎不仅住家，还经营着布帛或织物的生意。因为，从这条街名推测，“行”者，基尔特组合式的同行集中之处，住在这条街上的，也必都是同业。关于这栋房子以及在这栋住宅里兼营过纱縠生意，有苏轼自记可见：
昔吾先君夫人僦宅于眉，为纱榖行。一日，二婢子熨帛，足陷于地，视之，深数尺，有大瓮，覆以乌木板，先夫人即命以土塞之。瓮中有物，如人咳声，凡一年乃已，人以为此有宿藏物欲出也。5所谓“婢子熨帛”，可能就是生意作业的一部分。程夫人不贪窖藏的非分之财，她只规规矩矩做生意，帮助家计，希望她的丈夫没有后顾之忧，这份苦心，苏洵不是不知道，他后来说：
昔予少年，游荡不学。子虽不言，耿耿不乐。我知子心，忧我泯没。（《嘉祐集祭亡妻文》）苏洵因此感叹折节，谢绝与他素所往来的少年，首次闭户读书，时年二十五岁。
苏洵第一次《上欧阳内翰书》说：“洵少年不学，生二十五岁始知读书，从士君子游。”时间实已太晚，何况一开头的时候，态度又不很认真，仗着聪明，看看与他同辈的人，都不见得比自己高明，以为读书没有什么难。
但到第一次出应乡试举人，他却不幸落了第。这次失败，使他痛自检讨，始知古人出言用意，与自己所想的不同，再搬出几百篇自己的旧作细读，不禁喟然叹道：“吾今之学，乃犹未之学也！”愤然将这批旧稿，一把火烧个干净，决心取出《论语》《孟子》、韩愈文来从头再读，继续穷究诗书经传诸子百家之书，贯穿古今。下帷终日，兀然端坐在书斋里，苦读不休者达六七年，在这六七年中，封了笔砚，发誓读书未成熟前，不写任何文章，自述读书有得的过程，如前揭《上欧阳内翰书》言：
……方其始也，入其中而惶然，博观于其外而骇然以惊。及其久也，读之益精，而其胸中豁然以明，若人之言固当然者，然犹未敢自出其言也。时既久，胸中之言日益多，不能自制，试出而书之。已而再三读之，浑浑乎觉其来之易矣。苏洵于乡试失败后，焚弃旧稿，决心从头苦读，则已二十七岁，故欧阳修作墓志铭，张方平作墓表，史本传皆言：“年二十七，始发愤读书。”
自二十七岁起闭户苦读六年，至三十二三岁终于自学成功。曾巩论其文章说：
少或百字，多或千言，其指事析理，引物托喻，侈能尽之约，远能见之近，大能使之微，小能使之著，烦能不乱，肆能不流。其雄壮俊伟，若决江河而下也；其辉光明白，若引星辰而上也，其略如是。欧阳修称其为学，则曰：
益闭户读书，绝笔不为文辞者五六年，乃大究六经百家之说，以考质古今治乱成败、圣贤穷达出处之际，得其粹精，涵蓄充溢，抑而不发。久之，慨然曰：可矣。由是下笔顷刻数千言，其纵横上下，出入驰骤，必造于深微而后止。盖其禀也厚，故发之迟；志也悫，故得之精。苏洵与程夫人结婚后，接连生了两个女儿，都夭折了。有一天，他闲逛到城中玉局观道院，看到观中一家卜卦的店里，挂着一幅画像，卜师无碍子说是“张仙”，买去供奉，有求必应。苏洵听了心动，就解下身上佩带的玉环，与他交换了，回来挂在房里，每日清晨一定上香求子。如此虔诚地供养了好几年。他廿六岁时，生了长男景先，在襁褓中夭殇；翌年又生一女，是即后来嫁与程之才的幼女八娘；二十八岁时生了次子苏轼。苏洵有《题张仙画像》文曰：“……旦必露香以告。逮数年，得轼，性嗜书。乃知真人急于接物，而无碍子之言不妄也。”
仁宗宝元二年己卯（1039），洵三十一岁，二月二十日，幼子辙生。他们只有兄弟二人，辙诗所谓“兄弟本三人，怀抱丧其一”者是也。