彩绘玻璃的繁荣与大批教堂的出现密切相关，主要盛行于罗马式和哥特式建筑。罗马式和哥特式建筑的窗户比较高大，布满整个建筑立面，便于采光。传统壁画中的玻璃镶嵌技法，在这两种建筑结构的教堂中难以运用，因而逐渐退出历史舞台，彩绘玻璃由此兴起。
彩色玻璃可以说是哥特式大教堂最重要的方面之一，随着彩绘玻璃的流行，主要是在12世纪中叶，彩绘玻璃的出现使一般民众学习宗教的方式发生了重大变化，窗户让圣经故事变成了视觉体验
早在百年之前，土山湾孤儿院就开始了彩绘玻璃的制作和生产。由于彩绘玻璃的制作涉及到绘画技巧，因此花玻璃工场附设于图画馆。根据《徐汇纪略》的介绍：“近日新添彩绘玻璃，将人物鸟兽彩画于玻璃上，后置炉中煨炙，彩色深入玻璃内，永久不退，中国彩绘玻璃，此为 出品处。”可见，土山湾是国内彩绘玻璃制作和生产的鼻祖，产品主要供应全国各地的教堂。随着年代的更替，上海教区现有的圣堂中，除了洋泾浜天主堂保留有一部分的彩绘玻璃原物之外，其它所有的教堂都是通过翻修的机会复原或是新添了新彩绘玻璃。而洋泾浜天主堂的彩绘玻璃完全是舶来品，当时的土山湾还没有制作和生产彩绘玻璃的技术。
彩色玻璃窗的使用在12世纪中叶得到了普及，圣丹尼斯的修道院院长苏格被称为“彩色玻璃之父”，因为是他首次概念化地使用彩色玻璃窗来创造一种“天堂之光”，被视为上帝在教堂中的存在
大概在12世纪的时候，罗马式建筑综合着艺术风格，比如说之前罗马和拜占庭的风格风靡欧洲那会的时候，另一种哥特式在法国盛行并延续了十五世纪。这风格跟罗马教堂不同的点在于深悠的颜色，也和窗户设计有直接的关系。窗户不只是在墙上开一个洞而已，它们开始试图占据墙壁的面积并且延续四周，建筑开始引入。而装饰窗户的彩色玻璃，设计美观，阳光从外面射入，缤纷的色彩透出圣洁的光。