基什教堂在距离舍基城区几公里外的基什(Kish)。公元前550年,波斯帝国的米底总督阿特罗巴特斯将此地命名为“Azerbaijan”,意为“受火保护的”。公元4世纪,古波斯境内的一支自称Arran的部落建立了阿尔巴尼亚王国,其版图横跨高加索山脉南北,并从波斯拜火教逐渐改信基督教。公元7世纪开始,阿尔巴尼亚王国相继被阿拉伯人、蒙古、帖木儿、奥斯曼帝国征服,最终在历史长河中彻底消失。公元16至18世纪,波斯、奥斯曼帝国、俄罗斯的相互割据,也是现在阿塞拜疆族被分成三国的重要原因。高加索阿尔巴尼亚人建立的王国曾经一度覆盖了阿塞拜疆北部的大部分地区,但有关高加索阿尔巴尼亚王国的文献不多,古迹则更少,所以这座教堂的文化意义颇为重要。阿塞拜疆人一直都试图在自己的领土上抹掉亚美尼亚人曾经生活过的痕迹,对外宣称这些地方“自古以来都是阿塞拜疆不可分割的领土”。教堂现在已经改造成了高加索阿尔巴尼亚博物馆,诉说着高加索地区复杂的过去,内部展出相关历史,并可透过教堂地板上的玻璃看到下方的古代遗骸。