Un numeroso e colto gruppo di ebrei ha vissuto a Bari dall’epoca romana (70 e.v.) fino all’espulsione del 1541. Fu una comunità vivace, in contatto con le altre pugliesi e particolarmente nota per le sue Accademie di studi talmudici. Parafrasando infatti un versetto del profeta Isaia si diceva: “Da Bari proviene la Legge e da Otranto la parola di Dio”.
Di questo passato rimangono oggi alcune tracce e documenti. Le notizie della prima sinagoga sono dell’anno Mille e la collocano nella zona dell’attuale cattedrale. Fu poi demolita e al suo posto eretta la chiesa dedicata ai Santi Silvestro e Leone. Quest’ultima fu abbattuta nel 1767 per lasciare spazio al palazzo Effrem. Il sito dell’antica sinagoga e della successiva chiesa è oggi indicato sotto l’area del cortile che precede gli scaloni di accesso al piano nobile del palazzo. All’epoca c’era anche un cimitero, trovato casualmente negli anni Venti del ‘900 nella zona dell’attuale Viale Unità. Durante gli scavi furono trovate 13 tombe. Una sola lapide si è salvata e si trova oggi nel Castello Svevo. Un piccolo dosso dell’area era indicato nei documenti come Monte dei giudei.
Alle spalle della prima sinagoga si trovava il quartiere ebraico, la cui area è rimasta uguale nei secoli seguenti. Oggi via San Sabino già via Sinagoga è indicata come la principale del vecchio quartiere. Da qui si irradiavano le stradine laterali, rimaste ancor oggi come erano in passato. A conferma della presenza ebraica nell’area è stato il rinvenimento in una casa privata di un blocco di pietra inciso che era forse un architrave di finestra. In esso si dice “Questa finestra fu fatta l’anno 1314 con le elemosine della comunità per mano di Mosè da Treves”. In questa casa doveva trovarsi la sinagoga che era un’aula rettangolare lunga una dozzina di metri e larga quattro. Era affiancata da un piccolo cortile con al centro una palma; il cortile c’è ancora e vi si accede da via San Gaetano. La sinagoga non doveva avere un particolare interesse architettonico tanto che non fu trasformata in chiesa dopo l’espulsione. Anzi, fu affidata dalla comunità ebraica in custodia ai canonici della cattedrale, sperando in un rapido rientro. Questi affittarono prima il fabbricato intero poi lo divisero in due parti. Negli anni l’edificio fu inglobato in un unico isolato, perdendo la memoria dell’originaria destinazione.