Malarz urodzony w mieście Krzemieńczuk, ówcześnie należącym do Imperium Rosyjskiego. Pochodził z ortodoksyjnej żydowskiej rodziny, co bardzo wpłynęło na jego późniejszą działalność artystyczną. Choć rodzice planowali, aby został rabinem, ze względu na talent malarski wysłano go do szkoły rysunku w Wilnie, a następnie w 1910 roku do Kijowa. Po ukończeniu trzeciej klasy, dzięki wsparciu finansowemu sponsora, wyjechał do Paryża, gdzie, pomimo późniejszych podróży i chwilowych powrotów do ojczyzny, mieszkał przez prawie całe swoje życie. Należał do środowiska artystycznego École de Paris i był jej jednym z najznamienitszych członków, tworząc w wykreowanym przez siebie stylu. Początkowo jego dzieła były mroczniejsze i bardziej tradycyjne, jednak z czasem rozjaśnił płótna, a główne miejsce w jego sztuce zajęły wspomnienia z dzieciństwa. W swoich pracach zaczął przedstawiać realia życia w małych żydowskich miasteczkach, ale także wizerunki rabinów, motywy chasydzkie, uczniów jesziw, żebraków i muzykantów, ukazując codzienne i religijne życie społeczności żydowskiej. Podczas wojny mieszkał w Nowym Jorku, jednak zaraz po jej zakończeniu powrócił do Paryża.
Gdy po raz pierwszy w 1928 roku wyjechał do mandatu Palestyny poczuł duży związek z tymi ziemiami, co zaowocowało w jego regularne powroty. Trzydzieści lat później, będąc ciężko chorym wyjechał do Hajfy i dzięki porozumieniu z władzami otrzymał pracownię oraz miejsce wystawiennicze dla swoich prac. Po jego śmierci przestrzeń tę zamieniono w muzeum. Zmarł w Izraelu w 1962 roku.