Родился в Новогрудке Минской губернии в семье раввина Якова Гаркави и Двойры Вейсбрем. Учился в раввинском училище и на Восточном факультете Санкт-Петербургского университета Работал в императорской Публичной библиотеке в Санкт-Петербурге (1872—1919): заведовал отделением еврейских книг, занимался разбором и описанием коллекции Авраама Фирковича. Совместно с Г. Штраком составил на немецком языке каталог библейских рукописей «первого собрания» коллекции Фирковича Был членом правления Петербургской еврейской общины, членом хозяйственного комитета, габаем Большой хоральной синагоги Санкт-Петербурга.