Сапраўднае імя — Юдаль Абрамавіч Таўбін. Нарадзіўся ў Астрагожску Варонежскай вобласці ў сям’і аптэкара. У 1921 годзе ён разам з бацькамі пераехаў у Мсціслаў, дзе, адвучыўшыся ў сямігодцы (1928), паступіў у Мсціслаўскі педагагічны каледж. Там ён вучыўся разам з Аркадзем Куляшовым і Змітром Астапенкам.
У 1925 годзе Юлі Таўбін дэбютаваў у друку (нататка “Трэба падцягнуцца!” у часопісе “Беларускі піонэр”), а ўжо ў 1926 годзе ў клімавіцкім часопісе “Маладняк Калініншчыны” быў надрукаваны ягоны першы верш. У 1930 з’явіўся першы паэтычны зборнік “Агні”. Тагачасная крытыка абвінавачвала Таўбіна ў рабскім стаўленні да старой буржуазнай літаратуры, а таму выказала насцярожанасць.
У 1931—1933 гг. паэт вучыўся ў Мінскім педагагічным інстытуце, стаў сябрам Беларускай асацыяцыі пралетарскіх пісьменнікаў, належаў да нефармальнага літаратурнага аб’яднання “Таварыства аматараў выпіць і закусіць” (ТАВІЗ).
У гэты час у Юлія Таўбіна выходзяць яшчэ тры паэтычныя кнігі: “Каб жыць, спяваць і не старэць...” (1931), “Тры паэмы” (1931) і “Мая другая кніга” (1932). Асобным выданнем выйшла паэма “Таўрыда” (1932).
З 1928 году ён займаўся мастацкім перакладам, спачатку з рускай (У. Маякоўскі, А. Чэхаў і інш.), украінскай, польскай моваў і ідыша (І. Харык). Таксама перакладаў з нямецкай Ё. В. Гётэ, падрыхтаваў зборнік перакладаў Генрыха Гайнэ, але так і не здолеў надрукаваць.
25 лютага 1933 быў арыштаваны, а 10 жніўня — асуджаны на два гады высылкі на Урал, жыў у Цюмені (паводле звестак В. Куляшовай, “повадам для першага арышту Юлія Таўбіна стаў ліст з-за мяжы ад цёткі, якая нібыта пераехала з Польшчы ў Амерыку”). У цюменскай высылцы Таўбін працягваў пісаць, але на рускай мове. У 1934—1935 стварыў дзве рускамоўныя паэмы: “Михайло” і “Осада”. Два яго рускамоўныя вершы друкаваліся ў 1936 годзе ў часопісах “Знамя” і “Огонёк”.
4 лістапада 1936 Юлі Таўбін быў паўторна арыштаваны і этапаваны ў Мінск, а 29 кастрычніка 1937 году выязная сесія ваеннай калегіі Вярхоўнага суда СССР прысудзіла Юлія Таўбіна да найвышэйшай меры пакарання. У ліку 26 беларускіх літаратараў ён быў расстраляны ў ноч з 29 на 30 кастрычніка 1937 году ў двары турмы НКУС.
Па першай справе паэт быў рэабілітаваны ў 1956 годзе, па другой — у 1957-м.