Александр Гликберг родился в 1880 году в Одессе в зажиточной еврейской семье. Родители сменили веру и крестили детей, чтобы те смогли учиться в гимназии. Однако в 15 лет, не закончив образование, Александр сбежал из дома.
Благодаря тете он перебрался в Петербург, продолжив учебу, но был отчислен за неуспеваемость. Оставшись без средств, поддержки от родителей не получил и вел жизнь нищего, пока не стал героем статьи начинающего журналиста Яблонского. Статью прочитал благотворитель К. Роше из Житомира и приютил юношу. Роше оценил поэтические способности Александра, пытался дать ему образование, но из Житомирской гимназии Сашу тоже выгнали.
С 1901 по 1902 год Гликберг служил рядовым Галицкого полка, затем работал в таможне на границе с Австро-Венгрией. В 1905 году Александр устроился в налоговую службу Петербургско-Варшавской железной дороги, а параллельно начал публиковаться.
27 ноября 1905 года в журнале «Зритель» вышло стихотворение «Чепуха», впервые подписанное псевдонимом Саша Чёрный. Героями фельетона стали известные чиновники. Цензоры изъяли весь тираж, а журнал закрыли. Все экземпляры сборника «Разные мотивы» в 1906 году также были изъяты.
Вскоре Чёрный с супругой уехал в Германию. Вольнослушателем посещал лекции по философии в Гейдельбергском университете. Через два года вернулся в Россию и начал писать для нового сатирического журнала «Сатирикон», где печатались Аркадий Аверченко, Надежда Тэффи, Аркадий Бухов, Петр Потёмкин и другие. В 1912 году поэт побывал на Капри и познакомился с Максимом Горьким.
В годы Первой мировой войны Чёрный вместе с женой Марией Васильевной служил в полевом госпитале.
После революции Саша Чёрный не смирился со сменой политического режима и покинул страну. Они с женой переехали жить в Прибалтику, затем перебрались в Берлин. В 1923 году Александр на свои средства издал сборник стихов «Жажда», наполненный тоской по родине.
В 1924 году после года жизни в Риме супруги уехали в Париж. Здесь Чёрный участвовал в благотворительных вечерах в помощь инвалидам Первой мировой, посещал русских эмигрантов, поддерживал молодых русских писателей.
В 1929 году Саша Чёрный приобрел участок земли на юге Франции, в местечке Ла Фавьер, построил дом, ставший центром русской культуры в Европе, местом притяжения для русских писателей, художников, музыкантов.
Поэт скончался от сердечного приступа 5 августа 1932 года. Он помогал тушить пожар на соседней ферме, вернувшись слег и больше не поднялся.
Похоронен на кладбище Ле-Лаванду в департаменте Вар во Франции.