Narodil se 22. března 1892 v Rychnově nad Kněžnou. Jeho otec byl židovského původu. Matka mu umřela v jeho sedmi letech. Vyrůstal se čtyřmi vlastními a dvěma nevlastními sourozenci. Maturitu po mnoha reparátech zvládl na jednom z pražských gymnázií.

Hrál, psal a překládal hry pro rychnovské loutkové divadlo. Práva na Karlově univerzitě kvůli první světové válce nedostudoval.  Během války byl třikrát na ruské frontě, dva měsíce strávil v zajetí v Srbsku. Po válce se oženil se studentskou láskou a narodila se mu dcera.

Pracoval na úřadě, který ho inspiroval svou byrokratickou přihlouplostí k napsání povídky Kolotoč, která pobouřila kolegy z úřadu. Josef Čapek ho následně vyzval, aby psal do satirického časopisu Nebojsa. Humorně se strefoval do tehdejších politiků. Později i s bratry Čapkovými začal psát pro Lidové noviny.

U nich se vždy v pátek scházel společně s dalšími významnými osobnostmi doby, mezi které patřili bratři Čapkové, Eduard Bass, Fráňa Šrámek, Vladislav Vančura nebo i prezident Masaryk. Odtud vešli v známost jako „Pátečníci“ . Kritiky, až na některé výjimky, považoval za své přirozené nepřátele. U čtenářů byl ovšem velmi oblíbený, i přes častou negativní kritiku.

Před válkou se rozešel se svou první ženou a dceru poslali do bezpečí do Anglie. Kvůli svému původu musel odejít z Lidových novin. Během války pracoval u Rady židovských starších, kde sepisoval knižní fondy. Se svou novou známostí odešel do židovského ghetta v Terezíně, kde přednášel o české i světové literatuře a řešil táborové spory. V říjnu 1944 byl transportován do Osvětimi. Zemřel pravděpodobně v lednu 1945.  Na motiv jeho knih bylo po jeho smrti natočeno mnoho filmů a seriálů.

O životě, názorech, úvahách a postřezích Karla Poláčka se píše v knize Se žlutou hvězdou, která obsahuje záznamy z jeho deníků, které si psal před transportem do Terezína. Mnoho informací o díle meziválečných autorů obsahuje kniha Umění a život v modernistické Praze od Thomase Orta.

V roce 1995 mu byl in memoriam udělen Řád Tomáše Garrigua Masaryka II. třídy.