Родился в обеспеченной еврейской семье. В 1921 вступил в молодежную коммунистическую организацию. В 1922 вместе с делегацией посетил Москву. Живо интересовался русской и советской культурой, писал статьи о советской литературе в газете Руде право. Входил в авангардную литературную группу Devětsil. Переводил Маяковского, Пастернака, Цветаеву, Луговского, Горького, Зощенко. Закончил Карлов университет (1928) , защитил диплом о Гоголе и английском романе XVIII в.

В 1933-1935 работал в Москве как журналист, переводчик марксистской литературы и официальных документов Коминтерна на чешский язык, участвовал в переводе ленинского труда Государство и революция. После убийства Кирова был оклеветан, исключен из партии, осужден и отправлен в ссылку в Казахстан.

Вернулся в Прагу в 1935. Работал научным сотрудником Еврейского музея в Праге. Опубликовал роман о сталинских чистках Москва – граница (1937), который подвергся резкой критике чешских коммунистов и в первую очередь – Юлиуса Фучика, близкого друга Вайля; его продолжением стал роман Деревянная ложка, одно из первых произведений, в которых был воссоздан ГУЛАГ (1938, опубликован в 1970 в Италии, с 1977 распространялся в чешском самиздате, в 1992 издан на родине). До 1938 работал в Еврейском музее Праги. В 1942 под угрозой депортации как коммунист и еврей имитировал самоубийство, перешел на нелегальное положение и до конца войны скрывался, продолжая при этом писать.

После войны вернулся в активной деятельности, в 1946-1948 возглавлял журнал Literarni noviny, опубликовал исторический роман-притчу о мусульманском лжепророке Моканна, отец чудес (1946). После прихода коммунистов к власти был в 1948 отстранен от руководства журналом, исключен из Союза писателей, его роман об антисемитизме Жизнь со звездой (1948) подвергся идеологической проработке. С 1949 по 1957 его произведения не публиковались. Реабилитирован в 1958. Последний роман Вайля Мендельсон на крыше был напечатан в 1960, уже после смерти автора, скончавшегося от рака.