Большая часть работ Ван дер Ваальса относится к области теоретической молекулярной физики. Он исследовал поведение модекул и занимался теориями, описывающими состояния материи. В 1869 году он открыл силы взаимодействия между молекулами, которые впоследствии были названы его именем — силы Ван-дер-Ваальса. В 1873 году в своей диссертации он развил модель, единообразно описывающую газообразную и жидкую фазы вещества. На основе этой модели он вывел уравнение состояния, показавшее, что при некоторой температуре исчезают различия в физических свойствах жидкости и её пара, находящихся в равновесии. При такой температуре, называемой критической, плотность жидкости и её насыщенного пара становятся одинаковыми и исчезает видимая граница между ними.

За это достижение Ван дер Ваальс получил в 1910 году Нобелевскую премию по физике «за работу над уравнением состояния газов и жидкостей».