人类语言由离散的符号构成。传统自然语言处理的基本方法是统计这些符号之间的共现频率，并将其作为特征用于学习和推断。现代自然语言处理则是通过自监督学习的方法把首先这些符号表示为低维嵌入(embedding)，然后再基于此嵌入进行下游特定任务的学习。本次报告我们将深入浅出的介绍自然语言建模和自然语言表示的历史，以及近两年来学术界的一些突破性进展。