Transformer가 RNN을 쓰지 않을 수 있도록 만든 기법.

각 임베딩 벡터를 순차적으로 입력받는 것이 아닌, 각 임베딩 벡터에 위치정보를 더해서 모델의 입력으로 사용하는 방법.

임베딩 벡터 행렬과 포지셔널 인코딩 행렬의 덧셈 연산을 통해 이루어진다.