3장. Attention을 한 줄씩

전체 코드를 한 줄씩 선택하고, 눈으로 계산을 따라가세요.

입력 벡터Q · K · V점수미래 마스크softmaxValue 합산여러 head

이 페이지 사용법과 범위

원본 노트북의 모든 코드 셀·주석·빈 줄을 순서대로 담았습니다. 셀 번호와 줄 번호로 원본과 대조할 수 있습니다. 빈칸 완성은 설명용이며 노트북을 수정하지 않습니다. 좌우 방향키로 줄을 넘길 수 있습니다. 주소의 해시에는 현재 셀과 줄이 기록됩니다.

코드 줄 선택은 설명 탐색입니다. Python 실행·모델 다운로드·학습을 수행하지 않습니다. 클래스 선언 순서와 실제 실행 순서는 다릅니다. __init__은 객체 생성 시, forward는 모듈 호출 시 실행됩니다. 2장 임베딩 결과가 3장 Attention의 입력이 됩니다.