Q, K, V : 위대한 테크 리드가 모른 채로 하는 세 가지

셀프어텐션은 각 토큰이 시퀀스의 다른 모든 토큰과 비교해 문맥을 반영한 표현을 만든다.

각 토큰은 Query(Q): 지금 무엇을 찾나?, Key(K): 다른 토큰은 무엇을 제공하나?, Value(V): 실제로 무엇을 취할까?를 계산한다.

어텐션 공식은 Attention(Q, K, V) = softmax( QKᵀ / √dₖ ) · V로, 시퀀스 전반의 가중 합을 만든다.

팀은 각기 다른 기술과 지식을 지닌 사람들의 시퀀스이며, 테크 리드의 역할은 이를 일관성 있고 고품질 결과로 만드는 것이다.

테크 리드는 문제를 정확히 이해한 뒤 전체를 고려해 각자의 입력을 관련성에 따라 가중해 반영한다.