캐시 메모리(Cache Memory)

출처:(https://gyoogle.dev/blog/computer-science/computer-architecture/%EC%BA%90%EC%8B%9C%20%EB%A9%94%EB%AA%A8%EB%A6%AC.html)

 

(쉬운비유)

1. 무지하게 지랄맞고 부지런한 상사가 한 시간 전에 작년과 금년 재무결산 보고서를 가져오라고 했을때,

내년과 내후년 재무결산 보고서도 가져오라고 할 지 모르니까 그것도 미리 준비해 놓음

2. '지갑'. 지갑 혹은 주머니가 없다면 우리가 현금(Cash)이 필요할 때마다 매번 은행이나 ATM에 가야한다.

이는 귀찮고 시간도 많이걸린다. 하지만 우리가 현금을 지갑에 넣고 다님으로써 시간을 절약할 수 있다.

 

 

속도가 빠른 장치와 느린 장치에서 속도 차이에 따른 병목 현상을 줄이기 위한 메모리를 말한다.

 

ex1) CPU 코어와 메모리 사이의 병목 현상 완화

ex2) 웹 브라우저 캐시 파일은, 하드디스크와 웹페이지 사이의 병목 현상을 완화

 

CPU가 주기억장치에서 저장된 데이터를 읽어올 때,

자주 사용하는 데이터를 캐시메모리에 저장한 뒤,

다음에 이용할 때 주기억장치가 아닌 캐시메모리에서 먼저 가져오면서 속도를 향상시킨다.

 

속도면에서 장점을 얻지만, 

용량이 적고 비용이 비싼 단점이 있다.

 

CPU에는 이러한 캐시메모리가 2~3개 정도 사용된다. (L1, L2, L3 캐시메모리라고 부른다)

 

속도와 크기에 따라 불뉴한 것으로, 일반적으로 L1 캐시부터 먼저 사용된다.
(CPU에서 가장 빠르게 접근하고, 여기서 데이터를 찾지못하면 L2로 간다)

 

듀얼 코어 프로세서의 캐시메모리

각 코어마다 독립된 L1 캐시 메모리를 가지고, 두 코어가 공유하는 L2 캐시메모리가 내장되었다.

ex) 만약 L1 캐시가 128kb 면, 64/64로 나누어 64kb에 명령어를 처리하기 직전의 명령어를 임시 저장하고,

나머지 64kb에는 실행 후 명령어를 임시저장한다. (명령어 세트로 구성, I-Cache - D-Cache)

• L1 : CPU 내부에 존재
• L2 : CPU와 RAM 사이에 존재
• L3 : 보통 메인보드에 존재한다고 함

캐시 메모리 크기가 작은 이유는, SRAM 가격이 매우 비쌈

 

디스크 캐시

주기억장치(RAM)와 보조기억장치(하드디스크) 사이에 존재하는 캐시

 

캐시메모리 작동원리

 

시간 지역성

for나 while 같은 반복문에 사용하는 조건변수처럼 한번 참조된 데이터는 잠시 후 재참조 될 가능성이 높음

 

공간 지역성

A[0], A[1]과 같은 연속 접근 시, 참조된 데이터 근처에 있는 데이터가 잠시 후 재사용될 가능성이 높음

 

이처럼 참조 지역성의 원리가 존재한다.

 

캐시에 데이터를 저장할 때는, 이러한 참조지역성(공간)을 최대한 활용하기 위해

해당 데이터 뿐만 아니라, 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비한다.

CPU가 요청한 데이터가 캐시에 있으면 'Cache Hit', 없어서 DRAM에서 가져오면 'Cache Miss'.

 

캐시 미스 경우 3가지

1. Cold miss

해당 메모리 주소를 처음 불러서 나는 미스.

예를 들어 프로그램을 새로 켜거나 하는 경우 발생한다.

간혹 사용할 데이터를 미리 프리패치 하는 경우가 아닌 이상 예방이 불가능한 캐시미스이지만,

전체 컴퓨터 이용시간에 비하면 굉장히 드물에 나는 미스유형이다.

그래서 전체적인 성능에 영향을 미치는 정도가 작다.

 

2. Conflict miss

캐시메모리에 A와 B 데이터를 저장해야 하는데, A와 B가 같은 캐시 메모리 주소에 할당되어 있어서 나는 미스

(direct mapped cache에서 많이 발생한다.)

ex) 항상 핸드폰과 열쇠를 오른쪽 주머니에 넣고 다니는데,

잠깐 친구가 준 물건을 받느라 손에 들고 있던 핸드폰을 가방에 넣었음.

그 이후 핸드폰을 찾으려 오른쪽 주머니에서 찾으려고 한다면 그때 Conflice miss가 난다.

direct mapped cache 에서 가장 발생빈도가 높고, n-associative cache에서 n이 커질수록

발생빈도가 낮아지지만, 대신 n이 커질수록 캐시속도가 느려지고 파워도 많이 먹는다.

 

3. Capacity miss

캐시 메모리의 공간이 부족해서 나는 미스

(Conflict는 주소 할당 문제, Capacity는 공간 문제)

캐시 크기를 키워서 문제를 해결하려하면, 캐시 접근속도가 느려지고 파워를 많이 먹는 단점이 생긴다.

 

 

구조 및 작동방식

1. Direct Mapped Cache

Direct Mapped Cache

가장 기본적인 구조로, DRAM의 여러주소가 캐시메모리의 한 주소에 대응되는 다대 일 방식

현재 그림에서는 메모리 공간이 32개(00000~11111) 이고, 캐시메모리 공간은 8개(000~111)인 상황

ex) 00000,01000, 10000, 11000인 메모리 주소는 000 캐시 메모리 주소에 맵핑

이때, 000이 '인덱스 필드', 인덱스 제외한 앞의 나머지(00, 01, 10, 11) 를 '태그필드' 라고 한다.

 

이처럼 캐시메모리는 '인덱스필드 + 태그필드 + 데이터필드' 로 구성된다.

간단하고 빠른 장점이 있지만, Conflict Miss가 발생하는 것이 단점이다.

위 사진처럼 같은 색깔의 데이터를 동시에 사용해야 할 때 발생한다.

 

Fully Associative Cache

비어있는 캐시 메모리가 있으면, 마음대로 주소를 저장하는 방식

저장할 때는 매우 간단하지만, 찾을때가 문제이다.

조건이나 규칙이 없어서 특정 캐시 Set 안에 있는 모든 블럭을 한번에 찾아 

원하는 데이터가 있는지 검색해야 한다.

CAM이라는 특수한 메모리 구조를 사용해야 하지만 가격이 매우 비싸다.

 

Set Associative Cache

Direct + Fully 방식이다. 특정 행을 지정하고, 그 행안의 어떤 열이든 비어있을 때 저장하는 방식이다.

Direct에 비해 검색속도는 느리지만, 저장이 빠르고 Fully에 비해 저장이 느린대신 검색이 빠른 중간형이다.

위 두가지 보다 나중에 나온방식이다.

 

추가설명 링크 : https://namu.moe/w/%EC%BA%90%EC%8B%9C%20%EB%A9%94%EB%AA%A8%EB%A6%AC

캐시 메모리

https://it.donga.com/215/

CPU의 캐시 메모리는 어떤 역할을 하는가? | IT동아