[네트워크] OSI 7 계층과 네트워크

OSI 7계층과 네트워크

우리가 매일 사용하는 인터넷, 카카오톡 메시지, 유튜브 스트리밍. 이 모든 것은 데이터가 한 컴퓨터에서 다른 컴퓨터로 이동하는 과정에서 이루어진다. 이처럼 여러 장치들이 서로 데이터를 주고받을 수 있도록 연결된 구조를 **네트워크(Network)**라고 한다.
네트워크는 규모에 따라 구분된다. 집이나 사무실처럼 좁은 범위 안에서 연결된 네트워크를 **LAN(Local Area Network)**이라 하고, 도시나 국가 단위의 넓은 범위를 연결한 것을 **WAN(Wide Area Network)**이라 한다. 우리가 흔히 말하는 인터넷은 전 세계의 수많은 네트워크가 서로 연결된 거대한 WAN이다.
그런데 서로 다른 제조사의 컴퓨터, 서로 다른 운영체제, 서로 다른 프로그램들이 어떻게 아무 문제 없이 데이터를 주고받을 수 있는 걸까. 그 답이 바로 OSI 7계층 모델에 있다.

OSI 7계층

OSI(Open Systems Interconnection) 7계층은 국제표준화기구(ISO)가 1984년에 제정한 네트워크 통신 표준 모델이다. 서로 다른 시스템 간의 통신이 가능하도록 통신 과정을 7개의 계층으로 나누어 정의한 것이다. 각 계층은 독립적인 역할을 담당하고, 바로 위 아래 계층과만 소통한다. 덕분에 특정 계층에 문제가 생겨도 다른 계층에 영향을 주지 않고, 문제의 원인을 계층별로 추적할 수 있다.

각 계층 상세 설명

1계층 — 물리 계층 (Physical Layer)

물리 계층은 데이터를 전기 신호, 빛, 전파 등 물리적인 신호로 변환하여 전송하는 계층이다. 0과 1로 이루어진 비트(Bit) 단위의 데이터를 실제로 케이블이나 무선을 통해 전달하는 역할을 한다. 여기서는 데이터의 의미나 내용은 전혀 상관하지 않고, 오직 신호를 어떻게 보낼 것인지만 다룬다. 대표적인 장비로는 케이블, 허브, 리피터가 있다.

2계층 — 데이터 링크 계층 (Data Link Layer)

데이터 링크 계층은 같은 네트워크 안에서 인접한 장치 간의 신뢰성 있는 데이터 전송을 담당한다. 물리 계층에서 발생할 수 있는 오류를 감지하고 수정하며, 데이터를 프레임(Frame) 단위로 나누어 전송한다. 각 장치를 구분하기 위해 MAC 주소를 사용하고, 대표적인 장비로는 스위치와 브리지가 있다.

3계층 — 네트워크 계층 (Network Layer)

네트워크 계층은 서로 다른 네트워크 간의 데이터 전송을 담당한다. 출발지에서 목적지까지 데이터가 어떤 경로로 이동할지 결정하는 **라우팅(Routing)**이 이 계층의 핵심이다. 데이터는 패킷(Packet) 단위로 전송되며, 장치를 구분하기 위해 IP 주소를 사용한다. 대표적인 장비는 라우터이고, 대표적인 프로토콜로는 IP, ICMP가 있다.

4계층 — 전송 계층 (Transport Layer)

전송 계층은 송신자와 수신자 간의 end-to-end 통신을 담당한다. 데이터를 세그먼트(Segment) 단위로 나누고, 수신 측에서 올바른 순서로 재조립하는 역할을 한다. 대표적인 프로토콜로 TCP와 UDP가 있다.

TCP는 연결을 먼저 수립하고 데이터를 주고받는 방식으로, 통신 시작 전 3-Way Handshake를 통해 연결을 맺고, 패킷 순서 번호와 수신 확인(ACK)을 트래킹하며 데이터가 손실 없이 순서대로 도착하는 것을 보장한다.
반면 UDP는 Handshake 과정 없이 데이터를 바로 전송하기 때문에 속도가 빠르지만 신뢰성은 보장하지 않는다. 파일 다운로드나 데이터베이스 통신처럼 정확성이 중요한 경우엔 TCP를, 실시간 스트리밍이나 게임, DNS 질의처럼 속도가 중요하거나 데이터가 매우 작은 경우엔 UDP를 사용하는 이유가 여기에 있다.
TCP의 고질적인 문제로 HOL(Head of Line) Blocking이 있다. 패킷 하나가 유실되면 뒤따라오는 모든 패킷이 그 패킷을 기다려야 하는 현상이다.
구글이 HTTP/3에서 UDP 기반의 QUIC 프로토콜을 선택한 이유도 여기에 있다. TCP는 OS 커널 레벨에 깊게 박혀 있어 수정이 어렵지만, UDP는 기능이 없는 만큼 애플리케이션 레벨에서 신뢰성 로직을 자유롭게 구현할 수 있기 때문이다.

5계층 — 세션 계층 (Session Layer)

세션 계층은 두 장치 간의 통신 세션을 생성하고 유지하고 종료하는 역할을 한다. 파일을 전송하는 도중 연결이 끊겼을 때 처음부터 다시 시작하지 않고 중단된 지점부터 재개할 수 있게 해주는 것이 세션 계층의 역할이다. 실질적으로 현대 네트워크에서는 TCP가 세션 관리 역할의 상당 부분을 대신하기 때문에, 5계층은 독립적으로 부각되는 경우가 적다.

6계층 — 표현 계층 (Presentation Layer)

표현 계층은 데이터의 형식을 변환하고 암호화·복호화를 처리하는 계층이다. 서로 다른 시스템이 데이터를 동일하게 이해할 수 있도록 번역하는 역할을 한다. JPEG, MP3, UTF-8 같은 인코딩 방식이나 SSL/TLS 암호화가 이 계층에서 처리된다.

7계층 — 응용 계층 (Application Layer)

응용 계층은 사용자와 가장 가까운 계층으로, 실제 애플리케이션이 네트워크 서비스를 이용할 수 있도록 인터페이스를 제공한다. HTTP, HTTPS, FTP, DNS, SMTP 등이 대표적이다.

포트

OSI 계층을 이해했다면 이제 포트 개념이 자연스럽게 연결된다. IP 주소가 건물의 주소라면, **포트(Port)**는 건물 안의 창구 번호다. 같은 서버에서 웹 서비스도 하고 이메일도 받고 SSH 접속도 받을 수 있는 것은 각 서비스가 서로 다른 포트를 점유하고 있기 때문이다.
포트의 번호는 0번부터 65535번까지 총 65536개가 있다. 이 중 0번부터 1023번까지는 **잘 알려진 포트(Well-known Port)**라고 하며, 각 번호에 유명한 서비스가 등록되어 있다. 22번은 SSH, 80번은 HTTP, 443번은 HTTPS가 대표적이다. 이 대역의 포트에 서비스를 실행하려면 관리자 권한이 필요하기 때문에, 클라이언트 입장에서는 이 포트에서 동작하는 서비스를 어느 정도 신뢰할 수 있다.
서비스 포트를 표기할 때는 프로토콜을 함께 적기도 한다.
TCP/80이라고 하면 80번 포트에서 TCP 방식으로 서비스가 동작한다는 뜻이다. TCP로 동작하는 서비스에 UDP 클라이언트가 접근하면 데이터가 교환되지 않기 때문에, 프로토콜과 포트 번호를 함께 확인하는 것이 중요하다.

DNS

브라우저에 https://example.com을 입력하면 실제로는 어딘가의 서버 IP 주소로 요청이 가야 한다. 그런데 컴퓨터는 example.com 같은 문자로 된 주소를 이해하지 못한다. 숫자로 된 IP 주소만 알기 때문이다. 이 중간 다리 역할을 하는 것이 **DNS(Domain Name System)**다.
DNS는 도메인 이름을 IP 주소로 변환하는 분산 데이터베이스 시스템으로, 인터넷의 전화번호부라고 생각하면 된다. 브라우저가 example.com을 입력받으면 먼저 DNS 서버에 "이 도메인의 IP 주소가 뭐야?"라고 물어보고, DNS가 123.456.78.9 같은 IP를 돌려주면 그제야 실제 서버로 요청을 보낸다.
서버를 직접 운영할 때는 도메인을 구매한 뒤 DNS 레코드를 직접 설정해야 한다. A 레코드는 도메인을 IPv4 주소로 연결하고, CNAME 레코드는 도메인을 다른 도메인으로 연결한다. MX 레코드는 이메일 서버를 지정하고, TXT 레코드는 도메인 소유권 인증이나 SPF 설정 등에 사용된다. DNS 설정 변경 후 전 세계 DNS 서버에 전파되기까지 수 분에서 최대 48시간이 걸릴 수 있는데, 이를 **DNS 전파(DNS Propagation)**라고 한다.

서버를 구성하며 만나게 되는 네트워크 개념들

IP 주소와 CIDR 표기법

IP 주소는 네트워크 상에서 장치를 식별하는 고유한 주소로, IPv4는 192.168.0.1처럼 0~255 사이의 숫자 네 개를 점으로 구분한 형태다. 공인 IP는 인터넷에서 유일하게 식별 가능한 주소이고, 사설 IP는 내부 네트워크에서만 사용하는 주소다. 192.168.x.x, 10.x.x.x, 172.16.x.x ~ 172.31.x.x 대역이 사설 IP로 예약되어 있다.
네트워크 범위를 표현할 때는 CIDR 표기법을 사용한다. 192.168.0.0/24처럼 IP 주소 뒤에 슬래시와 숫자를 붙이는 방식으로, 뒤의 숫자는 네트워크 부분의 비트 수를 의미한다. /24면 사용 가능한 IP가 256개(실제로는 254개)라는 뜻이다.

서브넷과 서브넷 마스크

**서브넷(Subnet)**은 하나의 큰 네트워크를 여러 개의 작은 네트워크로 나눈 것이다. 클라우드 환경에서는 서브넷을 퍼블릭 서브넷과 프라이빗 서브넷으로 나누는 것이 일반적이다. 퍼블릭 서브넷은 인터넷과 직접 통신이 가능한 영역으로 웹 서버나 로드밸런서를 배치하고, 프라이빗 서브넷은 외부에서 직접 접근할 수 없는 영역으로 데이터베이스나 내부 서버를 배치한다.
서브넷을 나눌 때 사용하는 것이 **서브넷 마스크(Subnet Mask)**다. 255.255.255.0처럼 표현되며, IP 주소와 AND 연산을 하면 해당 IP가 어느 네트워크에 속하는지 알 수 있다.
IP 주소: 192.168.1.130 → 11000000.10101000.00000001.10000010
서브넷 마스크: 255.255.255.0 → 11111111.11111111.11111111.00000000
AND 연산: 192.168.1.0 → 네트워크 주소

NAT

프라이빗 서브넷의 서버는 사설 IP를 가지고 있어서 인터넷과 직접 통신할 수 없다. 이때 사설 IP를 공인 IP로 변환해주는 기술이 **NAT(Network Address Translation)**다. 클라우드 환경에서는 NAT 게이트웨이가 이 역할을 한다. 외부에서는 프라이빗 서버의 존재 자체를 알 수 없고, 요청과 응답 모두 NAT 게이트웨이를 거쳐 변환된다.

방화벽

**방화벽(Firewall)**은 네트워크 트래픽을 감시하고, 정해진 규칙에 따라 허용하거나 차단하는 보안 시스템이다. AWS 기준으로 **보안 그룹(Security Group)**은 인스턴스 단위에서 동작하는 방화벽으로 기본적으로 모든 인바운드를 차단하고 필요한 것만 여는 화이트리스트 방식으로 동작한다. 네트워크 ACL은 서브넷 단위에서 동작하는 상위 레벨 방화벽이다.

실제 서버 설정에서는 SSH 접속을 위한 22번 포트, 웹 서비스를 위한 80번과 443번 포트를 여는 작업이 기본이다. 데이터베이스 포트는 외부에 절대 열지 않고 내부 네트워크에서만 접근 가능하도록 제한하는 것이 원칙이다.

로드밸런서와 리버스 프록시

서버를 여러 대로 늘려 트래픽을 나눠 받는 수평 확장(Scale Out) 구조에서 트래픽을 균등하게 분산시켜 주는 장치가 **로드밸런서(Load Balancer)**다. 헬스체크로 응답하지 않는 서버를 자동으로 제외하고, HTTPS 인증서를 앞단에서 처리하는 SSL 종료 역할도 담당한다.
**리버스 프록시(Reverse Proxy)**는 클라이언트의 요청을 대신 받아 내부 서버로 전달하는 서버다. Nginx가 대표적으로 사용된다. 내부 서버의 존재를 숨기고, SSL 처리, 캐싱, 요청 필터링을 한 곳에서 처리할 수 있다는 장점이 있다.

데이터가 전송되는 실제 흐름

브라우저에서 https://example.com을 입력하면, DNS가 도메인을 로드밸런서의 공인 IP로 변환한다.
↓
로드밸런서는 HTTPS 요청을 받아 SSL을 종료하고 내부 웹 서버들에게 트래픽을 분산한다.
↓
7계층에서 HTTP 요청이 만들어지고,
↓
6계층에서 TLS 암호화가 적용되고,
↓
4계층에서 TCP 세그먼트로 분할되고,
↓
3계층에서 IP 경로가 결정되고,
↓
2계층에서 MAC 주소 기반 프레임이 만들어지고,
↓
1계층에서 전기 신호로 변환되어 케이블을 타고 흐른다.

수신 측은 반대 방향으로 올라오며 해석한다.
이 과정을 **캡슐화(Encapsulation)**와 **역캡슐화(Decapsulation)**라고 한다.

TCP/IP 모델과의 관계

실제 인터넷은 OSI 7계층이 아닌 TCP/IP 4계층 모델을 기반으로 동작한다.
OSI의 5, 6, 7계층을 하나의 응용 계층으로, 1, 2계층을 네트워크 접근 계층으로 합쳐 총 4개의 계층으로 단순화한 구조다.
OSI 7계층을 배우는 이유는 실제로 그대로 구현하기 위해서가 아니라, 네트워크 통신의 각 단계를 개념적으로 분리해서 이해하기 위해서다.

마치며

네트워크 관련된 글을 전부터 정말 쓰고 싶었다..
쓰고 나니 기분이 좋다!