보안 기법

암호

암호는 안전한 보호 방법이 따로 없을 때 컴퓨터 시스템 내 객체를 보호하기 위해 사용한다. 자원 이용 요구가 있을 때마다 암호를 요청하고, 암호가 정당하면 그때 액세스를 허용하는 방식으로 동작한다.

암호화

암호화는 신뢰할 수 없는 링크를 통해 전송되는 정보를 보호하는 방법으로 가장 널리 쓰인다. 정보는 전송되기 전에 암호화되고, 목적지에 도달하면 미리 제공된 비밀키로 복호화되는데, 이 과정이 안전하게 이루어져야 안정된 정보 전송이 가능하다. 그만큼 해독하기 어려운 암호화 기법을 개발하는 일이 중요하다.

암호는 비밀성, 인증, 무결성 검사, 전자서명이라는 네 가지 기능을 수행한다. 다만 암호는 비밀을 유지하기가 어렵고, 추측이나 우연한 노출로 알려질 수 있다는 문제도 안고 있다.

대칭형 암호화 기법

대칭형 암호화는 가장 널리 알려진 단일키 암호화 알고리즘으로, 암호화와 복호화 두 알고리즘에 동일한 비밀키(개인키) 하나를 사용해 데이터를 암호화한다. 데이터 암호화 표준 기법으로는 IBM이 개발하고 1977년 NIST가 표준으로 채택한 방식이 대칭형 암호화 기법 중 가장 널리 사용된다.

공개키 암호화 기법

RSA 암호화 기법

RSA는 코드화하기는 간단하지만, 암호문을 해독하기는 매우 어렵다는 특징을 가진 공개키 암호화 기법이다.

인증

인증은 서로 교환하는 정보의 무결성을 확인하는 메시지 인증과, 송수신자의 정당성을 확인하는 사용자 인증 두 가지로 구분된다.

메시지 인증

메시지 인증은 전송받은 메시지의 무결성을 확인하기 위해, MAC을 생성할 때 사용한 비밀키를 이용해 동일한 방법으로 MAC을 다시 생성한 뒤 전송받은 MAC 값과 비교하는 방식으로 이루어진다.

HMAC 함수

HMAC은 해시 함수를 이용해 MAC을 생성하는 함수로, 해시 함수의 입력에 사용자의 비밀키와 메시지를 함께 포함시켜 해시코드를 구한다.

사용자 인증

사용자 인증은 서버상의 특정 디렉토리를 아이디와 암호 입력 같은 절차를 거친 뒤에야 사용할 수 있도록 하는 방법으로, 사이버 공간에서 본인이라 주장하는 실체의 신원을 확인해주는 기법이다.

디지털 서명 기법

디지털 서명은 부인 봉쇄를 목적으로 하며, 공개키 암호 시스템을 사용할 때와는 반대로 서명자의 공개키(검증키)를 사용해 서명을 검증한다.

네트워크 보안

방화벽

방화벽은 다른 네트워크의 사용자들로부터 네트워크 자원을 보호하는 침입차단시스템으로, 공개되지 않은 자원에 대한 외부인의 접근을 막고 접속해야 할 외부 자원을 통제하며, 라우터 프로그램과 밀접하게 동작한다. 네트워크 패킷을 수신처로 전달할지 검사해 허위 패킷을 여과하지만, 악성 내부자에 대해서는 보호할 수 없고 내부 호스트에는 강제적인 보안 기법으로 제한할 수밖에 없다는 한계가 있다.

침입탐지시스템(IDS)

IDS는 침입 사실을 빠르게 검출하고 침입자를 봉쇄해 시스템 손실과 데이터 훼손을 최소화하는 적극적인 방어 기법으로, 정보시스템의 기밀성·무결성·가용성을 침해하는 모든 행위를 탐지한다. 탐지 방식으로는 통계적 변화 탐지, 규칙기반 변화 탐지, 상태 변이 분석이 있다.

트래픽 채우기

트래픽 채우기는 트래픽 양 분석 공격을 방어하기 위한 수단으로, 여분의 데이터를 삽입해 데이터를 일정한 길이로 만들어 트래픽 분석의 위협을 방어한다. 여분의 데이터를 삽입한 뒤의 길이는 실제 트래픽에서 발생하는 데이터의 최장 길이보다 크게 만들며, 프로토콜 데이터의 내용을 암호화하거나 변형해 실제 데이터와 구별할 수 없도록 한다.

보안 운영체제를 탑재한 컴퓨터

보안 운영체제란 운영체제의 보안상 결함으로 발생할 수 있는 여러 해킹 공격으로부터 시스템을 보호하기 위한 커널 수준의 보안 방법을 말한다. 시스템 사용자에 대한 식별과 인증, 강제적·임의적 액세스 제어, 감시 추적 및 침입 탐지 등 강력한 보안 기능 요소를 포함한 운영체제이며, 이를 탑재한 시스템이 곧 신뢰 시스템이다.

보안 운영체제

개요

보안 운영체제는 커널에 참조 모니터라 불리는 모듈을 두어, 사용자가 어떤 객체에 연산을 요청하더라도 항상 액세스를 제어해 승인과 거절을 수행한다. 위협 감시 기능에 침입 탐지 기능을 더해 끊임없이 보안 위반을 탐지하고 의심스러운 행동을 검사하는데, 일정 횟수 이상의 부적절한 시도가 있으면 암호를 추측하려는 시도로 판정해 액세스를 제한하고, 로그를 확보해 프로세스 단위로 파일·디렉터리·디바이스 등에 대한 상세한 액세스 연산을 파악한다. 감사 데이터 자체가 안전하지 못하면 침입자가 이를 변조해 자신의 행위를 추적할 수 없도록 감출 수 있기 때문에, 감사 기능을 운영체제 내부에 구현해 이런 위협을 근본적으로 차단한다.

TCSEC 초안 제정

1983년 미국에서 제정된 TCSEC(오렌지 북이라 불리는 신뢰성 컴퓨터 시스템 평가 기준)은 보안이 약한 순서대로 A1, B3, B2, B1, C2, C1까지 7가지 등급으로 분류되며, 보안정책과 신분확인 및 감사 추적 등의 책임성, 보증 및 연속적인 보호, 문서 부분 등 기본적인 컴퓨터 보안 요구사항을 규정해 보안 커널의 기준을 제시한다.

보안 운영체제의 기능

식별과 인증

식별과 인증은 각 시스템 자원을 보호하기 위한 1차적인 보호 계층으로, 보안 커널 설계의 기본 기능이다. 구조를 바꾸지 않고도 여러 방법으로 보안을 개선할 수 있지만, 특별한 정보를 보호하려면 그만큼 강력한 시스템 구조가 요구된다.

영역 분리

영역 분리는 애플리케이션이나 사용자의 역할에 따라 접근 가능한 정보 영역과 시스템 제어 권한을 제한하는 것이다. 임의의 애플리케이션이 자신과 무관한 정보 영역을 마음대로 액세스하거나, 일반 사용자는 물론 루트 사용자 계정이라도 보안 운영체제가 정의한 것 이외의 관리 업무를 단독으로 수행할 수 없도록 운영체제가 통제한다.

강제적인 액세스 제어

참조 모니터는 컴퓨터 하드웨어와 운영체제에 있는 제어 요소이며, 감사 로그는 시간, 사용자, 객체에 대한 모든 액세스 형태를 기록한 파일로 침입 탐지를 위한 기본 도구로 쓰인다. 감사 추적의 장점은 감사 자료 자체의 보안성에 있다.