https://hugogascon.com/publications/2015-securecomm.pdf
https://github.com/hgascon/pulsar

주의

지극히 개인적인 의견만 들어가 있습니다. (본인도 뭘 썼는지 모르겠음)

선정 이유

AFLNet을 사용하려 시도하였지만 afl instrumentation 과정에서 실패하였다. 이에 따라 AFLNet을 포기하고 새롭게 black-box network fuzzer를 작성하였지만 feedback이 낮아 취약점을 찾지 못하는 것을 확인하였다. 따라서 feedback을 어떻게 줄 수 없을까 고민 끝에 논문을 하나 더 읽기로 결정하였고, 이에 따라 black-box network fuzzer이면서 feedback을 받아 작동하는 해당 퍼저의 논문을 읽게 되었다.

요약

구조

PULSAR는 크게 3단계로 작동한다.

  1. 모델 유도: 대상 프로토콜의 샘플 패킷 캡쳐를 통해 프로토콜 모델을 학습한다. 이는 프로토콜 상태 머신에 대한 마르코브 모델을 포함한다.
  2. 테스트 케이스 생성: 추출된 템플릿과 규칙들은 통신 과정 중 어떤 메세지 필드에 어떤 값이 들어가는지 알려준다. 이를 이용해서 테스트 케이스를 생성한다.
  3. 모델 커버리지: 모델에 대한 커버리지를 최대한 높이기 위해 시도한다.

상세 내용

기본적으로 아이디어와 구현 방법은 AFLNet과 비슷한 것 같다. Mutation이나 model coverage 개념, protocol exploration 방법이 동일하게 구현되어 있으므로 해당 내용들은 예전에 정리해 놓은 AFLNet을 보면 될 것 같다. (애초에 AFLNet에서 현재 논문을 참조한다) AFLNet과 다른점이라면 이 논문의 경우 passive learning, 즉 주어진 테스트 케이스만 가지고 프로토콜 모델을 만든다면 AFLNet의 경우 grey-box 방식으로 프로토콜 모델을 만들어 나간다. 해당 차이를 제외하고 큰 차이가 보이지 않는다.

총평

Black-box에서 피드백을 참조할 수 있게 해준다는 점에서 장점이 큰 것 같다. 하지만, 퍼징 자체가 테스트 케이스를 어떻게 주는지에 따라 달라지기 때문에 매우 불안정한 것 같다. 또한, VM 환경의 경우 해당 논문의 방법을 사용하기 힘든 것이 VM 에뮬레이터의 경우 통상적인 프로토콜을 사용하고 (proprietary protocol이 아니다) 이에 따른 테스트 케이스를 잘 생성하기가 힘들다. 따라서 네트워크 퍼징 방법에 대해 배울 수 있는 좋은 논문이지만, 참고자료로 사용하기 어려운 점이 아쉽다.

https://www.comp.nus.edu.sg/~abhik/pdf/AFLNet-ICST20.pdf
https://github.com/aflnet/aflnet

주의

지극히 개인적인 의견만 들어가 있습니다. (본인도 뭘 썼는지 모르겠음)

선정 이유

이번에 공격 벡터로 네트워크를 선택하면서 네트워크 프로토콜에 대한 퍼징 방법을 공부할 필요가 있었다. BOOFuzz와 같은 퍼저도 있었지만 그 중에서 그나마 친숙한 AFL에서 어떻게 네트워크 퍼징을 수행하였는지 알아보기 위해 해당 논문을 선택하였다.

요약

문제 특성

네트워크 프로토콜에서 퍼징을 진행하기 쉽지 않다. CGF (Coverage-based Greybox Fuzzing)이나 SBF (Stateful Blackbox Fuzzing)과 같은 여러 시도가 있었지만 네트워크 프로토콜의 특성에 따라 한계가 존재한다.

  1. 서버는 stateful하고 message-driven이다.
  2. 서버는 state에 의해 응답이 결정되기 때문에 CGF로써는 이런 특성을 잡아내는게 쉽지 않다. (State를 tracking하는 기능이 없기 때문이다)

CGF with Concatenated Files

CGF를 통해 concatenated file들을 만들어 테스트 입력으로 넣어보는 시도가 있었다. 하지만 이는 매우 비효율적인 방법이다.

  1. 각 iteration마다 전체 시드 파일에 대해 mutation을 진행해야 한다. 만약에 $m_0 \thicksim m_k$의 message sequence가 있다면 전체를 mutate하는 것보다 가장 가능성 있는 $m_i$만 mutate 하는 것이 효율적이다.
  2. 프로그램 상태에 대한 정보가 없다면 많은 message sequence들이 거절당할 수 있다.

위의 한계점들로 인해 stateful program을 퍼징하는데 가장 많이 사용되는 기술은 SBF이다.

SBF

앞에서 언급한 CGF의 한계들 때문에 SBF를 사용하여 네트워크를 퍼징하는 것을 시도하는 연구가 많았다. 이는 프로토콜 모델을 돌면서 FSM이나 그래프 형태로 메세지의 데이터 모델이나 문법을 정보를 얻고 이를 토대로 메세지 시퀀스를 생성하는데 여러 문제가 존재한다.

  • 하지만 이는 개발자가 프로토콜에 대해 얼마나 잘 이해했고 잘 구현했는지, 또 클라이언트와 서버 간의 샘플 패킷들에 의존적이다.
  • 또한 SUT에 구현되어 있는 프로토콜에 대한 정보를 정확하게 추출하지 못하는 경우가 많다.
  • 다른 여타 블랙박스 퍼징과 동일하게 인상깊은 테스트 케이스들을 보유하지 못한다. (Coverage와 같은 정보가 없기 때문)
  • 또한, 런타임에 상태 정보를 업데이트 하지 않는다.

AFLNet

위의 문제들을 보완할 수 있도록 stateful CGF 툴을 만들었다. AFLNet은 자동으로 상태 모델을 유도하고 coverage guided fuzzing을 사용하여 새로운 상태들을 찾고 상태 모델을 개선한다. 또한, 그동안 동적으로 만들어진 상태 모델은 state coverage와 code coverage에 대한 정보를 제공하여 퍼징이 더 잘 일어날 수 있도록 한다.

용어들

  • 서버 : 원격으로 접근 가능한 소프트웨어 시스템
  • 클라이언트 : 서버에서 제공하는 서비스를 사용하는 소프트웨어 시스템
  • 메세지 시퀀스 : 메세지 벡터
  • 요청 : 클라이언트로부터의 메세지
  • 응답 : 서버로부터의 메세지
  • 서버 상태 : 클라이언트와의 통신 중 서버의 특정 상태

퍼저의 경우 클라이언트로 작동하며 서버의 경우 서버로써 작동한다.

디자인 및 구성

AFLNet은 AFL의 확장 버전이라고 생각하면 된다. AFLNet은 두 채널을 제공하는데, 하나는 메세지를 서버에 보내기 위한 채널, 다른 하나는 서버에서 응답을 받기 위한 채널이다. 서버에서 응답을 받기 위한 채널은 state feedback을 받거나 code coverage를 받는데 사용한다. AFLNet은 기본적인 C 소켓 라이브러리를 사용하며, 적절한 동기화를 위해 요청 간 딜레이가 포함되어 있다.

AFLNet의 입력으로는 네트워크 트래픽을 포함한 pcap 파일을 넣어주면 된다. 넣어준 파일은 AFLNet의 Request Sequence Parser에 의해 파싱되어 초기 메세지 시퀀스를 생성하는데 사용된다.

이후 State Machine Learner가 서버 응답들을 가지고 state machine을 업데이트 한다. 그 후 업데이트 된 state machine을 Target State Selector가 참조하여 다음으로 탐색할 state를 지정한다. 각종 휴리스틱 알고리즘을 적용하여 퍼저가 어떤 state에 집중해야 할 지 지정한다. 이후 지정된 state에 도달하기 위해 Sequence Selector가 message sequence를 선택한다. 이때 AFL이 관리하는 seed corpus와 유사하게 AFLNet은 state corpus를 추가로 관리하여 state에 대한 정보들을 저장한다. 저장된 정보는 Sequence Selector가 참조하여 message sequence를 랜덤으로 선택하는데 사용된다.

Sequence Mutator는 선택된 sequence에 대한 mutation을 진행한다. 이는 generation-based approach에 비해 장점이 있는데, (1) 비교적 유효한 message sequence를 생성할 수 있고, (2) 특정 중요한 message sequence에 변형을 가해 corpus를 더 발전시킬 수 있다.

Mutation 과정은 아래와 같다.

Algorithm : State $s$와 message sequence $M$이 주어졌을 때 해당 알고리즘은 새로운 message sequence $M'$를 생성한다.

  1. Original sequence $M$을 3 파트로 나눈다.
    1. Prefix $M_1$ : state $s$에 도달하기 위한 sequence
    2. Candidate subsequence $M_2$ : state $s$에 남아 있을 수 있으면서 실행 가능한 message subsequence
    3. Suffix $M_3$ : 나머지 sequence 부분 ($<M_1, M_2, M_3> = M$)
  2. 새로운 sequence $M'$를 $M'=<M_1, mutate(M_2), M_3>$로 생성한다.
    • Protocol-aware mutation operator $mutate$를 사용한다. 주어진 corpus $C$에서 (Message Pool) message를 가져와 이와 기존 message와 replacement, insertion, duplication, deletion 등의 작업을 수행한다. 또한, 기존 mutation 방법인 bit flipping, substition, insertion, deletion of blocks 등의 작업도 수행한다.
  3. 새롭게 생성된 $M'$를 중요하다고 판단하고 이를 corpus $C$에 추가한다. 또한, sequence에 의해 새로운 state나 state transition이 발견될 경우 해당 sequence를 중요하다고 판단한다.

총평

정확한 알고리즘이나 방법에 대해서는 서술이 되어 있지 않지만 소스코드가 주어져 있으며 case study가 나름 잘 되어 있어서 더 깊게 이해하는데 어려움이 없을 것으로 생각된다. 또한, 아키텍쳐가 상당히 명확해서 이해하기가 쉬웠다.
다만 아쉬운 점은 IP와 같은 프로토콜의 경우 체크섬이 있는데 해당 체크섬을 어떻게 통과할 수 있는지에 대한 서술이 없다는 것이다. 또한, IPSM을 어떻게 생성해 나가는지에 대한 설명도 없어 아쉽다.

https://arxiv.org/pdf/2001.09592.pdf

주의

지극히 개인적인 의견만 들어가 있습니다. (본인도 뭘 썼는지 모르겠음)

Problem Statement

네트워크 프로토콜을 하는데에는 많은 어려움이 있다. 첫째, 네트워크 프로토콜은 사이즈가 크고 복잡하다. 둘째, 테스트와 검증을 통해 에러를 얻는데까지 걸리는 시간이 길다. 셋째, 실제 환경에서 테스트하는 것과 가상의 환경에서 테스트 하는 것과 상황이 다르다.
네트워크 프로토콜을 퍼징하는데 많은 시도가 있었다. 퍼징만 사용하여 네트워크를 테스트하거나 symbolic execution만을 사용하여 네트워크를 테스트하려는 시도들이 있었지만 low coverage 문제나 path explosion 문제가 있었다. 따라서 둘을 섞어 네트워크를 퍼징하려 한다.

Summary

FuSeBMC는 퍼징만으로 탐색하기 어려웠던 부분들을 symbolic execution과 BMC(Bounded Model Checking) 엔진으로 해결한다. 총 다섯단계로 퍼징이 진행되는데, 아래와 같다.

  1. Protocol specification analyzer가 concrete packet을 만든다.
  2. AFL을 통해 테스트 케이스를 생성한다. 그 뒤 function coverage를 측정한다.
  3. 너무 많은 경로들을 지나면서 해당 경로들이 code coverage를 늘린다면 (i.e invalid packet) 이들을 symbolic packet으로 마킹한다.
  4. Path-based symbolic execution과 BMC를 통해 path들을 개척한다.
  5. Concrete packet에 symbol 들을 붙여서 symbolic packet으로 바꾼다.

아래 두 기준을 이용하여 퍼저를 평가하였다.

  1. Protocol specification에 대해 버그를 찾는 능력
  2. 버그를 찾기까지 걸리는 시간

또한, 실험적 목표는 아래와 같다.

  1. EG1 (취약점 감지) : Real-world network protocol 구현들에서 취약점을 찾을 수 있는가
  2. EG2 (witness validation) : 감지된 취약점에서 좀 더 많은 정보를 얻을 수 있는가 (취약점에 대한 정보)

ESBMC, KLEE, Map2Check, SPIKE를 간단한 FTP 서버에 적용시킨 뒤 실험한 결과 ESBMC만 EG1을 달성할 수 있었다. 또한 ESBMC를 적용하였을 때 bad state까지 도달하는 경로를 얻을 수 있었고, 이는 EG2를 달성한 것과 동치이다.

Strengths

퍼징과 Symbolic execution의 한계를 깨며, 단시간에 취약점을 찾을 수 있다는 것에서 장점을 보이고 있다.

Weaknesses

아래와 같은 부분이 애매하거나 잘 서술되어 있지 않다.

  1. Protocol specification을 어떻게 읽었는지
  2. Fuzzing exploration 전략이 무엇인지
  3. Concrete packet, symbolic packet의 정의가 무엇인지
  4. Symbolic marking의 과정이 무엇인지
  5. Coverage를 측정하기 위한 instrumentation 방법은 무엇인지 (AFL을 사용했다고 서술되어 있지만 정확하지 않다)
  6. Symbolic execution을 어떤 방식으로 수행했으며, input validation을 어떤 프레임워크로 수행했는지
  7. Driller와 차이가 무엇인지
  8. 네트워크 프로토콜에서 symbolic execution과 기존 퍼징 방법을 섞어야 되는 이유가 정확히 무엇인지 (프로토콜의 특성이 사유가 될 수 있는지)

또한 평가 방법에도 문제가 많다.

  1. FTP 서버에 대해 퍼징을 수행했는데 다른 퍼저들은 얼마나 빨리 취약점을 찾는지
  2. 테스트를 몇회 수행했는지 (시드 생성 등에 랜덤한 요소가 있기 때문에)
  3. FTP 서버와 서버를 하나 새롭게 만들어서 테스트를 수행했는데 이렇게 했을 때 리얼월드에서 평가를 진행했다고 할 수 있는지

Further Discussions

네트워크 프로토콜의 특성에 따른 퍼징 기법으로 무엇이 적절할지 더 논의가 필요해 보인다. 또한, 리얼월드에 가까운 방법으로 퍼저를 평가할 수 있는 방법이 무엇일지도 논의가 필요해 보인다.

https://www.usenix.org/system/files/conference/usenixsecurity18/sec18-eckert.pdf

주의

지극히 개인적인 의견만 들어가 있습니다. (본인도 대체 뭘 썼는지 모르겠음)

선정 이유

CVE-2019-6778 을 분석하다 보니 heap과 유사한 점들을 찾았다.

  1. malloc, free와 같은 transaction에 의해 내부 state가 변하는 것이 동일하고 (패킷이 들어왔을 때 state가 변한다)
  2. 패킷이 들어왔을 때 발생하는 특정 메모리 시퀀스가 존재한다.

이런 상황에서 오버플로우와 같이 명확한 취약점이 존재하지 않더라도 동적 메모리 부분에서 버그를 찾을 수 있지 않을까라는 생각에 해당 논문을 선정하였다. 해당 논문을 통해 transaction에 의한 state transition이 있는 모델에서 취약점을 찾는 방법을 배우고자 한다.

요약

모델

모델은 (Heap Interaction Model) 3요소로 구성되어 있다.

  1. Heap-state : 현재 힙 상태를 말한다. mmaped memory, allocated chunks, freed chunks 로 구성된다.
  2. Transactions : malloc, free, overflow등으로 state transition이 일어날 수 있는 행동들을 정의한다.
  3. New heap-state : transaction에 의해 변한 heap state다.

모델은 위와 같이 주어져 있지만 실제 바이너리에서 분석을 진행한다고 할 때 transaction만 API로써 정의되어 있을 뿐 정확한 heap-state는 dynamic allocator의 버전마다 다르기 때문에 사실상 알려져 있지 않다고 보면 된다.

마지막으로, transaction 수를 제한하여 symbolic execution의 문제인 path explosion과 constraint complexity를 어느정도 해소한다.

Transactions

Transaction을 usage와 mis-usage로 분류할 수 있다.

  • Usage : malloc, free와 같이 정상적으로 처리되는 경우이다.
  • Mis-Usage : overflow, UAF, Double Free, Fake Free와 같이 정상적이지 않은 행동들이다.

이들에 대한 간단한 예시를 들면 아래와 같다.

malloc

size에 해당하는 symbolic value가 주어졌을 때 아래 3가지가 발생한다.

  1. Return : addr, actual size에 해당하는 symbolic value들이 발생한다.
  2. Constrains : 주어진 size에 대해 actual size가 달라지기 때문에 이에 대한 constrain들이 주어지게 된다.
  3. Modifies : heap-state의 변화가 정의된다.

UAF

Freed chunk에 해당하는 addr와 actual value가 주어지고 특정 symbolic data가 주어지면 UAF에 의해 symbolic byte들로 metadata overwrite가 발생하거나 heap state가 변화한다.

Interaction Model

주어진 transaction sequence를 가지고 permutation을 만들고, permutation을 소스코드로 변환한다. (PoC가 될 수도 있는 후보들) Permutation에는 무조건 하나 이상의 mis-use가 포함되어 버그가 발생할 수 있어야 한다. 그 뒤 소스코드를 컴파일해서 바이너리로 변환한다. 단, 이 과정에서 symbolic memory를 사용할 수 있도록 instrumentation 과정을 거쳐야 한다.

Model Checking

Symbolic execution을 사용하여 앞 단계에서 생성한 바이너리를 실행한다. (Shared library도 같이 실행됨) 이 과정에서 mmap이나 brk와 같은 system call도 시뮬레이팅하며 (angr 프레임워크를 사용하기 때문) DFS를 통해 속도를 향상한다. (하나의 path를 하나의 contraint set에 대응시킨다)

Security Violation Identification

Symbolic execution을 통해 아래 4개의 state들을 검색한다.

  1. OA (Overlapping Allocation)
  2. NHA (Non-Heap Allocation)
  3. AW (Arbitrary Write)
  4. AWC (Arbitrary Write Constraint) : AW가 가증하지만 특정 content가 존재하는 부분만 쓰기 가능

PoC Generation

Symbolic data를 concrete data로 바꿔서 PoC 코드를 생성한다.

전체 아키텍쳐

총평

Symbolic execution을 통해 transaction based model을 테스트한다는 것이 인상적이었다. 하지만 네트워크에 넣어서 적용시키는데에는 한계점이 있다. 만약에 네트워크에서 mis-use를 정의할 수 있고 해당 mis-use를 통해 익스플로잇을 하는데 어려움이 많다면 해당 프레임워크를 수정해서 사용하는 것도 나쁘지 않은 것 같다.

+ Recent posts