크로스포이즌

크로스포이즌(Cross-Poison)은 서로 다른 출처의 악성코드 또는 해로운 데이터를 결합하여, 기존의 보안 시스템을 우회하거나 새로운 공격 경로를 생성하는 기법을 의미한다. 이는 주로 인공지능(AI) 모델, 특히 머신러닝 모델을 공격하는 데 사용되며, 학습 데이터에 의도적으로 오염된 데이터를 삽입하여 모델의 예측 성능을 저하시키거나, 특정 목표를 달성하도록 조작하는 행위를 포함한다.

크로스포이즌 공격은 단일 유형의 포이즌 공격보다 탐지 및 방어가 더 어려울 수 있다. 왜냐하면 여러 종류의 공격 기법이 혼합되어 나타나기 때문에, 각 개별 공격에 특화된 방어 전략이 효과를 발휘하지 못할 수 있기 때문이다. 예를 들어, 이미지 인식 모델에 대한 크로스포이즌 공격은 이미지 픽셀에 미세한 노이즈를 추가하는 공격과, 특정 객체를 잘못 분류하도록 유도하는 공격을 결합하여 수행될 수 있다.

이러한 공격을 방어하기 위해서는 데이터 정제 기술, 이상 탐지 알고리즘, 그리고 로버스트한 학습 방법론 등 다양한 보안 기술이 필요하다. 또한, 모델 개발 과정에서 데이터의 출처를 추적하고, 데이터의 무결성을 검증하는 절차를 강화하는 것이 중요하다.