인공지능(AI) 기반 얼굴 인식 기술은 개인정보를 위협하는 가장 위험한 기술로 꼽힌다. 일부 기업은 SNS 등 네트워크의 다양한 이미지에서 추출한 얼굴 데이터를 활용하거나 판매하는 경우도 있다. 이런 가운데 얼굴 인식 인공지능(AI)을 막는 AI가 등장해, 주목된다.
시카고 대학 샌드랩(Sand Lab)은 AI를 막는 AI ‘포크스(Fawkes)’를 개발했다. 영화 ‘브이 포 벤데타’에 등장하는 가면에서 따온 이름으로, 같은 사람을 동일인으로 판단하지 못하도록 방해한다.
신기하게도 인간은 큰 변화를 체감하기 힘들다. 색감 등 변화가 느껴지기도 하지만, 대체로 원본과 차이가 거의 없다.
포크스는 사진에 아주 작은 변화를 주고, 미래에 이미지를 인식하는 AI를 속인다. 얼굴 인식 AI는 이마, 광대 등 안면에서 중요한 특징점을 중심으로 데이터를 수집한다. 즉 AI가 특징점에 차이가 있다고 판단하면, 인간에게는 같은 사람으로 보여도 다른 사람으로 인식한다.
연구진은 이를 ‘클로킹’이라고 부른다. 성능 좋은 투명 마스크를 사진에 씌워주는 셈으로 무차별적인 웹 크롤링을 통한 얼굴 정보 탈취를 막을 수 있다.
송주상 기자 sjs@chosunbiz.com