AI 안면인식 변환 기술(딥페이크)의 위험성에 대처하는 바이두

소요에서 관련 내용 확인하기

“AI 얼굴 변환 기술"이 끊임없이 사용되면서 모바일, PC에 있는영상, 사진의 진위 여부를 파악하기 힘들어졌습니다. 우리는 금융, 의료, 앱 등록, 출퇴근 체크 등 일상생활 각 영역에서 안면인식으로 신분을 증명하고 있습니다. 안면인식의 생체 식별은 보통 움직임이 없거나(정적), 움직임이 있는(동적) 상태의 사진을 확인하여 인쇄, 복제, 가면 등이 아닌 “실제 사람"인지 판단합니다. 하지만 여전히 일부 사람들은 AI 얼굴 변환 기술을 무분별하게 사용하여 초상권, 사생활 등을 침해하며 심지어 신상까지 위협하고 있습니다.

이런 상황을 해결하기 위해, 바이두브레인(百度大脑)은 AI 안면인식 기술중 하나인 “온라인생체식별"과 “H5(HTML5 약칭, 웹페이지 기술)영상생체식별"에 합성된 사람 얼굴을 감별해내는 기능을 추가했습니다. 각종 AI 얼굴 변환 기술의 응용으로 만들어진 “가짜" 사람 얼굴을 가려내어 안전성을 높인 것입니다.

<출처: 바이두 AI 오픈소스 플랫폼 홈페이지>

온라인생체식별

온라인생체식별 기술은 주로 “오프라인 얼굴 데이터셋 SDK”와 함께 iOS, Android 앱에서 실명 인증, 원격 신분 검사, 얼굴 등록 등에 활용되고 있습니다. 딥러닝 모델에 기반하여 사진 속에 생기는 줄무늬, 물체 기형 현상 등을 학습하고 사진 속 얼굴이 진짜인지를 판단합니다. 이는 스크린샷 2차 복제 등의 악의적 공격을 효과적으로 막아 업무상의 안전성을 향상시킬 수 있습니다.

오프라인 얼굴 데이터셋 SDK는 중국 내 오프라인 환경에서 지정된 동작을 수행하는 사진으로 구성되었고, 정적인 사진만으로 진행하기 어려운 식별 작업에 도움을 제공합니다. 다음 실제 식별 과정을 살펴보겠습니다.

<출처: 百家号 바이두>

바이두브레인 알고리즘은 먼저 사용자가 촬영한 신분증의 정면 사진을 수집하고 식별합니다. 이후 오프라인 얼굴 데이터셋 SDK에서 랜덤으로 동적인 얼굴 사진을 선택하고 사용자에게 보여주면서 따라하도록 합니다. 특정 동작을 따라한 사용자의 얼굴 사진을 고화질로 출력한 뒤, “온라인생체식별" 기능을 바탕으로 2차 검증을 하여 사진 합성 여부를 판단합니다. 마지막으로 공식적인 “경찰(公安) 검증” API와 연결하여 더욱 정확하고 엄격한 검증을 거칩니다.

H5영상생체식별

H5영상생체식별은 주로 인터넷 웹페이지에서 사용되는 것으로, 사용자가 새롭게 제작하거나 업로드한 영상에 대한 생체 식별 작업을 진행합니다. 영상 제작 및 업로드 시, 사용자는 랜덤으로 주어진 음성 검사 코드를 읽어야 합니다. 이를 바탕으로 바이두브레인의 알고리즘은 영상에 나오는 얼굴 정보와 사용자가 읽은 음성 검사 코드가 매칭되는지 분석합니다.

<출처: 百家号 바이두>

실제로 사용자가 먼저 신분증 정보를 입력하면 H5영상생체식별 과정을 통해 음성 검사 코드로부터 얻은 음성 및 입술 모양을 분석합니다. 이를 신분증 정보로 얻은 얼굴 데이터와 비교하여 사진 속 얼굴이 진짜인지 1차 검증하고, 음성 데이터를 읽고 있는 얼굴 사진을 고화질로 재차 출력해냅니다. 이어서 2차 검증을 진행하고 경찰 검증 API와 연동하여 작업을 마무리합니다.

현재 바이두브레인의 AI 오픈소스 플랫폼에 등록된 온라인생체식별과 H5영상생체식별 기술은 광범위하게 사용되고 있습니다. 부동산 거래, 보험 업무, 전자상거래 운영 등 엄격한 신분 검사가 필요한 온라인 환경에서 매우 유용할 것으로 보입니다. 바이두브레인의 AI 안면인식 기술은 6종류의 오프라인/온라인 생체 식별 서비스를 제공하고 있습니다. 동작, 음성, 입술 모양, RGB, 3D 광학 등 다양한 수단을 적극 활용하여 사용자의 요구를 만족시키고 온라인상의 안전을 책임지고 있는 것입니다.

또한, 이 기술들은 각 업무의 특성에 따라 커스터마이징할 수 있도록 설계되었다고 합니다. 직접 개발하는 경우, 모든 프로그래밍 언어와 호환되며 위챗 미니프로그램, 공식 계정 등 다양한 환경에 적용할 수 있습니다.

참고 원문: baijiahao.baidu.com/s?id=1664852898261370985&wfr=spider&for=pc