윤리학 코드, feat.코세라 데이터 사이언스 윤리학

드디어 코세라 미시건 대학교의 데이터 사이언스 윤리학 마지막 강의 요약입니다! 챕터는 많지 않지만 한 챕터 안에 여러 내용이 들어있어 조금 시간이 걸렸던 것 같네요. 코딩 강의가 아니라서 따로 과제는 없었지만 토론 세션도 있고 중간중간 퀴즈도 있었답니다...

사실, 강의 초반에는 조금 지루하고 텐션이 떨어진 상태였는데요... 갈수록 제가 몰랐던 것들을 배우고 퀴즈도 자주 틀려서 저 또한 의식하지 못한 편견에 사로잡힌 것이 아닌가 반성하게 되었습니다. 정말 추천드리고 싶은 강의랍니다!

윤리학 코드(code of ethics) 

<출처: YourMembership>

적절한 규제를 마련해야 한다고 하지만 규제는 느리다. 기술은 빠른 속도로 발전하고 있고 규제는 어제 개발된 기술에 대해 이야기하고 있는 꼴이다. 절차 준수(compliance)는 모든 회사들이 지키는 것들이지만 긍정적 접근 방향은 아니다. 그들은 법이 규정하는 선을 넘기지만 않게 최대한 이용할 것은 이용하기 때문이다. 또한 준수 역시 규제와 상관성이 깊기 때문에 과거의 문제점을 보완한 것이라 속도가 느리다. 때문에 사회적 동의나 윤리적 위치가 가장 중요한 것이다. 회사들은 정해진 규칙을 잘 따르기도 하지만 소비자인 우리의 심기를 건드리지 않기 위해 노력한다. 즉, 많은 사회 구성원들이 제대로 된 윤리의식과 책임감을 가지고 있다면 자연스럽게 문제가 해결되는 것이다. 

하지만 가장 이상적인 것은 코딩을 직접 하는 개발자들 개인이 혹은 집단이 스스로 적절한 의식을 지니고 있는 것이다. 사회에 도움이 될 만한 프로그램을 개발해야겠다, 혹은 잠재적 위험성을 미리 캐치하고 이를 방지하는 노력이 필요하다. 설령 코드 상에 문제가 없다 하더라도 사회적 문제를 일으켰다면 그 결과를 책임지고 수정해야 한다. 

케이스 스터디 : 알고리즘과 안면인식(Face recognition)

한 전문 사진가가 아름다운 해변가를 찍었다고 하자. 그의 목표는 따스한 햇살, 반짝이는 모래, 출렁이는 물결 등을 찍는 것이었지만 해변에서 휴식을 취하는 사람들도 사진에 담길 수밖에 없다. 이 사진가는 블로그에 자신이 찍은 사진을 자랑스럽게 올리고 다른 사람들과 공유했다. 하지만 안면인식 인공지능이 자동으로 사람들의 얼굴을 판별하고 이름 태깅(tagging)을 해서 사람들의 이름이 다 뜨도록 했다. 검색 엔진 역시 인공지능이 이 태킹을 바탕으로 사진이 검색되도록 했다. 그런데 해변에 있던 사람들 중 한 남자는 사실 불륜 중이었고 아내는 남편 이름을 친 결과 다른 여자와 같이 있는 것을 발견한다. 이 때문에 둘이 이혼 소송을 하고 가정의 질서가 깨지게 되었다. 불륜을 한 것 자체가 비윤리적인 것은 맞지만 그 불륜이 사진가에 의해 공개될 이유나 의무는 없다. 

사진가는 잘못이 없다. 자유롭게 풍경을 찍었고 의도적으로 사람들을 찍은 것이 아니기 때문이다. 그렇다면 안면인식 인공지능의 잘못인가? 아니면 검색 엔진의 태깅 분류가 잘못인가? 안타깝게도 이런 인공지능 기술들은 그런 복잡한 상황을 알리 만무하다.