사전동의의 역사 및 개념, feat.코세라 데이터 사이언스 윤리학

고지에 입각한 동의에 관한 역사와 개념

사람 실험 대상자는

- 반드시 실험에 대해 고지받아야 한다.

- 반드시 자발적으로 동의해야 한다.(강압 없이)

- 동의를 언제든 철회할 권리를 가져야 한다. 

실험 결과는 해로울 수도 이로울 수도 있는데 그 대상자가 다르다. 실험을 당하는 사람은 보통 건강상 해로움을 사회나 과학 학계는 연구의 이로움을 가지게 된다. 

<출처: Linkedin>

기관감사위원회(Institution Review Board):

- 비과학자를 포함한 다양한 멤버들로 구성

- 사람 대상자 실험 연구 승인

- 실험 대상자에게 미치는 잠재적 해로움을 과학 학계에 미칠 이로움과 비교하여 밸런스

- 고지에 입각한 동의의 불가피한 위법 행위 관리(심리실험에서 참가자들의 반응을 살펴볼 때 보통 실험의 목적을 설명해주지 않음: 이것은 어쩔 수 없는 위법)

웹 프로그램 운영 회사에게도 IRB의 허락이 필요할까?

대부분의 회사들은 다양한 고객층이 있다. 두 그룹으로 나누어서 version A와 version B를 각각 보여주고 고객들의 패턴을 분석한다. 이후 더 효과가 있을 것 같은 version을 선택한다. 이 과정을 A/B 테스트라고 한다. 웹 운영 회사는 A/B 테스팅을 계속 수없이 진행한다. 고객들은 당연히 이 테스트의 영향을 받고 회사는 수익이 날 것 같은 version을 선택하여 우리가 클릭을(구매, 검색) 하게끔 만든다. A/B 테스트는 사람 대상자 실험과 무관하기 때문에 IRB의 허락이 필요없다. 

페이스북+코넬 대학 실험 연구

페이스북에 접속하여 소식을 접하는 일부 사람들에게 부정적 기사만을 다른 일부 사람들에게 긍정적 기사만을 보여주었다. 실험 결과 부정적 기사를 계속 접한 사람들은 부정적인 내용을 올리는 경향을, 긍정적 기사를 계속 접한 사람들은 긍정적인 내용을 올리는 경향을 보였다. 하지만 사람들은 업로드되는 소식이 페이스북에 의해 조작되었는지 알지 못했다. 결과를 발표한 페이스북과 코넬 대학은 비난 세례를 받았다.

회사는 이유가 어찌 되든 조작 사실을 사람들에게 속여서는 안 된다. 이는 불가피한 위반 행위와는 다르다. 실험의 목적은 알려주지 않아도 된다는 것이지 부정적, 긍정적 기사만을 접하게 해놓고 아무 말이 없어서는 안 된다. 아무리 합법 행위라도 사람들을 속이면서까지 실험 연구를 진행하는 것은 비윤리적 행위이다. 

고지는 작은 글자로 적힌, 수십장에 달하는 종이 속에 숨어 있다.(ex: 사용자 동의) 법적으로 명확하지도 않아 많은 법적 소송이 진행되어 왔다. “자발적”이란 단어의 시기도 모호하다. 이미 서비스를 사용하거나 실험에 참여하기로 결정한 뒤에야 동의를 얻기 때문이다. 

우리는 어떤 한 회사의 서비스를 이용하기 위해 개인 데이터를 제공하는 데 동의했다. 하지만 그 회사가 다른 목적으로 내 데이터를 재이용하거나 다른 사람들에게 공개하는 것은 원하지 않는다. 이는 지극히 당연한 일이다. 그러나 현실 세계에서 우리는 원하지 않더라도 내 데이터가 여러 회사들 사이에서 공유되는 것을 발견할 수 있다. 신용카드와 같은 경우 모든 회사가 신용조사대행업(Credit Reporting Agency)과 정보를 공유한다. 

의료 데이터의 경우 의학 연구를 위해 내 데이터가 병원 기관에 의해 재사용되는 것은 괜찮다고 여길 수 있다. 하지만 그 실험이나 연구가 무엇인지 내가 치료를 받을 당시에는 알 수가 없다. 내 데이터를 가져간 후에야 알 수 있다. 이를 후행적 데이터 분석이라고 한다. 

관심을 가지는 대부분의 데이터는 사람에 의해 생성되었고 사람에 관한 것이고 사람에 영향을 끼치는 것이다. 따라서 데이터 과학 분야는 특히 이를 명심해야 한다. 

케이스 스터디 : OkCupid

OkCupid는 소개팅 앱으로 AI 알고리즘이 자동으로 남성과 여성 간의 궁합(?)을 판단하여 점수를 매긴다. 점수가 높을수록 둘이 잘 맞는다는 것이고 낮을수록 맞지 않는다는 것이다. OkCupid는 남녀 간의 궁합을 더 잘 맞추는 알고리즘을 개발하다가 한 가지 실험을 하게 된다. 실제로 점수가 높이 나온 남녀에게 점수가 낮다고, 점수가 낮게 나온 남녀에게는 점수가 높다고 속인 것이다. 그 결과 본래 궁합이 잘 안 맞는 남녀가 좋은 만남을 이어갔고 실제 점수가 높이 나온 남녀 역시 좋은 만남을 가졌다. 이는 사용자들을 위한 OkCupid의 재밌는 실험과 더 나은 서비스를 위한 시도라 볼 수도 있다. 하지만 사용자들은 이 사실을 알게 된 후 실험 책임자를 질타했다.