본문 바로가기

728x90

문돌이 존버/데이터사이언스 윤리학

문돌이 존버/데이터사이언스 윤리학 2020. 2. 10.
윤리학 코드, feat.코세라 데이터 사이언스 윤리학 드디어 코세라 미시건 대학교의 데이터 사이언스 윤리학 마지막 강의 요약입니다! 챕터는 많지 않지만 한 챕터 안에 여러 내용이 들어있어 조금 시간이 걸렸던 것 같네요. 코딩 강의가 아니라서 따로 과제는 없었지만 토론 세션도 있고 중간중간 퀴즈도 있었답니다... 사실, 강의 초반에는 조금 지루하고 텐션이 떨어진 상태였는데요... 갈수록 제가 몰랐던 것들을 배우고 퀴즈도 자주 틀려서 저 또한 의식하지 못한 편견에 사로잡힌 것이 아닌가 반성하게 되었습니다. 정말 추천드리고 싶은 강의랍니다! 윤리학 코드(code of ethics) 적절한 규제를 마련해야 한다고 하지만 규제는 느리다. 기술은 빠른 속도로 발전하고 있고 규제는 어제 개발된 기술에 대해 이야기하고 있는 꼴이다. 절차 준수(compliance)는 모든..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 9.
알고리즘의 사회적 결과, feat.코세라 데이터 사이언스 윤리학 사회적 결과(Societal impacts) 2012년, 보스턴은 도로에 움푹 패인 곳(pathole)을 점검하기 위해 어플리케이션을 개발하여 시민들이 직접 불편을 겪은 곳을 보고하면 보상을 하는 식으로 보수작업을 진행했다. 그러나 도로를 이용하는 사람들은 대부분 차와 스마트폰을 소유하고 있는 부유한 사람들로 결국 부자동네의 도로만 보수작업이 진행되는 결과를 낳았다. 상대적으로 빈곤한 지역 사람들은 혜택을 받지 못한 것이다. 이에 보스턴 시는 공무원들이 직접 차를 운영하면서 모든 지역을 돌아보고 보수작업을 완료했다. 세관 신고나 입국 심사 같은 경우 관련 직원들은 모든 사람들에 대해 신상을 조사하고 짐을 검사할 권리를 가진다. 하지만 우리는 그들이 모두를 조사하지 않는다는 사실을 알고 있다. 그렇다면 누..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 8.
알고리즘 공정성, feat.코세라 데이터 사이언스 윤리학 알고리즘 공정성(Algorithm fairness) - 알고리즘도 편향이 발생할까? - 편향 없는 알고리즘을 만들 수 있을까? - 과거 데이터가 미래 데이터를 대표할 수 있을까? 여성이 10%밖에 되지 않는 회사에서 만든 면접 인공지능 알고리즘은 여성 지원자를 더 낮게 평가할 것이다. 좋은 데이터에서 발생하는 나쁜 분석: - 상관 변수(correlated attributes) - 정확한 분석이나 잘못된 방향으로 결론을 내림 - P-Hacking 인종차별: 미국에선 인종차별을 법적으로 금지하려는 노력이 많다. 예를 들어, 대학 입학과정에서 인종을 알 수 있는 정보는 절대 묻지 않기로 되어있다. 빅데이터가 이러한 차별이 가능한 기술을 제공할 수 있다는 위험이 크다는 건 사실이다. 하지만 동시에 이런 차별을 ..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 7.
유효성, feat.코세라 데이터 사이언스 윤리학 유효성(validity) 데이터 분석에서 오류가 많이 나는 이유 : 트위터 분석을 한다 했을 때 트위터가 정말 전체 사람들의 의견을 대표하는지, 트위트(글 업로드)가 트위터 유저들의 생각을 대표하는건지…생각해볼 필요가 있다. 때로는 일부 사람들의 생각을 알아도 충분한 경우도 있다. 제조업 회사에서 상품을 개발했는데 불만의 목소리를 듣고 싶을 때 일부 사람들의 의견이라도 많은 도움이 될 것이다. 데이터를 분석할 때 어떤 속성(attribute)을 선택해야 할까? 1. 보통 뭐가 사용 가능하냐에 따른 제한을 많이 받음 2. 추가적 속성이 구입 및 수집될 수 있음 3. 계속해서 놓친 속성은 없나 살펴보기 고려하지 말아야 할 데이터 - 인종과 관련된 모든 데이터 만약 유명인에게 자사 상품을 홍보하는 트윗을 남겨..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 6.
익명성, feat.코세라 데이터 사이언스 윤리학 익명성 웹사이트를 이용하는 우리는 사실상 인터넷에 우리에 대한 정보를 뿌리고 있는 것이다. 우리가 무슨 검색어를 입력했고 몇 번 특정 웹사이트에 접속했고 등 모든 정보가 남는다. 또한, 회원가입을 하거나 예약을 할 때에도 카드 결제 정보, 휴대폰 인증 등 더 많은 내 데이터를 필요로 한다. 우리는 이런 것들에 익숙해진지라 주의가 비교적 적은 편이다. de-identification(어떤 데이터에서 개인 사용자에 대해서 알 수 있을 만한 정보를 빼자!)와 re-identification: 넷플릭스는 영화 추천 알고리즘 경진 대회를 열어서 수익 창출 효과를 높이는 팀에게 상을 주었다. 이에 사용자들의 기본 정보, 즉 id, 시청한 날짜, 시청한 영화 제목 등만 제공하였다. 개인 사용자에 대한 정보는 일체 공..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 5.
사생활, feat.코세라 데이터 사이언스 윤리학 사생활 판옵티콘(Panopticon)의 탄생: 죄수들은 누군가에 의해 감시당하고 있다는 사실을 모른채 행동한다. 하지만 관리인들은 죄수들이 무엇을 하는지 사방에서 지켜보고 있다. 어떤 사람들은 좋은 용도의 감시는 투명성을 더 보장해준다고 한다. 속임수가 없어지고 누구나 정직하게 행동하도록 유도한다는 것이다. 하지만 사생활은 인간의 기본 권리이다. 숨길 것이 없고 당당한 개인이라도 화장실을 갈 때는 혼자 있고 싶어할 것이다. 사생활 분류(taxonomoy) by Daniel Solovey in 2006 - 정보 수집 - 정보 처리 - 정보 전파 - 침해 자발적 노출 ex) 내가 누군가에게 전화를 걸 때 누른 전화번호는 통신 회사가 알 수 있다. 이 때 우리는 누구에게 전화하려고 한 것인지에 대한 정보를 제..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 4.
데이터 소유권, feat.코세라 데이터 사이언스 윤리학 데이터 소유 나에 관한 데이터는 내 것인가? 내가 당신 사진을 찍으면 당신이 나온 사진은 당신의 소유가 아니라 내 소유이다. 물론, 사진을 찍는 데에는 제한이 있다. 사적 공간, 즉 개인의 집이나 화장실에서 찍는 것은 허용되지 않는다. 찍은 사진을 사용하는 것도 제한이 있다. 은연중에 정치적 후보자를 지지하거나 명예를 훼손시키면 안 된다. 명예 훼손은 쉽게 말해 실제 본인이 하지 않았음에도 사진을 수정하여 마치 진짜 한 것처럼 만드는 과정에서 발생하는 것이다. 고의로 웃기게, 못생기게 나온 순간을 포착하여 찍는 사진도 명예 훼손에 해당된다. 상대방에 대한 기록도 남길 수 있는데 이 기록은 내 소유이고 사용할 권한을 가진다. 물론 사진과 같은 비슷한 제한을 가진다. 추천서나 gossip 같은 경우가 기록에..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 3.
사전동의의 역사 및 개념, feat.코세라 데이터 사이언스 윤리학 고지에 입각한 동의에 관한 역사와 개념 사람 실험 대상자는 - 반드시 실험에 대해 고지받아야 한다. - 반드시 자발적으로 동의해야 한다.(강압 없이) - 동의를 언제든 철회할 권리를 가져야 한다. 실험 결과는 해로울 수도 이로울 수도 있는데 그 대상자가 다르다. 실험을 당하는 사람은 보통 건강상 해로움을 사회나 과학 학계는 연구의 이로움을 가지게 된다. 기관감사위원회(Institution Review Board): - 비과학자를 포함한 다양한 멤버들로 구성 - 사람 대상자 실험 연구 승인 - 실험 대상자에게 미치는 잠재적 해로움을 과학 학계에 미칠 이로움과 비교하여 밸런스 - 고지에 입각한 동의의 불가피한 위법 행위 관리(심리실험에서 참가자들의 반응을 살펴볼 때 보통 실험의 목적을 설명해주지 않음: 이것..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 2.
윤리학이란? feat.코세라 데이터 사이언스 윤리학 윤리란 무엇인가? 윤리는 세상을 살기 좋은 공간으로 만들기 위해 자발적으로 선택하는 규칙이다. 이 규칙은 기본적으로 무엇이 옳고 그른지를 구분할 수 있게 한다. 윤리는 시민의식의 주춧돌이다. 우리가 다른 사람의 지갑을 훔쳐가지 않는 이유는 무엇일까? 훔치다가 경찰에 잡히면 감옥살이를 할까봐? 경찰에게 잡히지 않는다 하더라도 지갑을 훔치지 않는 것은 윤리의식을 가지고 있기 때문이다. 윤리는 종교도, 법도 아니다. 내가 쓰레기를 들고 있다고 가정하자. 길거리를 지나는데 유난히 쓰레기가 많이 버려져 있는 곳이 있었다. 쓰레기통을 끝까지 찾아 버릴 것인가, 아니면 이미 쓰레기가 많이 쌓여진 그곳에 같이 버릴 것인가? 유혹되지 않을까? 이런 상황에서 다른 사람들과 똑같이 길거리에 버리는 것이 비윤리적인가? 윤리는..
문돌이 존버/데이터사이언스 윤리학 2020. 2. 2.
코세라 미시건 대학교 데이터 사이언스 윤리학 소개 저번 방학 때 코세라 MOOC 사이트를 통해 미시건 대학교 데이터 사이언스 윤리학을 수강했습니다.(무료입니다 ㅎㅎ) 아직 데이터 윤리학이란 분야가 익숙하지 않을 수 있지만 데이터 사이언스 분야에선 중요하게 다뤄지고 있는 것 같네요. TED 연설만 봐도 AI 윤리, 책임, 차별 등등 관련된 것이 많습니다. 저도 코세라를 적극 활용하고 있는데 윤리학 강의는 처음 들었고 내용이 알찬 것 같아 따로 강의 노트를 정리했답니다. 차근차근 올려보도록 할께요~(H.V.Jagadish 교수님 강의력은... 직접 보시고 판단하길...) Coursera : Data Science Ethics (H.V. Jagadish, University of Michigan) Synopsis 주1 - 윤리학이란?(What are Ethi..

728x90

티스토리툴바