빅데이터의 편향성 문제 어떻게 대응해야 할까?

유튜브 알고리즘으로 상징되는 ‘빅데이터’는 개인과 사회에 편리를 제공한다. 그러나 빅데이터의 활용은 데이터 편향이나 알고리즘 투명성 부족 등의 ‘윤리적 문제’도 수반한다. 투명성, 책임성, 편향성의 최소화라는 기준의 필요성이 커지고 있는 이유이다.

 

 

 

 

 

 

 

1. 편향과 편견

 

출처: AI타임스 ​

 

 

유튜브는 알고리즘을 통해 나에게 맞는 작품을 추천한다. 유튜브 알고리즘으로 상징되는 빅데이터는 개인과 사회에 편리를 제공한다. 하지만 빅데이터의 수집과 처리 과정에 윤리적이지 않은 요소들이 개입 된다면, 빅데이터의 수집과 활용에 대한 윤리적인 의문이 제기될 수밖에 없다. 실제로 인공지능 챗봇 테이가 혐오 발언을 학습하고 이를 스스로 반복 산출한 일이 있었다.

 

최근 빅데이터를 둘러싼 가장 뜨거운 이슈 중 하나는 ‘편향성 문제’일 것이다. 그런데 편향성은 흔히 편견과 혼동된다.

 

경험론의 전통에서 편견은 사실을 통한 검증 이전의 견해라는 의미를 가진다. 궁극적인 최종 판결이 내려지기 전에 법적으로 미리 결정함을 의미하던 편견은, 그러나, 계몽주의 사유에 의해 근거 지워지지 않는 판단으로 격하되었다. 그리고 지금까지도 편견은 거부되고 제거되어야 할 부정적인 현상으로 간주되고 있다.

 

인공지능 알고리즘에 대해 가지는 일반적인 편견은 다음과 같다. “흔히들 인공지능 알고리즘에 의한 기계적 예측이나 의사결정은 인간의 의사결정이 가지고 있는 편견이나 오류의 문제에서 자유롭다고 생각하기 십상이다. 그러나 이러한 인공지능 알고리즘에 의한 의사결정 과정의 편향성이나 오류 가능성은 항시 존재하며, 특히 인공지능의 편향성은 그로 인한 차별 등의 문제를 야기하여 차별금지라고 하는 사회적 가치를 훼손할 여지가 크다.”

 

이밖에도 차별행위에 인공지능이 개입하거나 인공지능을 활용한 의사결정과정의 투명성을 저해하는 경우, 왜곡된 데이터의 학습을 통해 차별이 강화되는 경우에 편향성의 문제가 차별로 이어질 우려가 있다.

 

알고리즘의 편향성이 사회적 편견으로 이어지는 부분에 대한 윤리적 검토가 필요한 이유가 바로 여기에 있다.

 

 

 

 

 

2. 데이터 윤리의 확립을 위한 대책

 

출처: AI타임스

 

 

‘데이터 윤리의 확립’을 위한 대책으로 ‘편향성의 최소화’가 강조되고 있다. 최소 편향성의 원칙은 소극적인 억제의 성격을 특징으로 하기 때문에 기술적인 수준에서의 원칙에서 벗어나 윤리적인 수준에서의 원칙으로 확대되어야 윤리인증의 중요한 기준으로서의 역할을 할 수 있다.

 

가령 모집단 자체가 편향적이고, 공정하고 객관적인 방법으로 데이터 수집이 이뤄진다면 수집된 데이터도 편향적일 것이다. 만약 모집단의 편향성을 수정하는 방식으로 데이터 수집이 이뤄진다면 데이터는 비편향적이겠지만, 모집단의 상태를 객관적으로 나타내주지 못한다는 문제가 제기된다. 이 경우는 모집단 편향성, 데이터 수집의 역편향성, 데이터의 비편향성, 데이터의 비객관성이 발생하게 된다.

 

그렇지만 데이터 수집에서의 처치가 이뤄지지 않는다면 모집단 편향성, 데이터 수집의 객관성, 수집된 데이터의 편향성, 데이터의 객관성은 유지가 되겠지만 공정하지 못한 경우라 하겠다. 즉 모집단 편향성, 수집된 데이터 편향성은 이런 맥락에서 본다면 데이터 객관성과 공존할 수 있겠지만, 데이터 수집의 객관성은 모집단의 편향성 여부에 따라 긍정적일 수도, 부정적일 수도 있다. 여기서의 객관성이란 데이터와 모집단 간의 일치 여부에 따라 결정되기 때문이다.

 

그러나 이러한 데이터는 공정하지 못하다. 다시 말해 모집단 편향성, 데이터 편향성, 데이터 객관성, 데이터 공정성의 의미가 분명하게 규정되어야 할 것이다.

 

 

 

---

 

​

인공지능 윤리하다 2 | 인공지능 윤리하다 2 | 변순용

 

 

[이 책의 시리즈]

 

인공지능 윤리하다 | 인공지능 윤리하다 1 | 변순용.이연희