‘사람’처럼 사고思考하는 ‘기계’가 초래할 예정된 사고事故들에 대한 현명한 예방책

1.

『인공지능 윤리하다 2』

 

 

 

 

AI 혁명은 한때 분명히 인간의 노동 시간 감소나 삶의 질 개선과 같은 긍정적 효과를 기대하게 만들었다. 그러나 편리함만 가져다줄 것 같던 인공지능이 치명적 부작용을 일으키기 시작하면서 인공지능은 더 이상 ‘편리하고 똑똑한 도구’로만 여길 수 없는 존재가 되었다. 『인공지능 윤리하다 2』는 생성형 인공지능이 야기한 정보 오염과 지적 재산권 침해 문제, 빅데이터를 기반으로 성장한 알고리즘 맞춤형 서비스의 편향성과 폐쇄성 문제 등 이미 우리 피부에 와닿기 시작한 문제를 다층적인 윤리학의 관점에서 다루고 있다.

 

이는 단순히 인공지능이 갖추어야 할 ‘윤리’가 무엇인지 그 개념을 제시하는 선에서 그치는 것이 아니라, 우리가 인공지능이라는 존재의 정체성과 법적 책임 소재를 어떻게 정의할 것인지, 그리고 인공지능 기술을 개발하는 기업과 이들이 만든 상품을 이용하는 소비자, 나아가 사회와 국가가 각자의 위치에서 준수해야 할 윤리란 과연 무엇이 있는지를 살피는 단계까지 뻗어 나가며 전문가적 시각에서의 수준 높은 분석을 이끌어 간다.

 

책 속에서

 

정상적인 행위로는 관심과 흥미를 유발하지 못한다. 지속적인 동일한 자극은 더 이상의 자극이 될 수 없기 때문이다. (....) 그래서 그 내용은 점점 더 강한 자극을 포함해야 한다. 마치 “자 이렇게 하는데도 안 보니?” 하는 느낌이 들 정도이다. 결국 유튜브 방송은 ‘노출증을 가진 사람이나 관심종자의 성향을 가진 사람들과 관음병자들 간의 기묘한 결합 내지 만남’이라는 성격을 갖기 쉽다.

 

 

 

---

​

 

 

2.

『인공지능 윤리하다』

 

 

 

 

인공지능은 이미 우리의 일상생활 곳곳에 도입되어 활용되고 있다. 그러나 인공지능이 가져다주는 편리함이 커질수록 우리가 간과하지 말아야 할 것이 있다. 인공지능이 야기하는 윤리적 문제가 그것이다. 인공지능은 ‘위임된 자율성’ 혹은 ‘준 자율성’을 지닌 인공물이기 때문이다. 저자 변순용과 이연희는 인공지능 시대를 살고 있는 우리가 반드시 생각해 보아야 할 문제들을 짚어보고, 대안을 제시한다.

 

책 속에서

 

그렇지만 사람에 의한 뉴스배열보다 알고리즘에 의한 뉴스배열이 정말 공정한가의 문제는 숙고해야 할 문제이다. (....) 가장 대표적인 문제가 바로 파리저(E. Pariser)가 제시한 필터 버블(Filter Bubble) 현상이다. “인터넷 필터가 당신이 무슨 일을 했는지, 당신과 같은 사람이 무엇을 좋아하는지 살펴보고 추론한다. 이를 통해 각각에 대한 유일한 정보의 바다를 만든다. 우리가 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 이런 현상을 필터 버블이라고 부르겠다.”

 

개인맞춤형 서비스가 개인의 입맛에 맞는 뉴스와 정보만 보여주는 현상을 통해 편리함을 추구할 수도 있겠지만, 결과적으로 자신만의 관심사나 이념, 정치성향에 갇히게 될 위험도 매우 커진다. 영화나 음악 등에서는 이러한 현상이 큰 문제가 되지는 않겠지만 정보의 다양성 보장이나 공익성의 경우에는 우려가 제기되고 있다.

 

 

 

 

 

 

 

 

인공지능 윤리하다 2 | 인공지능 윤리하다 2 | 변순용

 

​​

인공지능 윤리하다 | 인공지능 윤리하다 1 | 변순용.이연희