[지디넷코리아] 인공지능윤리교육학:그 이론과 실제

박형빈 지음 ｜320쪽 ｜20,000원 ｜ 어문학사

 

 

 

 

 

AI는 축복일까 재앙일까? AI는 규제대상일까 활용대상일까? 등 탐구

 

 

인공지능(AI)은 의식과 감정이 있을까? 인공지능은 생각을 할까?

 

AI라는 단어가 등장한 지 70년이 돼가고, AI라는 말이 대한민국 사회에서 일상어로 사용한 게 지난 2016년 3월 '알파고 사건'이후니 근 9년이 됐음에도, 대중은 여전히 이 같은 질문을 하고 그 답을 궁금해한다.

 

AI 신기술이 하루가 멀다하고 쏟아지는 지금, AI는 축복일까 재앙일까? 또 AI는 규제 대상일까 활용 대상일까?

 

AI윤리에 대해 활발한 탐구를 이어 온 서울교육대학교(서울교대) 윤리교육과 박형빈 교수가 신간 '인공지능윤리교육학:그 이론과 실제'를 선보였다. AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 이해할 수 있는 해석에 기초한 실용적인 AI 윤리 입문서다. 박 교수는 그동안 AI 윤리가 무엇인지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지에 대한 활발한 연구를 진행해 왔다.

 

총 2부 9장으로 구성한 '인공지능윤리교육학: 그 이론과 실제'는 ‘AI 혁신’ 이후 대두한 사회 변화 및 문제를 짚는 데서 시작, 이것이 발달 과정상 성인보다 ‘환각’에 취약한 아동·청소년에게 끼치는 영향에 주목하고, AI와의 공존을 피할 수 없는 현시대 아동·청소년이 함양해야 할 올바른 ‘인공지능 윤리’는 무엇인지, 그리고 인공지능 윤리라는 새로운 도덕 개념을 어떤 방식과 과정을 거쳐 교육 현장에 도입할 수 있을지에 대해 총체적으로 논의하며 AI 윤리학의 전반을 순차적으로 톺아 나간다.

 

단순히 교육 전공자에게 필요한 전문 지식을 논의하는 데서 그치지 않고, AI 시대를 맞아 ‘인공지능은 축복인가, 재앙인가’, ‘인공지능은 규제 대상인가, 활용 대상인가’ 등의 이분법적 사고에 갇혀 버린 우리의 맹점을 꼬집으며 도덕·철학적 관점에서의 새로운 활로를 제시한다.

 

철학 거장 하이데거는 1954년 발표한 그의 저서 '기술에 대한 물음'에서 “인간이 기술을 사용한다고 여기지만, 실제로는 기술적 사유 체계가 인간의 존재 이해를 지배한다”라고 주장, 도구-기계의 ‘효용’ 판단을 준거로 변화하게 된 인간의 사고 체계가 결국 인간 그 자신의 존재마저 효율에 의해 가름되는 객체-도구로서 인식하게 될 것이라는 우려한 바 있다.

 

박 교수는 AI 감정 및 양심 부재 위험성, AI 의인화 현상과 AI-인간 ‘상호 관계’ 환상이 초래하는 인간의 취약성을 탐구하고 나아가 하이데거의 기술철학을 바탕으로 현대 인간의 실존적 위기와 인간-기계의 재정의를 해석하며, 기술 발전이 가져온 초유의 ‘도구적 디스토피아’의 앞에 선 우리가 ‘인간’으로서 나아가야 할 길을 모색한다.

 

2014년 개봉한 영화 '허(HER)'는 AI와 인간의 사랑을 다뤘다. 앞서 2004년에는 로봇과 인간의 공존 가능성 및 기술에 의한 디스토피아 도래를 아이작 아시모프의 ‘로봇 3원칙’을 기반으로 풀이한 영화 '아이, 로봇'이 개봉했고, 이보 한발 앞선 2001년에는 감정을 가진 AI를 소재로 다룬 영화 'AI'가 등장했다. 이로부터 10~20년이 지금, 우리는 이제 ‘AI와 사랑에 빠진 사람’ 이야기나 ‘AI기술로 인한 사회적 혼란’을 스크린 속 영화가 아닌 현실의 뉴스 속에서 접하고 있다. 실체 없이 화면 속에만 존재하는 ‘AI 모델’이 패션쇼 런웨이에 서는 등 상상 속에서만 존재한 기술들이 가파른 속도로 현실이 돼 가는 지금, 우리 곁에 가장 가까이 다가온 기술 중 하나는 ‘AI 대화 모델’이다.

 

오픈AI chatGPT, 구글 제미나이, 딥시크 등의 생성, 대화형 인공지능 서비스는 공개와 동시에 빠르게 우리 생활의 일부분으로 스며들었다. 이제 사람들은 모르는 것이 있으면 책을 찾아보거나 검색을 하는 대신 AI 챗봇에 질문을 건네고, 유행하는 애니메이션 그림체로 프로필 사진을 만들기 위해 챗봇 프로그램에 셀카 사진을 업로드한다. 서투른 아이디어를 손쉽게 ‘그럴싸해 보이는’ 결과물로 보여주기 위해 그림이나 사진, 음악 등 창작물의 초안을 AI에 학습시키고 있다.

 

심지어 AI 챗봇을 단순한 도구로 활용하는 단계를 넘어 마치 친구나 가족, 연인처럼 ‘감정을 나눌 수 있는 대상’으로 여기며 AI 챗봇과의 대화에 몰두하는 사람들도 적지 않다. 실제, 2025년 자료에 따르면, 챗GPT 주간 이용자가 7억명을 넘어섰고, 커먼 센스 미디어 조사에 따르면, 10대의 70% 이상이 캐릭터닷AI(Character.AI)나 레플리카(Replika)와 같은 AI 동반자를 사용하고 있고, 이 가운데 31%는 AI와의 대화가 실제 친구와의 대화만큼 만족스럽거나 오히려 더 낫다고 답했고, 중요한 문제를 사람 대신 AI와 상의한 경험이 있다고 밝히기도 했다.

 

하지만 AI는 결국 기술이다. 사람이 아니다. 아직 지금 단계의 AI는 스스로의 의지로 사랑을 속삭이거나 위로를 건넬 ‘마음-감정’이 없고, 트롤리 딜레마 상황에서 계산이 아닌 윤리적 논증을 고민할 ‘도덕-양심’이 없으며, 하물며 학습된 데이터를 조합해 출력한 ‘창작물’의 저작권 문제나 창작 윤리 부재에 대한 ‘책임’조차 없다. AI에 대한 성찰 없이 수용하기만 하면 안되는 것이다.

 

박 교수는 "내가 추구하는 미래는 AI와 인간이 대립하는 디스토피아도, AI가 모든 문제를 해결해 주는 테크노-유토피아도 아니”라며 “궁극적으로 이 책은 기술의 시대에도 변치 않는 인간의 존엄과 가치를 발견하고, 그것을 교육을 통해 실현하고자 하는 노력”이라고 밝혔다.

 

 

 

---

 

 

[원문 및 출처: 지디넷코리아]

 

[신간] 인공지능윤리교육학:그 이론과 실제

 

[기사에서 소개한 책]

 

인공지능윤리교육학 : 그 이론과 실제 | 박형빈