AI는 주저하지 않는다. 왜 이것이 문제일까?

AI가 우리 생활 곳곳을 파고들고 있다. 그러나 AI의 중요한 특성이라 할 수 있는 ‘주저함 없는 판단’은 생각지 못한 결과를 초래할 수 있다. 그렇기 때문에 우리는 AI의 무한한 가능성과 숨겨진 위험 사이의 미묘한 경계에 대해 지속적으로 검토할 필요가 있다.

 

 

 

 

 

 

 

1. 인간 지능을 모방한 인공지능

 

출처: 한국경제

 

 

오늘날의 세계는 인공지능(AI)의 급속한 발전에 의해 변모하고 있다. AI는 본질적으로 인간 지능의 모방이라 할 수 있다. AI를 보다 정확히 파악하기 위해서는 하드웨어와 소프트웨어의 두 가지 측면에서 분석할 필요가 있다.
 
하드웨어 측면에서 보면 인공지능 로봇으로 대표되는 지능형 기계들은 인간의 뇌와 구분되는 물리적, 화학적 실체이다. 다시 말해, 지능형 기계들은 인간의 반사 및 제어 시스템의 생리적 구조가 아닌 시스템의 하드웨어에서 발전되었다.
 
또한 지능형 기계는 실재가 물리적 움직임을 수행하는 물리적, 화학적 구조를 가진다. 이러한 구조는 AI의 전제 조건이라 할 수 있다. 하지만 이것은 생명체라 할 수 없는, 인공적으로 만들어진 시스템에 불과하다.
 
반면 인간의 뇌는 고정된 하드웨어 연결이 아닌 유동적인 신경 연결을 가진다. 이는 지능형 기계의 구조와 구분되는 지점이다. 즉 지능형 기계가 인간의 반사 및 제어 시스템의 하드웨어에서 발전했다 하더라도, 그들의 발전은 상대적으로 독립적이다.
 
그러나 그렇다고 해서 이것이 지능형 기계의 하드웨어가 인간 뇌와 결합될 수 없다는 것을 의미하는 것은 아니다. 실제로 인간의 뇌에 컴퓨터를 직접 이식하여 연결하는 BMI(Brain-Machine Interface) 개발이 활발하게 진행 중이며, 초기 단계 이긴 하지만 일부 성과를 나타내고 있다.

 

 

 

 

 

2. AI는 주저하지 않는다. 왜 이것이 문제일까?

 

출처: 데일리 포스트

 

 

인공지능은 다양한 분야에서 상당한 발전을 이루었다. 예를 들어 생성형 AI는 텍스트나 그래픽과 같은 콘텐츠를 생성할 수 있는 AI 모델을 개발하는 데 중점을 둔 연구 분야이다. 그중에서도 대규모 언어 모델(LLMs)의 경우 다양한 언어 응용 분야에서 인상적인 진전을 보여주었으며, 멀티 모달 대규모 언어 모델(MLLMs) 연구의 초석이 되었다.
 
이러한 기술적 진보를 바탕으로 한 인공지능의 작업 수행 과정은 인간의 작업 수행 과정과 일견 유사하다. 그러나 인간과 AI의 행동 실행에는 결정적인 차이가 있다.
 
인간은 경험, 감정, 윤리, 가치 등 복잡한 요소를 고려하여 결정을 내린다. 또한 인간은 도덕적 딜레마에 직면할 경우 강한 감정적 반응을 나타내기도 한다. 가령 개인을 희생하여 다수를 구하는 상황에서 개인에 대한 공감은 강한 부정적 감정을 유발할 수 있으며, 이는 인지적 제어 메커니즘이 개입하여 감정을 조절하려 할 때 내부적 갈등을 증가시킨다. 다시 말해 인간의 도덕 판단 및 행동은 감정, 인지적 제어, 직관이라는 세 가지 핵심 요소의 복잡한 상호작용으로 이루어진다.
 
반면 AI는 감정적 요소를 경험하지 않기 때문에 도덕적 판단을 할 때 인간처럼 감정에 영향을 받거나 내부적 갈등을 겪지 않는다. AI의 판단과 실행 사이에는 인간이 겪는 ‘주저함’이 존재하지 않는 것이다.
 
그런데 AI의 결정이 갖는 중요한 특성 중 하나인 ‘주저함 없는 판단’은 생각지 못한 결과를 초래할 수 있다. 그렇기 때문에 우리는 AI의 무한한 가능성과 숨겨진 위험 사이의 미묘한 경계에 대해 검토할 필요가 있다. AI의 행동 패턴과 의사 결정 과정에 더 많은 투명성과 이해가 요구되며, 이를 위한 지속적인 연구와 개발이 중요하다고 할 수 있는 것이다.

 

 

 

---

 

 

 

AI 윤리와 뇌신경과학 그리고 교육