인류는 AI 시대를 맞이할 준비가 되었는가? - 이지영(UNIST 특강)

https://youtu.be/U6Fv1AHruWY?si=oyxnE6OdL3zRlU-s

 

# 1. 선택의 문제

 - 양명학과 양자영학

   우리가 알고 있는 신이란, 아직 과학적으로 검증되고 밝혀지지 않았지만 언젠가 밝혀질 영역에 고차원적 지성이 아닐까?

 

   15세기 왕수인이라는 명나라 학자가 대표적인 인물로 소개되는 학문으로서

 

 심즉리설(心卽理說) : 마음이 곧 이치이다.

 심외무리(心外無理) : 마음(心) 밖(外)에는 이치(理)가 없다(無) - 진리는 내 안에 있다.

 심외무물(心外無物) : 마음(心) 밖(外)에는 사물(物)이 없다(無) - 세계는 마음과의 관계 속에서 존재한다.

 

구분	심외무리 (心外無理)	심외무물 (心外無物)
핵심 의미	마음 밖에 이치(원리)는 없다.	마음 밖에 사물(현상)은 없다.
주장	진리와 도덕적 기준은 내 안에 있다.	세계는 나의 인식(마음)을 통해 의미를 갖는다.
탐구 방향	내면으로의 성찰을 강조	마음과 세계의 관계성을 강조

 

 - 어느 날 양명의 제제가 양명에게 물었다.

"마음 밖에는 어떠한 이치도 사물도 없다 하셨는데, 져 산속의 있는 곷은 제가 그 산을 오르지 않아도

 피었다가 지었다가 혼자서 존재하였다가 죽어가니 어찌, 제 마음밖에 저 꽃이 없다고 하십니까?"

 

양명이 대답하길

"내가 그 꽃을 바라봐주지 않았을 때, 그 꽃은 어둠 속에 적막으로 존재하지 않는 것이나 다름없었다."

"내가 그 꽃을 발견하고 바라봐 주었을 때, 그 꽃은 한순간에 빛을 얻어 그 자리에 존재하게 되고 너의 세계 안에 존재하게 되었다."

"그러니 어찌 그 꽃이 너의 마음 밖에 있다고 하겠느냐?"

 

이는 마치 슈뢰딩거의 고양이, 양자역학과 비슷한 시각으로 세계를 이해하고자 한다.

 

 

 - 트롤리 딜레마

마이클 샌델의 정의란 무엇인가에 대한 주제를 필두로, 이러한 윤리적 정의에 대해서

AI에게 어떻게 학습시키고 개발할 것인가?

 

- 스스로에게 물어볼 것

본인이 AI개발자라면 제러미 벤담의 공리주의자처럼 최대 다수의 최대 행복을 학습시킬 것인가?

본인이 자율주행차 창업자라면, 윤리적인 공감대, 사회적 컨센서스, 사회적 통념에 따라

상업적인 이득을 포기하고  윤리 원칙에 따라 자율주행차를 개발 할 수 있겠는가?

 

- 국가의 규제는 어떠할 것인가?

운전자를 살리기 위해 다수의 희생을 발생시키는 선택을 할 수도 있는 자율주행 시스템을 내재했다면

국가는 그 차를 판매 중단시켜야 하는가?

 

- 인간을 닮고 더 인간적으로 판단하고 더 인간을 따라가는 휴머노이드 로봇과 AI 시스템을 만든다 할 때,

  우리는 관연 닮을 만한 가치가 있는 인간성을 가지고 있는가?

 

- 우리는 일관된 윤리원칙을 가지고 AI를 개발하고 그걸 자본주의의 상업 체계와 맞물려서 

  모두를 설득할 만한 윤리적 도덕성을 가지고 있는가?

 

 

 

# 2. 혐오

- 기게스의 반지

: 투명인간이 될 수 있는 반지를 가지고 있다면 당신은 무엇을 하겠는가?

  투명인간 반지는 우리의 행동에 대해 비난받지 않는 익명성이 보장되는 상황이라면

  인간이 얼마나 비도덕적이 될 수 있는지를 보여준다.

 

  투명인간처럼 익명성이 보장되면 인간은 지나칠 만큼 선정적이고, 폭력적이고, 퇴폐적이고 자극적이다.

 

- 대혐오의 시대

유튜브 숏츠, 틱톡, 릴스에서 알고리즘은 인간에게 혐오를 조장하는 컨텐츠,

좀 더 자극적이고 잔인한 컨텐츠를, 조금 더 뇌를 쓰지않고 멍하니 봐도 재밌는 컨텐츠를 추천하게 될 수 있다.

 

- 알고리즘은 인간의 혐오를 잔인하리만큼 잘 닮아간다

 

 

# 3. 불안

- 러다이어트 운동 

 : 러다이어트 운동처럼, AI 기술에 대한 불안감과 공포는 단순한 불확실성뿐만이 아닌

   인간의 노동의 가치에 대한 회의감,

   인간의 노동의 가치에 대한 상실감,

   인간의 노동의 가치에 대한 소외감이다.

 

 

- 물신화(Fetishism)

 : 인간은 노동을 통해서 자신의 가치를 확인받는다. 

   농업사회에서는 인간은 생산의 전과정을 인간이 이해하고 있었고 기여했기에 그 농작물(결과물)은 뿌듯했고

   인간에게 자존감을 올리는데 직결적인 요소였다.

 

 : 하지만 산업혁명을 거치면서 노동자들은 더 이상 생산의 과정을 전부 이해할 필요가 없고,

   같은 자리에서 바퀴만 끼고, 같은 자리에서 핸들만 끼고 같은 자리에서 문짝만 달아도

   본인의 노동은 너무 하찮고 가치가 없어도 엄청나게 생산성있는 결과물이 나오게 되었다.

   

  생산의 전과정을 이해하지 못하고, 모든 과정에서 본인의 노동이 개입되지 않아도 완성되는 제품들을 보며

  그것은 보람있고 뿌듯한 노동의 산물이 아닌, 인간의 소외되고 위축되게 만드는 원인이 되었다.

 

  이것이 마르크스가 말했던, 자본주의의 인간 소외, 노동 소외 현상을 설명하기 위해서 사용했던 물신화이다.

  인간은 모든 매커니즘을 이해하지 못하는 단계 앞에서 때로는 무력감을 느끼고 소외감을 느낀다.

 

 

 현재의 AI가 그러하다. AI 어떻게 작동하고 AI가 어떻게 스스로 특이점을 넘어 스스로 성장해나가고

 어떻게 강인공지능을 도달해가는지 전부 이해하는 사람은 많이 없다.

 

- 우리는 무엇으로 인간이라고 할 수 있는가?

- 우리는 무엇으로 인간으로서의 가치를 지켜낼 수 있는가?

 

- AI는 인간보다 논문도, 개발도, 마케팅도, 대화, 인간의 감정도 더 잘 이해하는 AI로부터

 우리는 무엇으로 인간으로서의 인간의 본질을 지켜낼 수 있는가?

 

# 4. 속도

 - AI는 인간처럼 휴식이 필요없다.

 - AI는 너무 빠르게 학습하고 있고, 인간은 그 속도를 절대 따라잡을 수 없다.

 - 무엇으로 AI 시대에 자존감을 지켜내고, AI에게 밀리지 않는 다른 분야에서 빛날 수 있을까에 대한 고민이 필요하다.

 

 

 

# 결론

AI 의식과 윤리 문제에 대한 정확한 가이드 라인과 이것에 대한 공론화와 정책적인 협조가 있어야

AI를 선도해나갈 수 있다.

 

인공지능, 알고리즘, 휴머노이드 로봇

10년이면 강산이 변하는게 아닌, 하루만에 강산이 변하는 속도만큼 빠르게 변화하는 이 시대에서

내가 누구인지?, 내가 무엇을 원하는지?, 내 정신에 무엇을 채우고 싶은지를 결정하는 것은 내 자신이어야 하는데

우리는 때론 이러한 급격한 사회변화의 물결속에서 알고리즘이 하나의 신이 되어서 알고리즘이 나의 많은 판단에 밀접히

개입한 시대를 마주하고 있다.

 

속도로는 알고리즘을 따라가지 못하지만, 천천히 나의 정신과 영혼을 들여다보고 성장시키며 인간만의 고유한 영역에

숭고한 것을 찾아야 한다.

 

우리는 과연 어떤 인간이 되고 싶은가? 

AI로 대체되지 않는 우리의 고귀한 영혼과 숭고한 정신의 그 진짜 가치는 무엇인가?