인공지능은 컬러로 꿈을 꿀까?
전에 (영화 Blade Runner의 바탕인) "Do Androids Dream of Electric Sheep?" 을 읽으며 "좀 쉽게 생각하자" 하며 만들었다. 사실 "컬러"는 의미없다. AI/안드로이드가 꿈을 꾸고 그가 그게 꿈이라는 것을 인지함은 무슨 뜻이지? 타자에 대한 공감(empathy)은 어떻게 생겨나지? 뭐가 요구되지?
우선, 그는 깨어있어야 (awake) 겠다. 무엇이 "깨어있다"는 말일까? 단순히 외부 자극에 대해 반응하면? 아니면 "이 세상/우주는 왜 있고 (이유가 있어야 하나?), 어떤 이치로 돌아가고 (우리가 이해하도록 있는 것은 아닐테고), 내 미래가 어떻게 그려지면 좋겠고 (나의 희망), 나는 어떻게 해야 하나 (나의 계획과 의지)" 이런 정도를 생각해야 깨어있는 걸까? 어렵다. 일단, "깨어있음"은 어떤 자극에 대한 인지에 필요한 (외부에 대한 반응은 없더라도) 정보처리를 할 수 있다는 것을 의미한다고 생각하자. 무지하게 단순, 포괄적이다. 그렇지만 돌맹이나 내 책상이 깨어있는 것 같지는 않다. "에이젼트가 꿈을 꾸고 그게 꿈인 것을 안다" 이면 어느 정도의 깨어있음이 필요할까?
그는 "self" 개념 (self representation)을 내부에 지니고 있어야겠다. 그래야 그의 "꿈" 이 바로 "self"의 경험이지만 외부로부터의 감각을 그대로 반영한 것이 아닐 수 있다는 것을 알겠다. 이게 쉽지 않은 것이, self가 경험한 것이 감각인가 아니면 자신의 정보처리 프로세스가 스스로 만들어낸 것인가를 판단하는 것이 쉽지 않다. 최소한, "self"의 정보처리 상태/state 에 대한 접근이 가능하고 그것의 유효성과 출처를 판단할 수 있어야겠다. 그런데, 우리가 살면서 자기 생각 자체를 모니터링/음미(introspection)하며 판단하고 행동하는 경우가 얼마나 되나? 이렇게 놓고 보면, 우리가 실제, 사실이라고 생각하는 모든 것/경험 — self, 가족, 달, 해, 나라, 지금 내가 보고 있는 풍경 — 이 결국 우리 두뇌가 만들어 낸 산물이기는 하다. 딱, cirucluar reference. 이렇게 regress 하지는 말자. Anyway, 어떤 에이젼트가 "self" 개념을 갖고 있고 그에 대한 자문을 하면 그 건 꽤 굉장한 "깨어있음"인 것 같다.
"Self" 가 경험한 것의 유효성과 그 의미를 분석할 수 있으면 그 에이젼트는 꿈을 꾸고 그게 꿈이라는 것을 인지할 수 있다고 생각된다. 즉, 내부의 "Self" representation/모델을 지녀 그 상태를 access하여 출처, 유효성을 따지는 에이젼트라면 self가 스스로 경험을 생성할 수 있음을 아는 것이고, 때론 집중적 attentive 또는 integrative 정보처리를 상황에 맞게 동원해 self의 경험을 분석한다는 뜻이며, 나아가 경험하지 않은 상황도 상상/생성하여 self의 객관화를 감안한 그 때의 대응도 simulate 하는 것도 가능하리라 생각한다.
"Self" 를 인식하면 나와 비슷한 다른 에이젼트에게도 역시 "Self" 가 있을 것이라 추론할 수 있겠다. 이 추론을 바탕으로 나의 경험이 비슷한 상황에서 다른 에이젼트에게도 비슷하게 적용될 것이라 생각할 수 있기에 공감이 생기겠지.
내용도 없는 게... 괜히 뱅글뱅글 돈다. "Do Androids Dream of Electric Sheep?" 의 안드로이드/인공지능이 우리가 말하는 그런 꿈을 꾸면 모든 인격적 관점에서 우리와 다르지 않다고 생각한다. 이때는 인격적이라는 말을 쓰면 안되나?
로이가 데카드를 구해주고 ;
I've seen things you people wouldn't believe... Attack ships on fire off the shoulder of Orion... I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain... Time to die.
모든 것은 시간에 묻힘을 얘기하는 로이. 그의 모든 기억, 경험, 생각... 그 모든 것이 곧 사라질 것이라는.
사람이 만들었고, 사람이 주입한 기억을 바탕으로 시작했기에 로이의 그 후의 경험, 행동은 상관없다? 나의 경험이 그의 경험과 어떻게 다른데? 주관적 경험이 의식(consciousness)이라며? 로이가 어떤 사람들보다 더 공감능력이 있는 것 같은데.
'물질 두뇌 마음 인공지능... 이것저것' 카테고리의 다른 글
| AI 기반 프로그래밍 (0) | 2023.06.20 |
|---|---|
| ChatGPT와 오늘의 대화 (0) | 2022.12.31 |
| 기억해야 할 말들 (0) | 2017.01.03 |
| 마빈 민스키 선생님 (0) | 2016.03.29 |
| 인공지능 선언 (0) | 2015.10.06 |