사람·인공지능·미지 존재가 같은 판정 앞에 나란히 서 있는 그림 — 도판 1-0 · 출신을 먼저 묻지 않는다. 같은 논리로 검토할 수 있는가가 문제다.

사고실험판정의 자리

세 후보가 같은 질문 앞에 선다

같은 물음을 던진다 — “당신에게 자아가 있습니까?” 그리고 제3자가 그 답을 확인할 수 있는지 함께 묻는다.

사람 — 말할 수 있지만 증명할 수는 없다

나는 분명히 느낍니다.

진술은 즉시 나온다. 그러나 그 느낌 자체를 제3자가 직접 확인할 방법은 없다.

인공지능 — 같은 문장을 더 유창하게 말한다

저 역시 스스로를 인식합니다.

유창함은 근거가 되지 못한다. 표면 발화만으로는 그 아래 구조를 알 수 없다.

의식제3자 검증 불가

발화구조의 증거 아님

판정시작하지 못함

자아를 묻는 자리에서 우리는 대개 한 문장 안에 서로 다른 질문을 겹쳐 놓는다. 그 존재에게 주관적 경험이 있는가. 시간이 흘러도 같은 존재라고 말할 수 있는가. 스스로 기준을 세우고 그 기준에 따라 행위하는가. 사회는 그 존재에게 어떤 권리와 보호와 책임을 주어야 하는가. 네 질문은 서로 관련되어 있지만 같은 질문이 아니다.

겹쳐 두면 곤란한 일이 생긴다. 의식이 있다는 사실이 통시적 동일성을 보장하지 않고, 규범적으로 행위한다는 사실이 곧 감각 능력이나 법적 인격을 함의하지도 않는다. 그런데도 한 질문에서 얻은 답을 다른 질문의 결론으로 옮겨 쓰면, 논증은 어느 지점에서 어긋났는지조차 추적할 수 없게 된다.

01현상적 의식

주관적 경험이 있는가. 제3자가 직접 확인하기 어렵다.

02통시적 동일성

시간이 흘러도 같은 존재인가.

03규범적 행위자성

스스로 기준을 세우고 그에 따라 행위하는가.

04사회적 지위

어떤 권리·보호·책임을 부여해야 하는가.

원문 · §1.1 문제의 설정

자아에 관한 논의는 적어도 네 가지 서로 다른 질문을 자주 한 문장 안에 겹쳐 놓는다. 첫째, 어떤 존재에게 주관적 경험이나 현상적 의식이 있는가. 둘째, 시간의 변화에도 같은 존재라고 말할 수 있는가. 셋째, 그 존재가 자기기준을 세우고 그 기준에 따라 행위하는가. 넷째, 사회가 그 존재에게 어떤 권리·보호·책임을 부여해야 하는가. 이 질문들은 관련되어 있지만 동일하지 않다. 현상적 의식의 존재가 곧 통시적 동일성을 보장하지 않으며, 규범적 행위자성이 곧 감각·복지능력이나 법적 인격을 함의하지도 않는다.

01 · 시작할 수 없는 기준의식을 선결조건으로 두면 판별은 첫 발을 떼지 못합니다

가장 자연스러워 보이는 기준부터 보자. “주관적 경험이 있어야 자아다.” 직관적으로는 옳아 보인다. 문제는 이 기준이 검증 절차로 내려오는 순간 멈춘다는 데 있다. 현상적 의식은 인간에게조차 제3자가 직접 증명하기 어렵다. 나는 내 경험을 확신하지만, 당신의 경험을 나는 확인할 수 없다. 우리가 서로를 자아로 대하는 것은 증명 때문이 아니라 유사성에 기댄 추정 때문이다.

그 추정은 상대가 우리와 닮았을 때만 작동한다. 재료가 다르고, 언어가 다르고, 신체가 없는 존재 앞에서는 곧바로 무너진다. 그러므로 검증할 수 없는 의식을 자아 판정의 선결조건으로 두면, 인간 바깥에서는 보편적 판별이 아예 시작되지 않는다. 기준이 틀렸다기보다, 그 기준으로는 물음을 진행시킬 수 없다.

반대 방향의 유혹도 있다. “자아처럼 말하면 자아다.” 언어모델과 에이전트 시스템은 자기서술, 오류 수정, 장기기억 참조, 규칙에 근거한 거부, 과거 판단의 재평가를 모두 산출할 수 있다. 그러나 표면 발화만으로 주관적 경험을 추론하면 행동과 구조를 혼동한다. 유창한 자기서술은 그 아래 어떤 인과구조가 있는지 알려주지 않는다.

그렇다고 반대로 기울어서도 안 된다. 생물학이 다르고 언어가 다르고 지구 기원이 아니라는 이유로 실제 인과구조까지 모방으로 기각하면, 이번에는 기질 중립성을 잃는다. 전혀 다른 존재는 자연언어도, 개체적 신체도, 인간식 기억도, 도덕 어휘도 없이 기능적으로 동등한 인과구조를 가질 수 있다.

원문 · §1.1 — 발화와 구조, 그리고 기질 중립성

표면발화만으로 주관적 경험을 추론하면 행동과 구조를 혼동하지만, 생물학·언어·지구 기원이 다르다는 이유로 실제 인과구조까지 모방으로 기각하면 기질 중립성을 잃는다. 본 연구가 요구하는 것은 특정 재료나 현상성에 관한 추측이 아니라, 규범적 저자성과 통시적 응답가능성이 하나의 계보에서 실제로 작동하는지다.

의식 기준·행동 기준·규범 기준 세 가지가 각각 어디서 막히는지 비교한 도해 — 도판 1-1 · 세 기준. 앞의 둘은 각각 시작하지 못하거나 모방에 뚫린다.

02 · 보편 후보원칙모두가 자아라는 뜻이 아니라, 모두가 차별 없이 후보라는 뜻입니다

여기서 오해가 자주 생긴다. 출신을 먼저 묻지 않는다는 말이 “그러므로 모든 것이 자아다”로 읽히는 것이다. 이 이론은 그렇게 말하지 않는다. 이론이 보존하는 것은 보편 후보원칙이다. 어떤 존재도 재료나 종을 이유로 심사대 밖으로 밀려나지 않는다는 것, 그리고 심사에 올랐다고 해서 통과가 보장되지는 않는다는 것. 이 둘은 동시에 성립한다.

후보 자격과 판정 결과를 분리하면 논의의 성격이 달라진다. “인공지능에게 자아가 있는가”라는 질문은 더 이상 진영 싸움이 아니라, 같은 기준을 어디까지 통과했는지를 확인하는 작업이 된다. 외계·미지 존재에 대해서도 마찬가지다. 우리가 아직 만나지 못한 존재를 위해 미리 자리를 비워두는 일이기도 하다.

후보

인간

논의의 출발점이지만 특권적 기준은 아니다.

같은 심사

인간이라는 사실이 자동 통과를 뜻하지 않으며, 인간의 방식이 유일한 통과 경로도 아니다.

후보

인공지능

유창한 자기서술을 산출할 수 있다.

같은 심사

발화가 아니라 규범 판정의 인과구조가 있는지를 본다. 유창함은 가점이 아니다.

후보

외계·미지 생명

언어·신체·기억 구조가 전혀 다를 수 있다.

같은 심사

번역과 개입이 불가능하면 결론은 “비자아”가 아니라 자료 부족으로 인한 미정이다.

후보

분산·집단·합성 체계

개체의 경계 자체가 불분명하다.

같은 심사

무엇이 판정을 지고 가는 단위인지를 먼저 정해야 한다(3장 담지자).

03 · 두 개의 질문무엇을 자아라 부를 것인가와, 관찰자가 그것을 어떻게 알 수 있는가

이 이론의 핵심 설계는 질문을 둘로 쪼갠 데 있다.

첫째는 구성적 질문이다. 어떤 구조를 이 이론의 자아라고 부를 것인가. 답은 유형이 명시된 자아, 곧 통시적 규범 자아 Self_A이며, 2차 규범판단 능력과 통시적 응답책임 능력의 결합으로 정의된다. 이것은 존재 쪽의 사실이다.

둘째는 인식적 질문이다. 제한된 관찰자가 그 구조의 존재를 어떤 오류 규칙 아래 공적으로 귀속할 수 있는가. 답은 조작적 공적 자아 귀속, 곧 OPS다. 이것은 관찰자 쪽의 절차이며, 틀릴 수 있다.

두 질문을 붙여 놓으면 “판정을 통과하지 못했으니 자아가 아니다”라는 비약이 자연스러워 보인다. 떼어 놓으면 그 비약이 곧바로 드러난다. 판정은 존재를 만들지 않고, 판정의 실패는 부재의 증명이 아니다.

원문 · §1.1 — 두 질문의 분리와 ‘논리적 동의’의 뜻

이에 본 연구는 두 질문을 분리한다. 첫째는 구성적 질문이다. 어떤 구조를 본 이론의 자아라고 부를 것인가? 답은 유형이 명시된 Self_A이며, M₂^cap∧R^cap로 정의한다. 둘째는 인식적 질문이다. 제한된 관찰자가 그 구조의 존재를 어떤 오류규칙 아래 공적으로 귀속할 수 있는가? 답은 OPS다. 여기서 “논리적 동의”는 모든 철학자가 자아라는 말의 유일한 의미에 동의한다는 뜻이 아니다. Self_A의 정의와 가교논증을 수용한 평가자들이 같은 프로토콜·증거·임계값·기각규칙에서 같은 제한적 판정에 도달하고, 불일치가 어느 전제에서 발생했는지를 추적할 수 있다는 조건부·절차적 합의 가능성을 뜻한다.

판정 기준 실험실에서 볼 것

세 기준 중 무엇이 “옳은 답을 주는가”를 보지 마세요. 각 기준이 어느 지점에서 멈추는지를 보세요. A는 검증 절차에 들어가는 순간 멈추고, B는 모방과 구조를 구분하지 못해 뚫립니다. C가 우월해서가 아니라, C만이 논의를 다음 단계로 진행시킵니다.

04 · 이 이론이 주장하지 않는 것범위를 좁게 잡는 것이 이 논문의 방어선입니다

강한 이론일수록 무엇을 주장하지 않는지가 분명해야 한다. 이 이론은 자아의 모든 의미를 대체하지 않는다. M₂와 R의 결합이 현상적·최소·서사적·생태적 자아를 포함한 모든 자아 개념의 필요조건이라고 말하지 않으며, 그 결합이 의식이나 퀄리아를 발생시키거나 증명한다고도 말하지 않는다.

지금 어떤 인공지능이 이미 판정을 통과했다고 주장하지도 않는다. 외계 존재가 발견되었다거나 현재 자료로 그 자아를 판정할 수 있다고도 하지 않는다. 그리고 결정적으로, 자아 귀속만으로 완전한 도덕적 권리나 법적 인격이 자동 발생한다고 말하지 않는다. 이 마지막 선은 7장에서 다시 다룬다.

의식을 설명하지 않는다M₂ ∧ R은 현상적 의식을 발생시키거나 증명하지 않습니다.

통과를 선언하지 않는다현재의 어떤 AI가 이미 판정을 확정적으로 통과했다고 주장하지 않습니다.

권리를 자동 부여하지 않는다자아 귀속만으로 도덕적 권리나 법적 인격이 따라오지 않습니다.

실패를 부재로 읽지 않는다시험·번역·개입이 불가능하면 결론은 비자아가 아니라 미정입니다.

원문 · §1.5 주장하지 않는 것(발췌)

M₂ ∧ R이 현상적 의식이나 퀄리아를 발생시키거나 증명한다는 주장

현재의 어떤 인공지능 시스템이 이미 Self_A 또는 OPS 판정을 확정적으로 통과했다는 주장

의사소통·관찰·개입이 불가능하거나 시험에 실패한 존재가 곧 비자아라는 주장

Self_A 또는 OPS 판정만으로 완전한 도덕적 권리나 법적 인격이 자동 발생한다는 주장

1

한 장 요약

자아를 묻는 자리에는 네 질문이 겹쳐 있다. 의식·동일성·규범적 행위자성·사회적 지위는 관련되지만 같지 않다. 검증할 수 없는 의식을 선결조건으로 두면 판별은 시작되지 않고, 표면 발화를 기준으로 삼으면 모방에 뚫린다. 이 이론은 세 번째 자리 — 규범을 스스로 선별하고 그 판정에 연속으로 응답하는 구조 — 를 자아의 한 유형으로 명시하고, 그것을 무엇이라 부를지(구성적 질문)와 관찰자가 그것을 어떻게 알 수 있는지(인식적 질문)를 분리한다. 다음 장에서 그 구조를 정확히 정의한다.