GPT를 둘러싼 공공 피해 배상 제도 설계 – AI에 의한 손해의 사회적 해결 구조

AI가 만든 손해, 그런데 아무도 책임지지 않는다

  GPT를 비롯한 생성형 AI는 사회 전반에 빠르게 확산되며 편의성과 생산성을 향상하고 있지만, 동시에 다양한 형태의 직·간접적 피해 사례를 양산하고 있다. 개인의 명예훼손, 허위 정보 유포로 인한 여론 왜곡, 잘못된 의학 조언으로 인한 치료 지연, 법률 해석 오류로 인한 계약 분쟁, 교육 판단 오류로 인한 진로 결정 실패 등은 GPT가 직접 작성한 콘텐츠 또는 응답을 통해 현실에서 발생하고 있는 구체적 손해 유형들이다. 문제는 이런 피해가 실제로 벌어졌을 때, 책임 주체를 특정하기 어렵고, 배상 체계가 전무하다는 점이다.

  GPT는 법적으로 ‘비의도적 언어 생성 시스템’으로 분류되며, 스스로 법적 주체가 아니다. 플랫폼 제공자(OpenAI, Google 등)는 이용약관을 통해 "GPT의 응답은 단지 참고용이며, 책임지지 않는다"라고 명시한다. 사용자도 기술적 지식 없이 GPT를 일상적으로 활용하고 있으며, 피해 발생 시 이 응답이 오류였다는 것을 사전에 인지하거나 검토할 수 있는 능력이 부족한 경우가 많다. 이처럼 사용자와 플랫폼 사이에는 ‘책임 회피의 장벽’이 존재하며, GPT의 잘못된 응답이 사회적 손해로 이어지더라도 피해자는 보호받을 제도적 통로가 없다.

  이 상황은 기존 제품 책임법이나 전통적 불법행위법의 틀로는 설명되지 않는다. GPT는 고의가 없고, 불법행위 주체가 아니며, 예측 불가능한 응답 오류를 생성할 수 있는 ‘확률적 알고리즘 모델’이기 때문이다. 피해가 명확해도, 그 행위를 유발한 주체가 인간이 아니기에 법적 책임을 물을 수 없는 구조가 된다. 플랫폼은 ‘도구를 제공했을 뿐’이라 하고, 사용자는 ‘기술에 의존했을 뿐’이라 말하며, 피해자는 제도 밖에 남겨지는 사각지대에 놓이게 된다. 이처럼 피해는 늘고 있는데, 아무도 책임지지 않는 구조는 GPT 시대의 가장 구조적 역설이다. 따라서 우리는 이제 GPT가 초래한 공공적 피해를 사회가 어떻게 수용하고 회복할 것인가에 대한 제도적 접근을 모색해야 한다.

 

잘못된 응답부터 사회적 시스템 오류까지, GPT 손해의 스펙트럼

  GPT 기반 피해는 단순한 오류 메시지를 넘어서 사회 전반의 생활 영역에 걸쳐 실질적인 손해로 확장되고 있다. 이 피해를 체계적으로 구분하는 것은 향후 배상 책임 구도와 공공 보상 시스템 설계의 핵심 전제가 된다. 우선 가장 흔한 유형은 정보 오류 기반의 1차 피해다. 예를 들어, GPT가 잘못된 의학 정보를 제공하고 이를 따른 사용자가 치료를 지연하거나 건강을 해칠 경우, 이는 명백한 ‘기술 기반 건강 피해’로 분류될 수 있다. 유사하게 법률 정보, 금융 투자 조언, 교육 진로 선택 등에서도 GPT 응답에 의존함으로써 발생하는 결정적 오류가 반복되고 있다.

  두 번째 유형은 명예훼손, 허위 사실 유포, 정체성 훼손 등으로 인한 2차 피해다. 예컨대 GPT가 특정 인물을 잘못된 사건과 연결하거나, 존재하지 않는 이력을 생성해 온라인에 노출될 경우, 그 대상자는 사회적 신뢰 손상, 정신적 고통, 경제적 피해를 입을 수 있다. 특히 유명인이나 기업 대표, 정치인 등을 대상으로 GPT가 생성한 내용이 SNS나 포털에서 바이럴 되면, 피해는 단기간에 회복 불가능한 수준으로 확대될 수 있다.

  세 번째는 집단적 정보 왜곡으로 인한 구조적 피해다. 이는 GPT가 수많은 사용자에게 반복적으로 특정 담론 구조나 이념, 역사 해석, 경제 전망 등을 비슷한 논리로 제공하면서 나타나는 인식 왜곡형 피해다. 여기서 피해는 개인의 단기적인 손해가 아니라, 여론 형성, 사회 분열, 정보 민주주의의 침식 같은 중장기적 사회적 손실로 작동한다. 이 경우 피해 주체는 불특정 다수이며, 책임 귀속 또한 어려운 구조가 된다.

  마지막으로 플랫폼 유도형 피해가 있다. 이는 GPT의 구조적 설계 또는 상업적 목적에 의해 유도된 응답이 특정 방향의 소비나 행동을 이끌었을 경우 발생한다. 예를 들어, GPT가 특정 기업 제품을 반복 추천하거나, AI 튜터가 특정 학습 콘텐츠를 반복 노출하며 비중립적 상업 행위를 유도할 경우, 결과적으로 사용자 선택권이 왜곡되고, 경쟁 시장의 공정성이 훼손될 수 있다.

  이처럼 GPT 기반 피해는 단순히 ‘오답’ 수준을 넘어서며, 인지적, 심리적, 사회적, 경제적 차원을 아우르는 복합적 피해 구조를 형성한다. 이에 따라 피해 보상의 기준도 기존 ‘물적 피해 중심’에서 ‘정보 기반 손해, 인식적 결과, 감정적 고통’까지 확장되어야 하며, 이러한 특성을 반영한 피해유형별 대응 모델이 필요하다. 다음 문단에서는 각 유형별로 책임 귀속이 가능한 경로를 분석하고, 그에 따라 설계 가능한 공공 배상 체계의 구조적 옵션을 제안한다.

 

 

책임 귀속의 불확실성과 제도적 한계

  GPT가 야기한 피해에 대해 책임을 묻기 위해서는 귀속 가능한 행위자 또는 시스템 구조가 명확해야 한다. 그러나 현재의 생성형 AI 시스템은 ‘사용자-플랫폼-모델’로 구성된 삼각관계에서 책임 회피의 여지를 내포한 구조를 갖는다. 사용자는 GPT에 질문하고, GPT는 통계적으로 응답하며, 플랫폼은 "우리는 단지 모델을 제공했을 뿐"이라는 법적 문구로 면책을 시도한다. 이로 인해 피해 발생 시 누구에게 법적 책임을 귀속시킬 수 있는가라는 질문은 명확한 답을 가지기 어렵다.

  먼저 사용자 책임은 한계가 있다. 사용자가 GPT 응답을 무비판적으로 수용한 결과 피해가 발생했더라도, GPT가 보여주는 확신에 찬 문체, 인용 구조, 설득력 있는 응답 방식은 일반인의 판단 능력을 넘어서기 쉽다. 즉, 사용자에게 과도한 주의 의무를 요구하는 것은 현실적으로 불균형한 책임 분배가 될 수 있다.

  그렇다면 플랫폼은 책임을 져야 하는가? 대부분의 플랫폼들은 이용약관을 통해 "GPT 응답은 의료·법률·교육 등 전문 조언이 아니며, 책임지지 않는다"라고 명시한다. 그러나 이는 단지 계약상의 고지일 뿐, 사회적·윤리적 책임 회피의 논리 구조다. 특히 플랫폼이 GPT의 구조, 학습 데이터, 응답 방식, 확신도 조절 등에 직접 개입하고 있다는 점에서, 단순한 기술 제공자 이상이라는 해석이 가능하다. 예컨대 GPT의 출력 문장에 ‘조심하세요’, ‘전문가와 상담하세요’와 같은 문구가 언제, 어떤 상황에서 포함되도록 설정하는지조차 플랫폼의 의사결정 구조에 따른다.

  마지막으로 GPT 모델 자체는 책임 주체가 될 수 없다. 법적으로 AI는 ‘비인격적 도구’이므로, 행위 주체로서 책임을 질 수 없으며, 손해배상 청구의 대상이 될 수도 없다. 일부에서는 AI 법인격 부여 논의가 진행되고 있으나, 이는 아직도 법철학과 제도적 실행 가능성에서 극히 초기 수준에 머물러 있다.

  이처럼 책임의 ‘구조적 무주공산’ 상태에서는 결국 피해자가 고립된다. 따라서 법적 귀속의 명확성은 단기적으로 어렵더라도, 공공 차원에서 ‘피해자 보호를 우선하는 보상체계’, 즉 AI 공공 배상제도를 설계할 필요가 있다. 이는 과실 주체를 찾지 못해도 피해를 구제할 수 있는 방식으로, 다음 문단에서는 구체적인 제도적 대안들을 제시한다.

 

AI 공공 배상 제도의 틀: 보험, 기금, 국가책임 모델 비교

  GPT에 의한 피해는 개별 민사소송을 통해 해결하기에는 입증의 어려움, 피해 회복의 시급성, 비용 부담의 비대칭성 등의 문제로 실효성이 떨어진다. 따라서 AI로 인한 피해를 보상하는 공공 배상 시스템은 기존 민사 책임 체계를 보완하는 방식으로 설계될 필요가 있다. 이 시스템은 기본적으로 피해자 보호 중심으로 설계되며, AI 기술의 혁신을 저해하지 않으면서도 사회적 신뢰를 유지하는 중간 장치로 기능할 수 있다.

  대표적인 대안은 AI 사고 책임 보험(AI liability insurance)이다. 이는 플랫폼이나 서비스 제공자가 일정 수준의 피해를 대비하여 보험사와 계약을 체결하고, GPT에 의한 사용자 피해가 발생할 경우 해당 보험이 자동으로 일정 금액을 보상하는 구조다. 이 방식은 플랫폼의 위험 관리를 내재화하고, 피해자에게 빠른 회복을 가능케 하지만, 보험사와 플랫폼 간 책임 분담 협의, 편향 판단 기준 등에서 고도화된 평가 모델이 필요하다.

  두 번째는 AI 공공기금제도(AI Compensation Fund)다. 이는 국가 또는 공공기관이 관리하는 기금으로, GPT 등 고위험 AI 기술로 인해 발생한 사회적 피해에 대해 일정 기준을 충족하면 사전 귀속 판단 없이도 우선 보상을 제공한다. 이는 백신 부작용 피해 국가 보상제도, 의료사고 국가배상 시스템 등과 유사한 구조로, 기술 혁신과 피해 보상의 균형을 동시에 고려하는 모델이다.

  세 번째는 ‘AI 유발 행위에 대한 사전 등록제 및 책임 공유 구조’다. 이는 플랫폼이 고위험 응답 유형(진단, 법률 해석, 투자 조언 등)을 사전에 등록하고, 해당 GPT 기능을 통해 발생한 피해에 대해 일정 비율의 공공 보상 책임을 부담하도록 하는 제도다. 여기에는 플랫폼, 보험사, 정부 간의 3자 협약 구조가 함께 작동하며, 민간 혁신과 공공 감시의 절충 모델로 평가된다.

  이러한 모델을 실행하려면 몇 가지 조건이 필요하다. 첫째, 피해 유형별 기준 정립 및 등급 분류 체계. 둘째, GPT 응답 로그와 사용자 행동 데이터의 부분적 비식별 공개 및 기록 의무화. 셋째, 피해 사실을 인증할 수 있는 공신력 있는 감정 기구 설립. 이 모든 요소는 단지 법이 아니라, AI의 사회적 작동을 제어할 수 있는 제도적 생태계로 구성되어야 한다.

 

사회적 배상 윤리의 설계: 사회가 회복을 조직하는 법

  GPT 시대의 피해 배상 논의는 단지 법률적 책임귀속의 문제가 아니라, 기술 윤리와 사회적 연대의 새로운 방식에 대한 설계 문제다. AI가 ‘사고를 일으킬 수 있는 도구’가 된 현실에서, 우리는 기존 법 개념만으로는 책임을 정리할 수 없고, 새로운 유형의 사회적 회복 메커니즘을 만들어야 하는 시대에 진입했다. 그 중심에는 ‘배상’이라는 개념이 있다. 배상이란 처벌이 아니라 공적 인정과 공동체의 응답, 즉 사회가 피해를 공적으로 인정하고 회복을 조직하는 방식이다. 이를 위해서는 단순히 플랫폼 기업에게 책임을 묻는 것이 아니라, 국가와 민간, 기술 산업계, 시민사회가 함께 GPT의 응답에 대한 ‘사회적 리스크 분담 구조’를 설계해야 한다. 이 구조는 다음 네 가지 축으로 정리될 수 있다.

 

1. GPT 고위험 응답 영역의 규제 우선 지정
의료, 법률, 교육, 금융 등 결정적 피해 가능성이 높은 분야는 별도 모니터링과 책임 구조를 갖도록 법률적 분리 필요.

2. 피해자 보호 중심의 보상 구조 신설
입증 책임을 피해자에게만 전가하지 않고, 일정 조건만 충족하면 선(先) 보상 후(後) 조사하는 구조 채택.

3. GPT 응답 감시 및 감정 기관 설립
독립적인 GPT 응답 감시 기관이 응답 로그를 분석하고, 피해와 연관성을 판단하는 기술–사회 융합 분석 조직 필요.

4. 기술 기업의 윤리 재정의
‘면책’이 아닌 ‘책임 공유’를 기본 전제로 하는 윤리 강령 재설계 및 GPT 설계단계에서 사회적 리스크 평가 반영.

 

  GPT는 앞으로도 계속해서 인간의 의사결정 과정에 개입할 것이다. 그렇다면 이 응답 하나하나가 초래할 수 있는 피해를 사회는 ‘누가 책임질 것인가’가 아니라, ‘어떻게 책임을 나눌 것인가’로 접근해야 한다. GPT 기반 사회에 필요한 것은 강한 통제가 아니라, 세심하게 설계된 배상과 회복의 윤리 체계다.