[IT토론] AI 판사 도입 반대 주장과 이유

 

AI 판사 도입 반대 입장
주장과 이유

---

주장 1 : AI는 감정적 이해와 사회적 맥락을 인지하는 능력이 아직 부족

- AI 판사는 교통사고와 같은 객관적인 사고 상황에서는 높은 정확도를 발휘함
- 그런데 상해나 살인과 같은 강력 범죄에서는 상황이 반드시 고려되어야 하는데,
- AI는 이러한 사회적 맥락을 인지하는 능력이 부족해 정확하고 일관된 판결을 내리기 어렵다고 함
 
(호주 특별검사 메리머피와 우리나라 판사출신 변호사인 문유진 변호사)
 

Virtual Justice? Exploring AI’s impact on legal accessibility

[AI 톡터뷰] 판사 출신 문유진 변호사에게 “AI 판사”를 묻다 | SK텔레콤 뉴스룸

 

주장 2 : AI는 법률의 복잡성과 다양성을 완전히 이해하지 못함

- 법은 지역적 특수성과 판례에 따른 복잡한 해석을 요구함
- AI는 이런 세부적인 인과관계나 다양한 상황을 놓칠 가능성이 크다고 함.
- 실제로 2023년 6월에 미국 맨하탄에서 AI가 잘못생성한 법률서류를 법원에 제출해서 문제가 된 사례가 있었음
 

Virtual Justice? Exploring AI’s impact on legal accessibility

 

주장3 : 책임소재가 불분명함 (신뢰성 문제)

- 인간판사의 경우 잘못된 판결에 대해 직접적인 책임을 질 수 있음
- AI 판사의 경우 개발자, 데이터 제공기관 등 여러 이해관계자 사이에서 책임이 분산되어 모호해짐
- 그래서 법적 시스템의 신뢰성과 투명성을 저해할 수 있음
 

Judge v robot? Artificial intelligence and judicial decision-making

 

주장4 : 투명성 부족

- AI 특성상 추론내용을 알 수 없는 블랙박스 문제가 존재함
- 이에반해 인간판사는 자신의 논리와 근거를 명확히 설명 가능
- XAI의 발전으로 설명이 가능해진다고 해도, 인공지능이 내린 결론의 정확성은 다시 그 결론을 내기 위해 사용된 데이터와 직결됨
(의사 결정의 신뢰도는 높이지만 결국 데이터 기반 학습이기 때문에 학습데이터 품질 편차에 대한 문제가 생김)
 

언제쯤 ‘설명가능 인공지능(XAI)’을 실현할 수 있을까?

 

---

결론

- AI 판사는 인간의 업무를 돕기위한 도구가 되어야함
- 판사 자체를 대체하는 것은 어렵기 때문에  AI 판사 도입을 반대 
 

---

오늘의 토론 후기~~

반대와 찬성이 굉장히 치열해서 더욱 재밌었던 토론!!