법정에서 사용되는 죽은 자의 AI 렌더링
법원은 점점 더 많은 도전과 윤리적 딜레마에 직면하고 있습니다.인공 지능(AI) 사법 시스템으로 들어갑니다.
획기적인 순간, 한 살인 사건의 피해자가 법정에서 AI가 생성한 아바타를 통해 피해 진술을 하는 장면이 있었습니다.
크리스토퍼 펠키가 도로 위 분노 사건으로 사망한 후, 그의 여동생 스테이시 웨일즈는 AI를 이용해 오빠의 목소리와 모습을 재현하여 판사에게 최대한 가혹한 형을 선고해달라고 촉구했습니다.
그녀가 눈물을 흘리며 법정에서 연설하는 동안 놀라운 반전이 이어졌습니다: 인공지능이 생성한 펠키의 영상이 나타나 총격범을 용서하는 장면이 나왔습니다.
판사는 이 영상에 감탄을 표했고, 감동적인 진술에 감동을 받은 범인에게 검찰이 구형한 것보다 더 많은 징역 10.5년을 선고했습니다.
불과 몇 시간 후 피고의 변호사가 항소장을 제출하면서 법정 소송에서 AI의 역할에 대한 새로운 법적 논쟁이 시작되었습니다.
AI가 법정에서 자리를 잡으면서 사법 시스템이 새로운 도전에 직면했습니다.
제이슨 램 변호사는 항소를 처리하지 않을 수도 있지만, 곧 상급 법원에서 판사가 자신의 의뢰인에게 선고를 내릴 때 AI가 생성한 동영상에 부적절하게 의존했는지 여부를 다룰 것으로 예상하고 있습니다.
법정에서의 AI 사용은 빠르게 진화하고 있으며, 법률 전문가들은 사법 절차에서 AI의 역할을 면밀히 검토하고 있습니다.
특히 펠키의 가족이 미국 법원에서 전례 없는 움직임인 피해자 영향 진술서를 제출하기 위해 AI를 사용한 이후에는 더욱 그러합니다.
이에 따라 애리조나 대법원은 AI 모범 사례를 연구하는 위원회를 설립했으며, 플로리다에서는 최근 한 판사가가상 현실(VR )를 통해 피고의 정당방위 주장을 평가합니다.
한편, 뉴욕에서는 변호사가 없는 한 남성이 AI 아바타를 이용해 자신의 주장을 변론하려 하자 판사들은 이 변론의 인공적인 성격을 재빨리 알아차렸습니다.
AI 기술이 사법 절차에 더 많이 통합됨에 따라 중대한 법적, 윤리적 문제가 제기되고 있습니다.
전문가들은 특히 소외된 커뮤니티와 관련된 사건에서 인공지능이 판사나 배심원을 불공정하게 움직일 수 있는 조작 가능성이 있다고 경고합니다.
UC 버클리 비즈니스 스쿨의 AI 딥페이크 전문가인 데이비드 에반 해리스는 이렇게 말합니다:
이는 부분적으로는 더 많은 자원을 보유한 당사자에게 그렇지 않은 당사자보다 유리할 수 있기 때문에 논쟁의 여지가 있는 증거 형태가 될 것이라고 생각합니다."라고 말합니다;
법률 학자들은 이미 다음과 같은 방법을 연구하고 있습니다.AI 설득 및 조작의 전술과 교차합니다.
브루클린 로스쿨의 법학 교수인 신시아 고드는 법원은 AI가 생성한 이미지나 동영상이 증인의 증언을 정확하게 반영하는지, 또는 이러한 디지털 렌더링이 피고의 특성에 대한 인식을 왜곡할 수 있는지 판단하는 등 전례 없는 새로운 문제에 점점 더 직면하게 될 것이라고 강조합니다.
그녀는 이렇게 말했습니다:
"사람들이 거짓임을 알아채지 못하는 가짜 증거로 더 많이 유도할 수 있기 때문에 확실히 불안한 추세입니다."
가상 범죄 현장부터 죽은 자의 AI 아바타까지: AI는 법률 분야의 경계를 허물고 있나요?
애리조나 사건에서 웨일즈는 선고 공판에서 죽은 동생에게 목소리를 들려주기 위해 AI를 사용하기로 결정할 때 직면했던 윤리적, 도덕적 딜레마를 인정했습니다.
웨일즈의 설명입니다:
"윤리와 도덕을 가지고 접근하고 크리스가 말하거나 믿지 않을 말을 하는 데 사용하지 않는 것이 중요했습니다."라고 말했습니다;
애리조나 법은 피해자 가족이 모든 디지털 형식으로 영향 진술서를 제출할 수 있도록 허용하지만, 피해자 가족을 대변한 피해자 권리 변호사 제시카 가투소는 웨일즈와 그녀의 남편만 이 사실을 알고 있었다고 밝혔습니다.AI 동영상을 미리 확인하세요.
그녀는 덧붙였습니다:
"크리스를 인간적으로 만들고 판사에게 다가가는 것이 목표였습니다."
법정에서 이 영상을 본 마리코파 카운티 고등법원 판사 토드 랭은 펠키의 말의 '아름다움'에 감탄을 표했습니다.
판사는 다음과 같이 언급했습니다:
또한 가족에 대해서도 언급합니다. 당신이 얼마나 화가 났는지 말했고, 최대 형량을 요구했고, 그것이 당신이 원했던 것이었음에도 불구하고 크리스가 마음에서 우러나오는 말을 할 수 있게 해주었으니까요."
그러나 피고의 변호사는 나중에 이러한 발언이 항소심에서 형량을 뒤집는 데 영향을 미칠 수 있다고 지적했습니다.
이는 중요한 질문을 제기합니다. 사회가 법적 절차에서 고인의 AI 렌더링을 사용하는 것에 대해 확고한 윤리적 입장을 만들어야 할까요?
이 사건은 기술과 정의의 교차점이 점점 더 커지고 있음을 강조하며 이러한 디지털 혁신의 의미에 대한 깊은 성찰을 불러일으킵니다.