인공지능 시대에 '나는 나다'를 증명하는 방법은 무엇일까요?

저자: OKG Research

최근 OpenAI는 텍스트로부터 세밀한 이미지와 동적인 동영상 생성을 지원하는 고성능 텍스트-멀티모달 생성기인 새로운 모델인 Sora를 출시했습니다.

이 기능은 앞서 공개된 동영상 샘플에 비해 사용자가 직접 체험할 수 있게 되었으며, 현재 서비스 과부하로 인해 등록이 중단된 상태입니다. 하지만 공식 홈페이지에서 선택한 클립을 보면 생성하는 이미지와 영상의 정확도가 크게 향상되어 일부 영상은 AI가 생성한 것인지 아닌지 구분하기 어려울 정도이며, 현재 AI는 더욱 비유적으로 변해가고 있습니다!

사진 출처: OpenAI 공식 페이지

그러나 AI 기술의 급속한 발전으로 가짜 콘텐츠 생성의 문턱이 크게 낮아지면서 AI가 생성한 얼굴 바꿔치기 동영상, 딥페이크 등 잠재적 위험이 일상 생활에 침투하기 시작했습니다. 이러한 도전에 직면하여 Web3 기술은 새로운 아이디어를 제시하고 있습니다.

OpenAI, 하버드 펠로우 협회, Microsoft, 옥스퍼드 대학교, a16z 크립토 등의 연구자들이 이 문제를 해결하기 위한 새로운 도구의 가치를 탐구하는 논문을 발표했습니다. 가치: 개인 자격증명(PHC). 이러한 디지털 자격 증명을 통해 사용자는 개인 정보를 공개하지 않고도 자신이 실제 사람임을 증명할 수 있습니다.

AI로 생성된 콘텐츠의 홍수 : 신뢰의 위기

AI로 생성된 사실적인 콘텐츠(예: 딥페이크), 사칭, 저비용 마녀사냥 공격이 온라인 상호작용의 진위 여부와 보안을 위협하고 있습니다.

캡차나 이상 징후 탐지 같은 기존의 대응책은 더 이상 정교한 AI를 따라잡을 수 없으며, 엄격한 인증은 사용자에게 개인 정보를 공개하도록 요구하여 온라인 프라이버시를 침해하고 있습니다.

이 딜레마는 개인정보 보호와 인증에 대한 새로운 필요성을 만들어냈습니다. 이러한 딜레마로 인해 개인정보 보호 및 신원 확인에 대한 새로운 요구가 생겼습니다. 온라인 사용자가 AI가 생성한 가짜 신원이 아닌 실제 사람인지 효과적으로 확인하면서 사용자의 익명성을 보호할 수 있는 방법은 무엇일까요?

신원 인증(PHC): 차세대 신원 확인 도구

"개인 자격 증명(Personhood Credentials): 인공지능과 프라이버시를 보호하는 진위 확인 방법의 필요성" 문서에서는 매우 유망한 솔루션을 제시합니다.‍

인격 증명서(PHC)는 사용자가 개인 정보를 공개하지 않고 온라인 서비스에서 다음을 증명할 수 있도록 설계된 디지털 자격증명입니다. 인공지능(AI)이 아닌 실제 사람임을 증명할 수 있도록 설계된 디지털 인증입니다. 이러한 자격 증명은 정부나 기타 조직 등 다양한 신뢰할 수 있는 기관에서 발급할 수 있으며, 현지화되거나 전 세계적으로 사용될 수 있고 생체 인식 기반일 필요는 없습니다.

AI와 사람 사이에 '거주지 같은 시스템'을 구축하는 인격 증명은 AI가 널리 사용되고 AI가 생성한 정보나 서비스를 합리적으로 차별화할 수 있는 미래에 대한 대응책이 될 것으로 기대됩니다.

PHC는 네트워크 환경에서 대규모로 실제 사용자와 실제 입력 및 상호작용을 가능하게 하여 가짜 계정이 존재하지 않는 개인으로 가장하는 것을 방지하고, 봇이 플랫폼 규칙을 우회하고 네트워크 서비스를 계속 오용하는 공격을 조율하는 것을 막고, 공인된 AI 에이전트가 악의적인 행위자가 아니라 신뢰할 수 있는 사용자의 프록시임을 입증할 수 있습니다. 이는 AI 에이전트가 악의적인 행위자가 아닌 신뢰할 수 있는 사용자의 대리인 역할을 하도록 승인되었음을 나타냅니다.

이를 통해 AI가 생성하는 허위 정보 및 신원 사칭의 확산을 줄이고 온라인 생태계의 신뢰성과 보안을 보장할 수 있습니다.

이 솔루션은 전 세계적으로 통일된 생체 인증에 의존하는 대신 정부나 기타 신뢰할 수 있는 기관에서 로컬로 발급하여 다양한 시나리오에 맞게 조정할 수 있습니다.

사진 출처:https://arxiv.org/pdf/2408.07892

PHC를 위한 기술 구현 경로

현재 PHC의 개념은 익명 자격증명 및 '인증' 시스템에 대한 오랜 연구 역사를 기반으로 합니다. 구체적인 구현은 아직 개발 중이지만, PHC의 기반을 제공하는 여러 가지 관련 기술이 있습니다.

• ZKP(Zero Knowledge Proof): PHC는 보다 효율적이고 효과적인 인증 수단을 제공하기 위한 목적으로 개발되었습니다. PHC는 사용자가 특정 신원 정보를 공개하지 않고도 독립적이고 실제 사람임을 증명하는 영지식 증명 기술을 활용할 수 있습니다.

• 탈중앙화된 신원(DID): 탈중앙화된 신원 프레임워크를 통해 사용자는 중앙화된 기관에 의존하지 않고 자신만의 디지털 신원을 생성하고 관리할 수 있습니다.

• 다자간 서명 및 신뢰 네트워크: 신뢰할 수 있는 조직은 다자간 서명을 통해 협력하여 사용자의 신원을 검증하고 신뢰 네트워크를 형성할 수 있습니다.

PHC의 장점

• 개인정보 보호: 사용자는 개인 데이터를 공개하지 않고도 진위 여부를 확인할 수 있어 디지털 개인정보를 보호할 수 있습니다.

• 신뢰 강화: PHC는 허위 신원 및 심각한 가짜 콘텐츠의 확산을 차단함으로써 디지털 커뮤니티에서 더욱 강력한 신뢰 기반을 구축합니다.

• 비생체인식 의존성: PHC의 인증 프로세스는 생체인식 데이터에 의존하지 않으므로 관련 개인정보 및 보안 문제를 피할 수 있습니다.

• 탈중앙화 신원(DID) 및 플랫폼 활성화: PHC는 Web3 탈중앙화 소셜 플랫폼을 강화하여 사용자가 자신의 개인 신원과 데이터를 더 잘 제어할 수 있도록 합니다.

이전에도 업계에서 탈중앙화된 신원을 시도하는 Web3 프로젝트가 있었는데, 2023년 OpenAI 공동 창립자인 샘 알트먼의 Worldcoin은 생체인식 기반 탈중앙화된 신원을 제공하여 다음과 같은 목적을 달성하고자 했습니다. 마녀 공격과 가짜 계정 문제를 해결하고자 합니다.

홍채 채취 문제와 그에 따른 개인 데이터의 보안에 대한 광범위한 논쟁이 있지만, 대규모 실험을 통해 간편하고 탈중앙화된 신원 확인 방식에 대한 사용자들의 강력한 수요가 있다는 것을 확인할 수 있었습니다.

사진 출처:The 월드코인용 하드웨어 장치

https://liamhorne.com/world-chain

PHC는 큰 잠재력을 보여주지만, 배포 및 구현에는 여전히 많은 과제가 있습니다.

• 보안.

  보안: PHC 시스템에 대한 오용이나 공격을 방지하고 전송 및 저장 중 데이터의 보안을 보장합니다.

• 접근성: 모든 유형의 사용자, 특히 기술 수준이 낮거나 리소스가 제한된 사용자들이 PHC에 쉽게 접근하고 사용할 수 있도록 보장합니다.

• 표준화: 상호운용성과 확장성을 보장하기 위해 통일된 기술 표준이 필요합니다.

AI와 Web3의 결합 가능성

탈중앙화된 소셜 플랫폼에 PHC를 블록체인 기술과 결합할 수 있습니다. 예를 들어, 사용자가 디앱에 로그인할 때 PHC를 확인하면 플랫폼은 민감한 데이터를 수집하지 않고도 사용자의 진위 여부를 확인할 수 있습니다. 이를 통해 악성 봇 계정의 확산을 방지하는 동시에 위조 콘텐츠에 효과적으로 대응할 수 있습니다.

PHC는 탈중앙화 신원증명(DID) 시스템에서도 사용할 수 있으며, AI가 생성한 콘텐츠의 저작권 관리, 위변조 방지, 커뮤니티 거버넌스 등의 분야에서 시너지 효과를 창출할 수 있습니다. 예를 들어, PHC를 바인딩함으로써 사용자는 Web3 생태계에서 자신의 신원의 진위를 검증하여 거버넌스 결정의 공정성을 보장할 수 있으며, NFT를 PHC와 결합하면 AI가 만든 콘텐츠에 추적성과 저작권 보호 기능을 제공할 수 있습니다.

AI와 PHC의 결합을 통해 디지털 경제 활동에서 신뢰 인센티브를 구축하는 것도 가능합니다. 예를 들어, 탈중앙화된 업무 플랫폼에서 고용주는 PHC를 통해 프리랜서의 진위 여부를 확인하는 동시에 AI 분석을 통해 가장 적합한 협력자를 매칭할 수 있습니다. 이 모델은 사기 위험을 효과적으로 줄이고 협업 효율성을 개선할 수 있습니다.

신뢰 위기에서 신뢰 회복으로

PHC는 현재의 신뢰 위기를 해결하는 것뿐만 아니라 디지털 사회를 위한 신뢰의 초석을 마련하는 것이기도 합니다. PHC는 국제적으로 디지털 신원을 상호 인정하는 기반이 되어 국경을 넘나드는 온라인 활동에서 사기 위험을 줄일 수 있을 것으로 기대됩니다. PHC를 통해 인간은 AI와의 상호작용을 보다 효과적으로 관리할 수 있어 인간과 기계의 협업이 선순환적으로 발전할 수 있습니다.

블록체인의 투명하고 탈중앙화된 특성을 결합하여 PHC는 신뢰할 수 있는 디지털 신원과 온라인 생태계를 구축하기 위한 완전히 새로운 차원의 상상력을 제공합니다.PHC는 기술 및 비즈니스 분야에 영향을 미칠 뿐만 아니라 개인정보 보호, 디지털 신원, 기술 윤리에 대한 심도 깊은 논의를 촉발할 것입니다. 정책 입안자, 기술자, 표준 기관은 대중과 협력하여 PHC의 개발과 구현을 발전시켜 디지털 사회의 보다 안전하고 신뢰할 수 있는 미래를 만들어야 합니다.