비탈릭: 암호화폐와 AI의 교차점, 그리고 전망과 과제를 바라보는 관점

저자: 비탈릭, 번역: 골든 파이낸스 샤오조우

수년 동안 많은 사람들로부터 비슷한 질문을 받아왔습니다."암호화폐와 AI의 가장 유익한 교차점은 어디일까요? 좋은 질문입니다. 암호화폐와 AI는 지난 10년간 가장 지배적인 두 가지 딥(소프트웨어) 기술 트렌드임에 틀림없으며, 이 둘 사이에는 분명 어떤 연관성이 있을 것입니다. 암호화폐 탈중앙화는 AI의 중앙집중화와 균형을 이루고, AI는 불투명하지만 암호화폐는 투명성을 제공하며, AI에는 데이터가 필요하고 블록체인은 이를 저장하고 추적하는 데 완벽하다는 점 등 명백한 시너지 효과는 쉽게 발견할 수 있습니다. 하지만 지난 몇 년 동안 사람들이 저에게 더 깊이 파고들어 구체적인 애플리케이션에 대해 이야기해달라고 요청했을 때, 저는 항상 '그래, 어느 정도 깊이는 있지만 그다지 많지는 않다'는 대답으로 그들을 실망시켰습니다.

지난 3년 동안 최신 LLM(머신러닝 모델)의 형태로 더 강력한 AI가 등장하고, 블록체인 확장 솔루션뿐만 아니라 ZKP, FHE, (양당 및 n당) MPC의 형태로 더 강력한 암호화폐가 등장하면서, 블록체인에 대한 관심이 높아졌습니다. -가 증가하고 있으며, 저는 변화를 목격하기 시작했습니다. 블록체인 생태계에는 실제로 유망한 AI 애플리케이션이나 암호학과 결합된 AI가 존재하며, AI가 어떻게 적용되고 있는지에 초점을 맞추는 것이 중요합니다. 한 가지 구체적인 문제는 암호화에서는 오픈소스가 진정한 보안을 보장하는 유일한 방법이지만, AI에서는 오픈소스 모델(학습 데이터조차 오픈소스인)이 적대적인 머신러닝 공격에 대한 취약성을 크게 증가시킨다는 것입니다. 이 글에서는 암호화와 AI의 다양한 교차점 유형과 그 전망 및 과제에 대해 설명합니다.

인공 지능의 네 가지 주요 유형

인공 지능은 매우 광범위한 개념으로, 마법의 계산 국물이 담긴 큰 냄비를 저으면서 일종의 최적화 압력을 가하여 원하는 속성을 가진 알고리즘이 수프에 나오도록 하는 것과 같이 특정 설정보다는 알고리즘의 집합으로 생각할 수 있습니다. 알고리즘의 속성. 이 설명은 결코 가볍게 여겨서는 안 됩니다. 우리 인간이 처음 탄생한 과정이기 때문입니다! 인공 지능 알고리즘은 몇 가지 공통된 특성을 공유하는데, 그 능력은 매우 강력하지만 동시에 커튼 뒤에서 들여다볼 수 있는 우리의 능력은 매우 제한적입니다.

인공지능을 분류하는 방법은 여러 가지가 있습니다. 이 글에서는 AI와 블록체인("게임" 제작을 위한 플랫폼으로 설명됨)의 교차점에 초점을 맞추었으므로, 여기서는 다음과 같이 AI를 분류하겠습니다.

• 게이머급 AI(생존 가능성이 가장 높음): AI가 참여하는 메커니즘으로, 궁극적인 인센티브의 원천이 프로토콜에 대한 인간의 입력에서 비롯됩니다.

게임 인터페이스 클래스 AI(잠재력이 크지만 위험도 높음): AI는 사용자가 주변의 암호화폐 세계를 이해하도록 돕고, 사용자의 행동(예: 메시지 및 트랜잭션 서명)이 의도와 일치하는지, 속고 있지 않은지 확인합니다.

• 판도를 바꾸는 AI(얇은 얼음 위에서 스케이트를 타는 것과 같은): 블록체인, DAO 및 기타 유사한 메커니즘이 AI를 직접 호출합니다(예: "AI 판사").

• 게임 목표형 AI(장기적이지만 흥미로운): 블록체인, DAO 및 기타 유사한 메커니즘을 설계하여 다른 용도로 사용할 수 있는 AI를 구축하고 유지하며, 암호화 비트를 사용하여 훈련을 더 잘 장려하거나 AI가 개인 데이터를 유출하거나 남용되는 것을 방지합니다.

1. 게이머 클래스 AI

게이머 클래스 AI는 사실 중앙화된 거래소(DEX)에 대한 체인화가 널리 사용되기 시작한 이래로 거의 10년 동안 존재해 온 카테고리입니다. 트레이딩과 관련된 모든 거래에는 차익거래를 통해 돈을 벌 수 있는 기회가 존재하며, 봇은 차익거래에 있어 인간보다 유리한 점이 있습니다. 이러한 사용 사례는 오래전부터 존재해 왔으며, 당시 사용된 인공지능은 오늘날의 인공지능보다 훨씬 단순했지만, 결국 인공지능과 암호화폐 간의 진정한 크로스오버 영역이 되었습니다. 최근 들어 가상자산 차익거래 봇들이 서로 경쟁하는 모습을 많이 볼 수 있습니다. 블록체인 애플리케이션에 경매나 거래가 포함될 때마다 차익거래 봇이 존재합니다.

그러나 인공지능 차익거래 봇은 훨씬 더 큰 범주의 첫 번째 예시일 뿐이며, 곧 다른 많은 애플리케이션이 포함될 것으로 예상됩니다.

예측 시장은 오랫동안 인지 기술의 성배로 여겨져 왔으며, 2014년에 저는 예측 시장을 거버넌스 입력으로 사용하는 것에 대해 매우 흥분했고, 지난 총선과 최근 대선에서 광범위하게 사용되었습니다. 하지만 지금까지 예측 시장은 실제로 크게 성장하지 못했는데, 그 이유는 큰손들이 비이성적인 경향이 있고, 합리적인 사람들은 큰돈이 수반되지 않는 한 베팅에 시간을 투자하는 것을 꺼리는 경향이 있으며, 시장의 유동성이 얕다는 점 등 여러 가지 공통적인 이유 때문이었습니다.

이에 대한 한 가지 반응은 폴리마켓이나 다른 신흥 예측 시장이 사용자 경험을 개선하고 있으며, 이전에 실패했던 곳에서 성공을 거둘 수 있을 것이라는 희망을 가지고 있다는 점입니다. 사람들은 스포츠 이벤트에 수백억 원을 기꺼이 베팅하는데, 미국 대선이나 LK99에 충분한 돈을 걸면 거물급 선수들도 기꺼이 뛰어들지 않겠느냐는 것이죠. 그러나 이 점은 지금까지 아무도 이 정도 규모에 도달하지 못했기 때문에(적어도 후원자들의 꿈에 비하면), 예측 시장을 성공시키기 위해서는 새로운 무언가가 필요하다는 사실을 직시해야 합니다. 따라서 예측 시장 생태계의 특정 특징, 즉 지난 시기에는 볼 수 없었던 유비쿼터스 인공지능의 가능성에 대한 다른 대응이 필요합니다.

인공지능은 시간당 1달러 미만으로 일할 수 있고, 백과사전 수준의 지식을 갖추고 있으며, 그것만으로는 부족하다면 실시간 웹 검색 기능과 결합할 수도 있습니다. 시장을 만들고 유동성 허용치를 50달러로 제시하면 인간은 입찰에 큰 관심을 두지 않을 수 있지만, 수천 명의 AI는 신속하게 움직이며 최선의 예측을 할 것입니다. 한 가지 문제에서 좋은 성과를 내는 것에 대한 인센티브는 작을 수 있지만, AI가 다양한 범위에서 정확한 예측을 하도록 하는 것에 대한 인센티브는 엄청납니다. 대부분의 문제에 대한 판정을 내리는 데 사람이 필요하지 않다는 점에 유의하세요. Augur나 Kleros와 같은 다라운드 분쟁 시스템을 사용하면 AI가 이전 라운드에도 참여할 수 있습니다. 인간은 극히 일부 상황, 즉 양측의 의견이 첨예하게 대립하는 상황에서만 대응할 필요가 있습니다.

"예측 시장"이 이렇게 미시적인 규모로 작동할 수 있게 되면, 다른 많은 종류의 문제에 "예측 시장" 프리미티브를 재사용할 수 있기 때문에 이것은 강력한 프리미티브입니다."

• [사용자 이용약관]에 따라 이 소셜 미디어 게시물이 허용되나요?

• 주식 X의 가격은 어떻게 되나요?

• 지금 내게 메시지를 보내는 이 계정이 정말 엘론 머스크인가요?

• 온라인 작업 마켓플레이스에서 이 일자리는 부스트 자격이 있나요? https://examplefinance.network URL을 가진 이 디앱은 사기인가요?

• 0x1b54.... .98c3이 정말 "Casinu Inu"의 ERC20 토큰 주소인가요?

이러한 아이디어 중 상당수가 제가 "정보 방어"라고 부르는 방향으로 나아가고 있음을 알 수 있습니다. 넓은 의미에서 보면, 중앙화된 기관이 권력을 남용해 옳고 그름을 결정할 수 있는 권한을 부여하는 대신 사용자가 진짜 정보와 가짜 정보를 구별하고 사기를 탐지할 수 있도록 어떻게 도울 수 있을까 하는 문제입니다. 미시적 수준에서는 '인공지능'이 해답이 될 수 있습니다. 하지만 거시적 차원에서 보면 누가 인공지능을 구축할 것인가가 문제입니다. 인공 지능은 그 탄생 과정을 반영하는 것이며 편견에서 자유롭지 못합니다. 따라서 인공지능이 플레이어로 참여할 수 있도록 다양한 인공지능의 성능을 판단할 수 있는 더 높은 수준의 게임이 필요합니다.

인간의 입력을 모으는 온체인 메커니즘(시장 기반 탈중앙화 RLHF라고 부르면 어떨까요?)에 의해 보상 또는 처벌을 받는 일종의 메커니즘에 AI가 참여하는 방식이 바로 이러한 AI의 활용입니다. 보상이든 처벌이든, 저는 이것이 정말 가치 있는 연구 방향이라고 생각합니다. 블록체인 확장을 통해 이전에는 불가능했던 "작은" 또는 "마이크로" 규모의 것을 마침내 온체인에서 실행 가능하게 만드는 데 성공했으니, 이제는 이러한 사용 사례를 더 자세히 살펴볼 때입니다.

관련 애플리케이션 중 하나는 스마트 컨트랙트를 이용한 결제나 신뢰할 수 있는 약속을 통해 더 나은 협업을 달성하기 위해 블록체인을 사용하는 고도로 자율적인 인텔리전스입니다.

2. 게임 인터페이스를 위한 인공지능

제 자신이 쓴 글에서 제시한 아이디어 중 하나는 사용자가 탐색하는 온라인 세계의 위험을 해석하고 식별하여 사용자를 보호하는 사용자 대면 소프트웨어를 작성할 수 있는 시장 기회가 있다는 것입니다. 이미 존재하는 한 가지 예로 메타마스크의 사기 탐지 기능을 들 수 있습니다.

또 다른 예로는 사용자에게 서명하려는 거래의 예상 결과를 보여주는 Rabby Wallet의 시뮬레이션 기능을 들 수 있습니다.

이러한 도구는 AI를 통해 크게 향상될 수 있습니다. AI는 사용자가 어떤 종류의 디앱에 참여하고 있는지, 가입하려는 복잡한 작업의 결과는 무엇인지, 특정 토큰이 진짜인지 아닌지(예: 비트코인은 단순한 문자열이 아니라 가격이 0.045달러보다 훨씬 높은 ERC20 토큰이 아닌 실제 암호화폐의 이름이며, LLM은 이를 알 수 있습니다! 포인트) 등입니다. 일부 프로젝트는 이러한 방향으로 나아가기 시작했습니다(예: AI를 메인 인터페이스로 사용하는 LangChain 지갑). 제 개인적인 의견으로는 순수한 AI 인터페이스는 다른 유형의 오류의 위험을 증가시키기 때문에 현재로서는 너무 위험할 수 있지만, 편향된 기존 인터페이스를 AI로 보완하는 것은 매우 실현 가능성이 높다고 생각합니다.

또 한 가지 언급할 만한 구체적인 위험이 있습니다. 아래의 "판도를 바꾸는 AI" 섹션에서 자세히 설명하겠지만, 일반적인 문제는 적대적 머신러닝입니다. 사용자가 오픈소스 지갑의 AI 비서에 액세스할 수 있다면 악당도 마찬가지이므로, 지갑의 방어 기능이 작동하지 않도록 사기를 최적화할 기회가 무한히 많아집니다. 방어. 모든 최신 AI에는 버그가 존재하며, 제한된 모델 액세스 권한만 있어도 학습 과정에서 버그를 찾는 것은 어렵지 않습니다.

이것이 바로 "온체인 마이크로 마켓에 대한 AI 참여"가 더욱 강력한 이유입니다. 모든 AI는 동일한 위험에 취약하지만, 의도적으로 수십 명의 사람들이 끊임없이 반복하고 개선하는 개방형 생태계를 만드는 것입니다. 또한 각 개별 AI는 폐쇄형이므로 시스템의 보안은 각 플레이어의 내부 운영이 아닌 게임 규칙의 개방성에서 비롯됩니다.

요약: AI는 사용자가 간단한 언어로 무슨 일이 일어나고 있는지 이해하도록 돕고, 실시간 멘토 역할을 할 수 있으며, 실수로 인한 부정적인 영향으로부터 사용자를 보호할 수 있지만, 악의적인 허위 정보 유포자나 사기꾼을 상대로 AI를 직접 사용하려고 할 때는 주의해야 합니다.

3. 게임의 판도를 바꾸는 AI

지금까지 많은 사람들을 흥분시키는 애플리케이션에 대해 이야기했지만, 가장 조심해야 할 부분은 바로 '게임의 일부가 되는 AI'라고 생각합니다. 이는 주류 정치 엘리트들이 '인공지능 판사'에 열광하는 것과 관련이 있으며, 블록체인 애플리케이션에도 비슷한 욕구가 존재합니다. 블록체인 기반 스마트 콘트랙트나 DAO가 주관적인 판단을 내려야 하는 경우(예: 특정 작업물이 고용 계약의 적용을 받는가?), AI를 판사로 만들 수 있을까요? 아니면 AI를 계약이나 DAO의 일부로 만들어 이러한 규칙을 집행하는 데 도움을 줄 수 있을까요?

이것이 바로 적대적 머신러닝이 매우 어려운 도전이 될 것이라고 말하는 이유입니다. 두 문장으로 요약하면 다음과 같습니다.

메커니즘에서 핵심적인 역할을 하는 AI 모델이 폐쇄형이라면 내부 작동을 확인할 방법이 없으므로 중앙화된 애플리케이션보다 낫지 않습니다. AI 모델이 오픈 소스인 경우 공격자는 이를 다운로드하여 로컬에서 시뮬레이션하고 모델을 스푸핑하기 위해 여러 가지 최적화된 공격을 고안한 다음 라이브 네트워크에서 재생할 수 있습니다.

지금쯤이면 일부 독자분들(또는 암호화폐를 잘 모르는 분들)은 저보다 앞서서 이렇게 생각하실지도 모릅니다: 잠깐만요! 우리에게는 훌륭한 영지식 증명과 기타 멋진 암호학적 트릭이 있습니다. 물론, 우리는 몇 가지 암호학적 마술을 통해 모델의 내부 작동을 숨겨 공격자가 공격을 최적화할 수 없도록 하는 동시에 모델이 올바르게 실행되고 있고 합리적인 기본 데이터 세트에 대한 합리적인 훈련 프로세스를 사용하여 구축되었음을 증명할 수 있습니다!

일반적으로 이것은 제가 다른 글에서 주장했던 사고방식과 정확히 일치합니다. 하지만 AI 관련 연산에는 두 가지 주요 반대 의견이 있습니다.

• 암호화 오버헤드: SNARK(또는 MPC...)의 암호화 오버헤드는 특정 작업을 수행할 때 발생합니다. ...) 내부에서 특정 연산을 수행하는 것은 투명하게 수행하는 것보다 훨씬 덜 효율적입니다. AI가 이미 매우 연산 집약적이라는 점을 고려할 때 암호화 블랙박스에서 AI 연산을 수행하는 것이 가능할까요?

• 블랙박스 적대적 머신러닝 공격: 모델의 내부를 몰라도 AI 모델에 대한 공격을 최적화할 수 있는 방법이 있습니다. 너무 많은 것을 숨기면 학습 데이터를 선택한 사람들이 독성 공격으로 모델을 쉽게 손상시킬 수 있는 위험이 있습니다.

두 가지 모두 복잡한 토끼굴이므로 차례로 살펴보겠습니다.

(1) 암호화 오버헤드

암호화 도구, 특히 ZK-SNARK나 MPC와 같은 일반적인 도구는 오버헤드가 높습니다. 클라이언트가 이더리움 블록을 직접 검증하는 데는 수백 밀리초가 걸리지만, 이러한 블록의 정확성을 증명하기 위해 ZK-SNARK를 생성하는 데는 몇 시간이 걸릴 수 있습니다. 다른 암호화 도구(예: MPC)의 일반적인 오버헤드는 훨씬 더 클 수 있습니다. 가장 강력한 LLM은 개별 단어를 사람이 읽을 수 있는 속도보다 조금 더 빠르게 출력할 뿐 아니라, 이러한 모델을 훈련하는 데 필요한 수백만 달러의 계산 비용은 말할 것도 없습니다. 최고의 모델과 훈련 비용이나 공변량 수를 조금이라도 더 절약하려는 모델 사이에는 품질에 큰 차이가 있습니다. 언뜻 보기에 이는 인공지능을 암호화로 감싸서 안전장치를 강화하려는 전체 프로젝트의 시도에 의문을 제기할 수 있는 좋은 이유입니다.

다행히도 AI는 구조적으로 매우 특정한 유형의 계산이므로 ZK-EVM과 같은 '비정형' 유형의 계산이 활용할 수 없는 다양한 최적화에 적응할 수 있습니다. AI 모델의 기본 구조를 살펴보겠습니다.

일반적으로 AI 모델은 주로 ReLU 함수(y = max(x,0))와 같이 요소에 대한 비선형 연산이 산재되어 있는 일련의 행렬 곱셈으로 구성됩니다. 행렬 곱셈은 대부분의 작업을 차지합니다. 두 개의 N*N 행렬을 곱하는 데는 시간이 걸리지만 비선형 연산의 수는 훨씬 적습니다. 많은 형태의 암호화에는 선형 연산이 거의 필요하지 않기 때문에 이는 암호화에 매우 편리합니다(입력이 아닌 모델만 암호화하는 경우 행렬 곱셈은 선형 연산입니다).

암호 전문가라면 동형 암호화에서도 비슷한 현상이 발생한다는 사실을 들어보셨을 것입니다. 암호화된 암호문에서 덧셈을 수행하는 것은 매우 쉽지만 곱셈을 수행하는 것은 매우 어렵기 때문에 2009년에야 무한대 깊이로 곱셈하는 방법을 찾아냈습니다.

ZK-SNARK와 동등한 2013년 프로토콜은 행렬 곱셈의 오버헤드가 4배 미만이라는 것을 증명합니다. 안타깝게도 비선형 계층의 오버헤드는 여전히 상당하며, 실제로 가장 좋은 구현은 200배의 오버헤드를 보여줍니다. 하지만 향후 연구를 통해 이 영역의 오버헤드를 크게 줄일 수 있을 것이라는 희망이 있습니다.

그러나 많은 애플리케이션에서 AI의 결과가 계산적으로 정확하다는 것을 증명하는 것뿐만 아니라 모델을 숨기고 싶어합니다. 이를 위한 간단한 방법은 모델을 분할하여 여러 서버가 레이어를 중복 저장하고, 특정 레이어에서 데이터를 유출하는 특정 서버가 너무 많은 데이터를 유출하지 않기를 바라는 것입니다. 하지만 특히 효과적인 다자간 계산 방법도 있습니다.

두 경우 모두 AI 계산에서 가장 중요한 부분은 행렬 곱셈이므로 매우 효율적인 ZK-SNARK 또는 MPC(또는 FHE)를 생성할 수 있으므로 AI를 크립토 박스에 넣는 총 오버헤드가 매우 낮다는 점은 동일합니다. 일반적으로 비선형 레이어는 규모는 작지만 가장 큰 병목 현상이 발생하며, 룩업 인수와 같은 최신 기술이 도움이 될 수 있습니다.

(2) 블랙박스 적대적 머신 러닝

이제, 또 다른 큰 문제인 모델의 콘텐츠가 비공개이고 모델에 대한 'API 액세스 권한'만 있는 경우 어떤 유형의 공격을 수행할 수 있을지에 대해 살펴봅시다. 다음은 2016년의 기사에서 인용한 내용입니다.

많은 머신 러닝 모델이 적대적 예제에 취약합니다. 특수하게 설계된 입력으로 인해 머신 러닝 모델이 잘못된 출력을 생성할 수 있습니다. 한 모델에 영향을 줄 수 있는 적대적 예제는 일반적으로 두 모델이 서로 다른 아키텍처를 가지고 있거나 서로 다른 학습 세트에서 학습된 경우에도 두 모델이 동일한 작업을 수행하도록 학습된 한 다른 모델에 영향을 미칠 수 있습니다. 결과적으로 공격자는 자신의 대체 모델을 훈련하고, 대체 모델에 대한 공격 사례를 다듬은 다음, 피해자 모델에 대한 정보가 거의 또는 전혀 없는 상태에서 이를 피해자 모델에 사용할 수 있습니다.

잠재적으로는 공격하려는 모델에 대한 접근 권한이 매우 제한적이거나 전혀 없는 경우에도 학습 데이터만 알고 있는 공격을 만들 수 있습니다. 2023년에도 이러한 종류의 공격은 여전히 큰 문제가 될 것입니다.

이러한 블랙박스 공격을 효과적으로 방어하려면 다음 두 가지를 수행해야 합니다.

• 모델에 쿼리할 수 있는 사람과 그 양에 대한 실질적인 제한. API 액세스가 무제한인 블랙박스는 안전하지 않으며, API 액세스가 매우 제한된 블랙박스는 안전할 수 있습니다.

• 학습 데이터를 숨기면서 데이터를 생성하는 데 사용된 프로세스가 손상되지 않도록 보장합니다.

이 첫 번째 작업을 가장 잘 수행한 프로젝트는 프로토콜 수준에서 인공 지능 모델을 광범위하게 사용하여 홍채 스캔을 짧은 "홍채 코드"로 변환하여 유사성을 쉽게 비교할 수 있을 뿐만 아니라 스캔하는 대상이 실제로 사람인지 확인할 수 있는 Worldcoin입니다. 월드코인이 사용하는 주요 방어책은 누구도 AI 모델을 쉽게 호출할 수 없도록 하는 대신 신뢰할 수 있는 하드웨어를 사용하여 모델이 오브 카메라에 의해 디지털 서명된 입력만 받아들이도록 하는 것입니다.

이 접근 방식이 항상 효과적인 것은 아닙니다. 얼굴에 착용할 수 있는 물리적 패치나 장신구 형태로 생체 인식 AI에 대한 적대적 공격을 가할 수 있다는 사실이 밝혀졌습니다.

이미지 src="https://img.jinse.cn/7174536_watermarknone.png" title ="7174536" alt="5lEhdZJcHyXPUA9dVxLX27rffW8zx5abElLnfrdb.jpeg">하지만 모든 방어를 결합하고, AI 모델 자체를 숨기고, 쿼리 양을 대폭 제한하고, 각 쿼리에 대해 어떤 방식으로든 인증을 요구하면 공격을 충분히 어렵게 만들어 시스템을 안전하게 보호할 수 있습니다.

그렇다면 다음으로 학습 데이터를 어떻게 숨길 수 있을까요? 여기서 "민주적으로 관리되는 AI"가 등장할 수 있습니다. 누가 훈련 데이터를 제출할 수 있는지(그리고 어떤 데이터 관련 증명이 필요한지), 누가 쿼리할 수 있는지, 쿼리할 수 있는 양은 얼마인지, MPC와 같은 암호화를 사용하여 전체 AI를 얼마나 암호화할지 결정하는 과정을 관리하는 온체인 DAO를 만들 수 있습니다. 파이프라인 생성 및 실행(각 사용자의 학습 입력부터 각 쿼리의 최종 출력까지). DAO는 동시에 데이터를 제출하는 사람들에게 보상을 제공할 수도 있습니다.

이 계획은 야심찬 계획이며 여러 가지 면에서 비실용적일 수 있다는 점을 다시 한 번 강조하는 것이 중요합니다.

• 이 전체 블랙박스 아키텍처의 경우, 암호화 오버헤드가 가 여전히 너무 높아서 기존의 폐쇄적인 "나를 믿어라" 접근 방식과 경쟁하기 어려울 수 있습니다.

• 그 결과 학습 데이터 제출 프로세스를 탈중앙화하고 유해한 공격을 방지할 수 있는 좋은 방법이 없을 수 있습니다.

• 다자간 컴퓨팅 도구의 보안 또는 프라이버시 보장은 참여자들의 담합으로 인해 손상될 수 있으며, 이는 암호화폐 크로스체인 브리지에서 여러 차례 발생했던 문제입니다.

이 섹션을 시작하면서 "인공지능 판사가 되지 마세요, 반유토피아적입니다"라는 큰 빨간 경고 문구를 넣지 않은 이유 중 하나는 우리 사회가 이미 무책임하고 중앙화된 인공지능 판사에 대한 의존도가 높기 때문입니다. 예를 들어 소셜 미디어에서 어떤 게시물과 정치적 견해를 표현할지 결정하는 것은 우리가 할 수 있는 가장 중요한 일이 될 것입니다. 소셜 미디어에서 어떤 게시물과 정치적 견해를 드러낼지, 아니면 검열할지 결정하는 알고리즘이 가장 중요해질 것입니다. 저는 현 단계에서 이러한 추세를 더 확장하는 것은 매우 나쁜 생각이라고 생각하지만, 블록체인 커뮤니티에서 더 많은 AI 실험이 이루어질수록 상황이 더 나빠질 것이라고 생각합니다.

사실, 암호화폐가 기존의 중앙화된 시스템을 개선할 수 있는 매우 위험도가 낮은 기본적인 방법이 몇 가지 있으며, 저는 이를 매우 확신합니다. 소셜 미디어 사이트가 AI를 기반으로 게시물의 순위를 매길 때, 해당 순위를 생성한 모델의 해시를 증명하기 위해 ZK-SNARK를 게시하여 게시를 지연시킴으로써 AI를 검증하는 간단한 기술이 있습니다. 이 사이트는 1년 후에 AI 모델을 공개하겠다고 약속할 수 있습니다. 모델이 게시되면 사용자는 해시를 확인하여 올바른 모델이 게시되었는지 확인할 수 있으며, 커뮤니티는 해당 모델에 대한 테스트를 실행하여 공정성을 검증할 수 있습니다. 출시가 지연되면 모델이 공개될 때쯤에는 이미 오래된 모델이 될 수 있습니다.

따라서 문제는 중앙화된 세상에 비해 더 잘할 수 있느냐가 아니라 얼마나 더 잘할 수 있느냐입니다. 그러나 탈중앙화 세계에서는 누군가가 공격 가능한 것으로 판명된 AI 예측 머신을 사용하는 예측 시장이나 스테이블코인을 구축할 경우, 엄청난 금액이 순식간에 사라질 수 있다는 점을 주의해야 합니다.

4. 게임 타겟팅 AI

위와 같은 기술을 사용하여 아무도 알지 못하는 블랙박스를 실제로 실행할 수 있는 확장 가능한 탈중앙화 프라이빗 AI를 만들 수 있다면, 이는 블록체인을 넘어선 유용성을 가진 AI를 만드는 데에도 사용될 수 있습니다. NEAR 프로토콜 팀은 이를 지속적인 작업의 핵심 목표로 삼고 있습니다.

이 작업을 수행하는 이유는 두 가지입니다.

• 블록체인과 MPC를 사용하는 훈련 및 추론 프로세스를 실행하여 "신뢰할 수 있는 블랙박스 AI"를 만들 수 있다면, 이를 사용하여 "신뢰할 수 있는 블랙박스 AI"를 만들 수 있습니다. 블록체인과 MPC를 사용하는 훈련 및 추론 프로세스를 실행하여 '신뢰할 수 있는 블랙박스 AI'를 만들 수 있다면, 시스템이 편향되거나 스스로 거짓말을 할까봐 걱정하는 많은 애플리케이션이 이로부터 혜택을 받을 수 있습니다. 많은 사람들이 우리가 의존하게 될 시스템적으로 중요한 인공지능에 대한 민주적 거버넌스에 대한 기대를 표명하고 있으며, 암호화폐와 블록체인 기반 기술이 이를 달성할 수 있는 방법이 될 수 있습니다.

• AI 보안의 관점에서 볼 때, 이는 탈중앙화된 AI를 만드는 기술이면서 동시에 악의적인 행위를 위해 AI를 사용하려는 쿼리를 제한하는 자연스러운 종료 스위치를 갖춘 기술이 될 수 있습니다.

또 한 가지 주목할 점은 "암호학적 인센티브를 사용하여 더 나은 AI를 만들도록 장려하는 것"은 완전한 암호화를 위해 암호화를 사용하지 않고도 가능하다는 점입니다. 비트텐서와 같은 사례가 이 범주에 속합니다.

결론

블록체인과 AI는 모두 점점 더 강력해지고 있으며, 이 두 분야의 교차점에서 점점 더 많은 사용 사례가 등장하고 있습니다. 그러나 이러한 사용 사례 중 일부는 다른 사용 사례보다 더 관련성이 높고 강력합니다. 일반적으로 이러한 사용 사례는 기본 메커니즘은 이전과 같이 조잡하게 설계되었지만 개별 플레이어가 AI로 전환되어 메커니즘이 더 작은 규모에서 효과적으로 작동할 수 있을 때 가장 유망하고 실현하기 쉬운 경향이 있습니다.

블록체인과 암호화를 사용하여 "단일 인스턴스"를 생성하려는 애플리케이션은 일부 애플리케이션이 특정 목표를 달성하기 위해 의존할 탈중앙화되고 신뢰할 수 있는 단일 AI를 만드는 가장 큰 도전에 직면하게 될 것입니다. 이러한 애플리케이션은 기능과 향상된 AI 보안 측면에서 모두 유망하며, 주류 접근 방식과 관련된 중앙 집중화를 피할 수 있습니다. 보다 주류적인 접근 방식과 관련된 중앙 집중화 위험이 있습니다. 그러나 여러 가지 면에서 기본 가정이 실패할 수도 있으므로 특히 가치가 높고 위험이 높은 환경에 이러한 애플리케이션을 배포할 때는 주의가 필요합니다.

이 모든 교차점에서 AI의 건설적인 사용 사례에 대한 더 많은 시도를 통해 어떤 것이 실제로 효과가 있는지 확인할 수 있기를 기대합니다.