AI의 미래에 대한 대조적인 관점

기술 업계에서 가장 저명한 두 사람이 인공지능(AI)의 미래에 대해 서로 다른 견해를 제시하며 혁신과 안전 사이의 긴장이 고조되고 있음을 강조했습니다.

일요일 블로그 게시물에서 ,OpenAI CEO 샘 알트만 는 인공 지능(AGI)을 향한 가속화로 주간 활성 사용자 수가 3억 명 이상으로 3배 이상 증가했다고 밝혔습니다.

Altman 는 2025년까지 AI 에이전트가 '인력에 합류'하여 비즈니스 생산성에 큰 영향을 미칠 것으로 예측하면서 OpenAI의 AGI 구축 능력에 자신감을 표명했습니다.

그는 또한 '초지능'을 개발하겠다는 야망을 암시했지만, 실현 일정은 아직 불분명합니다.

한편, 알트먼의 발표가 있기 몇 시간 전,이더리움 공동 창립자 비탈릭 부테린 는 블록체인 기술을 활용하여 위험 신호가 발생하면 대규모 AI 작업을 일시적으로 중단시킬 수 있는 '소프트 일시 중지' 기능을 포함한 AI 시스템의 글로벌 안전장치 메커니즘을 구현할 것을 제안했습니다.

AI에는 강력한 안전 메커니즘이 필요합니다

부테린은 분산/방어 가속 또는 분산/방어 가속이라는 개념을 소개했습니다. 를 통해 기술 발전에 보다 신중하게 접근하고 있습니다.

무분별한 성장을 옹호하는 'e/acc(효과적인 가속)'와 달리, d/acc는 안전과 인간의 자율성을 우선시하면서 혁신을 지원합니다.

마크 안드레센과 같은 실리콘밸리의 유명 인사들은 '어떤 대가를 치르더라도 성장해야 한다'는 사고방식을 지지한 반면, 부테린의 모델은 우선 방어 구조를 구축하는 것을 강조합니다.

부테린은 이렇게 썼습니다:

D/acc는 암호화폐의 기본 가치(탈중앙화, 검열 저항, 개방형 글로벌 경제 및 사회)를 다른 기술 영역으로 확장한 것입니다;

지난 한 해 동안의 d/acc의 진화를 되돌아봅니다,부테린 는 영지식 증명과 같은 기존 암호화 메커니즘을 활용하여 AGI와 초지능 시스템을 위한 보다 신중한 경로를 제안했습니다.

그의 프레임워크에 따르면, AI 시스템이 계속 작동하려면 세 개의 국제 단체로부터 매주 승인을 받아야 합니다.

부테린은 이렇게 설명했습니다:

서명은 기기에 독립적이므로(원하는 경우 블록체인에 게시되었다는 영지식 증명을 요구할 수도 있습니다), 다른 모든 기기를 승인하지 않고 한 기기를 계속 실행하도록 승인할 수 있는 실질적인 방법은 없습니다."& Quot;;

이 설정은 마스터 스위치처럼 작동하여 승인된 모든 컴퓨터가 동시에 실행되거나 실행되지 않도록 하여 선택적 시행을 방지하고 잠재적인 재해에 대한 안전장치를 제공합니다:

이러한 중요한 순간이 오기 전까지는 소프트 일시 중지 기능만 있어도 개발자에게는 거의 해가 되지 않습니다."라고 말합니다;

AI 준비 여부는?

이 제안은 AI 발전과 안전의 균형을 맞추는 방법에 대한 업계 내 지속적인 논의를 강조합니다.

글로벌 통제 시스템을 옹호하는 사람들은 이를 달성하기 위해서는 AI 개발자, 정부, 암호화폐 부문 간의 전례 없는 협력이 필요하다고 주장합니다.

부테린은 덧붙였습니다:

1년의 '전시 모드'는 안주하는 조건에서는 100년의 노력과 맞먹을 수 있습니다. 사람을 제한해야 한다면 한 쪽이 다른 쪽을 지배하려고 하는 대신 모든 사람을 동등한 입장에서 제한하고 실제로 협력하여 조직하려는 노력을 하는 것이 더 나은 것 같습니다."

다양한 관점이 존재하지만, 핵심적인 질문은 여전히 남아 있습니다: AI는 발전을 위한 준비가 되어 있는가, 아니면 앞으로 나아가기 전에 강력한 안전장치가 필수적인가?