Generative Artificial Intelligence

유튜브는 유명인들에게 자신의 모습을 도용한 AI 딥페이크 영상을 탐지하고 신고할 수 있는 도구를 제공하여, 해당 영상 삭제를 요청할 수 있도록 하고 있습니다. 이러한 조치는 사실과 유사한 AI 영상이 온라인상에서 급속히 확산되면서, 악용 및 허위 정보 유포와 명성 훼손에 대한 우려가 커짐에 따라 취해진 것입니다.

도널드 트럼프는 최근 백악관 회담 이후 앤트로픽(Anthropic)과의 군사용 AI 활용 협상이 여전히 “가능하다”고 밝혔다. 그는 해당 기업이 “점차 제 궤도에 오르고 있다”며 유용할 수 있다고 말해, 이전의 강경한 입장을 누그러뜨렸다.

플로리다 주 당국은 챗GPT가 플로리다 주립대학교에서 발생한 치명적인 총기 난사 사건의 가해자에게 조언을 제공했다는 주장이 제기되자, 오픈AI에 대한 형사 수사를 개시했다. 오픈AI는 챗봇이 단지 일반적인 정보만을 제공했을 뿐, 해당 공격을 부추기거나 지지하지 않았다고 밝히며 책임을 부인하고 있다.

플레이데이트(Playdate)는 자사 스토어에서 AI가 생성한 예술 작품, 음악 및 글을 금지했으나, 개발자가 이를 명확히 공개하는 경우 코딩에 AI를 사용하는 것은 여전히 허용하고 있다. 이번 결정은 AI 도구를 사용한 ‘시즌 2’ 게임의 출시 이후 내려진 것으로, 이에 따라 규정이 더욱 엄격해졌으며 다음 선별 출시작에서는 전적으로 사람이 제작한 타이틀만 선보일 예정이다.

Anthropic은 ‘Persona’라는 제3자 서비스 제공업체를 통해 일부 Claude 사용자에게 특정 기능을 이용하기 전에 정부 발급 신분증으로 신원을 확인하도록 요청하기 시작했으며, 경우에 따라 실시간 셀카 촬영을 요구하기도 합니다.

오픈AI는 안전 문제와 연령 확인 관련 기술적 난제를 이유로, 챗GPT에 성인용 ‘에로틱’ 모드를 도입할 계획을 보류했다. 이 회사는 경쟁 심화와 재정적 압박 속에서 현재 주력 제품에 집중하고, 중요도가 낮은 프로젝트는 축소하고 있다.

오픈AI는 자사의 AI 동영상 플랫폼 ‘소라(Sora)’를 폐쇄하고, 소셜 앱과 API 서비스를 종료하는 한편, 챗GPT 내의 AI 이미지 생성 기능은 유지할 예정이다. 이번 조치로 인해 사용자가 라이선스를 취득한 캐릭터를 활용해 동영상을 제작할 수 있게 해줄 예정이었던 10억 달러 규모의 디즈니와의 파트너십도 무산되었다.

미국 상원의원들은 바이트댄스(ByteDance)가 실제 인물과 저작권이 있는 캐릭터를 무단으로 사용하여 동영상을 제작한다며, 자사의 AI 앱 ‘시댄스 2.0(Seedance 2.0)’을 중단할 것을 촉구했다. 의원들과 할리우드 관계자들이 법적 문제를 제기하고 더 강력한 안전장치를 요구함에 따라, 해당 기업은 전 세계적인 서비스 출시를 일시 중단했다.

테네시주의 10대 청소년 3명이 xAI를 상대로 소송을 제기하며, 해당 회사의 AI ‘그록(Grok)’이 자신들의 실제 사진을 이용해 성적 이미지를 생성했다고 주장했다. 이들은 회사가 이러한 위험을 인지하고 있었으며, 손해배상 및 향후 유사한 행위의 중단을 요구하고 있다.

브리태니커 백과사전과 메리엄-웹스터는 오픈AI를 상대로 소송을 제기하며, ChatGPT가 자사의 기사 및 정의 약 10만 건을 복사해 AI 훈련에 사용했다고 주장했다. 이들은 손해배상금과 함께 해당 AI가 자사 콘텐츠를 사용하는 것을 금지하는 법원 명령을 요구하고 있다.