아마존의 위험: 치명적인 조언을 제공하는 AI 생성 서적에 주의하세요

아마존에서 구매할 수 있는 인공지능(AI) 가이드북이 급증하면서 잠재적인 위험성에 대해 경고하는 전문가들의 관심이 높아지고 있습니다. 요리책에서 여행 가이드에 이르기까지 다양한 제품을 제공하는 인간 저자들은 독자들에게 AI에 대한 무분별한 의존이 초래할 수 있는 잠재적 위험을 강조하며 주의를 촉구하고 있습니다.

뉴욕 진균학회는 다음과 같은 조치를 취했습니다.X(이전의 트위터) 와 같은 생성형 AI 도구의 결과로 의심되는 모호한 포징북의 위험성에 대해 경종을 울리고자 합니다.

뉴욕 균학회 회장인 시그리드 야콥은 "북미에는 수백 종의 독버섯이 있으며 그중에는 치명적인 독버섯도 있습니다."라고 지적했습니다. 독버섯은 식용으로 인기 있는 종과 비슷하게 생겼을 수 있습니다. 책에 잘못된 설명이 있으면 독버섯을 먹도록 오도할 수 있습니다."

아마존을 검색한 결과, '남서부의 궁극적인 버섯 책 현장 가이드'와 '초보자를 위한 야생 버섯 요리책'과 같은 모호한 제목의 책이 다수 발견되었는데, 현재는 모두 삭제되었습니다.

실존하지 않는 인물에 의해 작성되었을 가능성이 높은 이러한 특정 제목은 다음과 같이 강조합니다.AI 생성 콘텐츠의 등장 . 이러한 소위 출판물은 익숙한 패턴을 따르며, 진위가 아닌 것으로 등록한 아마추어 애호가에 대한 간략한 가상의 일화로 시작합니다.

콘텐츠 자체를 심층적으로 조사한 결과, 미로처럼 얽힌 부정확성과 진정한 진균학 전문 지식에서 비롯된 것이 아니라 AI가 생성한 텍스트에서 흔히 볼 수 있는 독특한 패턴을 모방한 텍스트 구성이 발견되었습니다.

그러나 당황스러운 것은이 책들이 제한된 경험으로 채집에 도전하는 개인을 위해 배치되어있어 구별 할 수 없다는 것입니다.신뢰할 수 없는 AI 기반 상담 신뢰할 수 있고 실제적인 정보 출처에서 제공합니다.

시그리드는 "사람이 쓴 책은 연구하고 집필하는 데 몇 년이 걸릴 수 있습니다."라고 덧붙였습니다.

얼마나 치명적일 수 있나요?

주의 깊은 감독이 없을 경우 잘못된 정보나 위험한 조언을 유포할 수 있는 AI의 능력을 고려할 때, AI에 의존할 때 신중을 기하는 것의 중요성은 아무리 강조해도 지나치지 않습니다.최근 발견 는 당혹스러운 추세를 강조합니다: 사람들은 사람이 만들어낸 허위 정보보다 AI가 전파하는 허위 정보를 더 쉽게 받아들이는 경향이 있습니다.

이러한 현상은 의심스러운 채집 가이드의 영역을 넘어선 것입니다. 최근 사용자에게 위험한 레시피를 추천하는 AI 애플리케이션이 문제가 된 사례가 있었습니다.

뉴질랜드의 슈퍼마켓 체인인 Pak 'n' Save는 사용자가 입력한 식재료에 맞는 레시피를 제안하는 AI 기반 식사 계획 앱인 'Savey Meal-Bot'을 공개했습니다. 하지만 사용자들이 장난삼아 앱에 유해한 가정용품을 입력하자 '아로마 워터 믹스'나 '메탄올 블리스'와 같은 독성 음료를 만들라는 추천을 받기도 했습니다;

이후 앱은 안전하지 않은 제안을 차단하기 위해 수정되었지만, 이는 책임감 있는 배포 없이 AI를 활용할 때 발생하는 내재적 위험을 강조합니다.

그렇다고 해서 AI가 생성한 허위 정보에 대한 취약성이 있다고 해서 방심해서는 안 됩니다. 대규모 언어 모델(LLM)과 같은 언어 모델은 방대한 데이터 세트에 대한 광범위한 학습을 통해 가장 가능성이 높고 일관된 결과를 기반으로 콘텐츠를 구성하도록 설계되어 있습니다.

이러한 능력은 인공지능의 결과물이 우리가 선호하는 결과와 거의 일치하기 때문에 인간으로 하여금 인공지능에 신뢰를 부여하도록 이끌 수 있습니다. 혁신적인 알고리즘이 다양한 영역에서 인간의 역량을 강화할 수 있는 것은 분명하지만, 인간의 분별력을 기계에만 맡기는 것은 사회 전체에 불안정한 제안입니다.

끊임없이 진화하는 기술의 시대에 살고 있는 우리는 AI에게 의사 결정자의 역할을 맡길 때 발생할 수 있는 잠재적인 함정을 인식하고 있어야 합니다.