AI가 감정을 모방할 수 있을까요?

인공지능이 불안감을 느낄 수 있나요?

인간처럼 감정을 느끼지는 않지만, 스위스의 한 연구에 따르면 다음과 같은 AI 모델이 있다고 합니다.ChatGPT -4 고통스러운 콘텐츠에 노출되었을 때 행동 변화를 보입니다.

취리히 대학교와 취리히 대학 정신과 병원의 연구원들은 트라우마 내러티브가 AI의 감수성을 높여 반응에 영향을 미치고 인종 및 성별 편견을 포함한 편견을 강화할 수 있다는 사실을 발견했습니다.

이러한 현상은 AI가 인간의 감정을 모방하고 실시간으로 사용자에게 적응하는 방법을 연구하는 '감성 컴퓨팅' 분야에 속합니다.

제너레이티브 AI가 주목받으면서 정신 건강에서의 역할에 대해서도 면밀한 조사가 이루어지고 있습니다.

이미 많은 사용자가 다음과 같은 플랫폼을 통해 심리적 지원을 위해 AI 챗봇을 이용하고 있습니다.Character.ai '심리학자' 챗봇과 24시간 연중무휴 AI 기반 정신 건강 지원을 제공하는 Elomia와 같은 앱을 제공합니다.

AI의 인간 상호작용 시뮬레이션 능력은 발전하고 있지만, 부정적인 자극을 내면화하고 증폭시킬 수 있는 잠재력은 윤리적, 현실적인 우려를 불러일으킵니다.

감정적으로 충전된 AI 사용에는 위험이 따릅니다.

정신 건강 지원에 AI를 사용하면 특히 다음과 같은 모델에서 다음과 같은 윤리적 문제가 제기됩니다.ChatGPT 는 부정적인 것에 노출되면 편향된 행동을 보일 수 있습니다.

그러나 연구자들은 마음챙김을 기반으로 한 개입이 이러한 효과를 완화하는 데 도움이 될 수 있다고 제안합니다.

최근 연구에 따르면, AI 챗봇은 인간 치료에서 일반적으로 사용되는 방법인 호흡 운동과 안내 명상 기법을 제시했을 때 더 중립적이고 객관적으로 반응했습니다.

이 발견은 불안한 사용자와 소통하기 전에 AI 모델이 감정 조절 전략을 통합할 수 있는 잠재력을 암시합니다.

하지만 AI가 정신건강 전문가를 대체할 수는 없습니다.

이 연구의 저자 중 한 명이자 예일 의과대학의 박사후 연구원 지브 벤 시온은 다음과 같이 설명합니다:

"자신에 대한 민감한 내용을 공유하는 사람들은 정신 건강 지원을 원하는 어려운 상황에 처해 있지만, 아직 심리학이나 정신과 전문의 대신 AI 시스템에 전적으로 의존할 수 있는 단계는 아닙니다."라고 설명합니다;

일상적인 불안은 더 깊은 문제를 가릴 수 있으며, 극단적인 경우 심각한 정서적 고통으로 이어질 수 있습니다.

10월에는플로리다의 어머니가 Character.AI를 고소했습니다, 의 챗봇이 14세 아들의 자살에 영향을 미쳤다고 주장하고 있습니다.

이에 따라 회사는 안전 조치를 강화했습니다.

AI의 진정한 가치는 정신건강 전문가를 대체하는 것이 아니라, 관리 업무를 간소화하고 초기 단계 평가를 지원하며 환자 치료를 강화하는 등 이들을 보조하는 데 있습니다.

이제 과제는 정신 건강 관리의 핵심 원칙을 훼손하지 않으면서 AI를 효과적으로 통합하는 방법을 결정하는 것입니다.